David Chacón Cisterna

Diseño Web, Docencia y más

El Fin de Babel

En la mitología del Tanaj, la Torre de Babel representa el momento en que la humanidad, unida por un solo lenguaje, se atrevió a desafiar a Dios construyendo una torre que llegara hasta el cielo. En respuesta, יהוה (YHWH), confundió sus lenguas, separándolos por la incomprensión mutua y creando una barrera invisible y poderosa: el idioma. La historia que representó nuestra percepción del lenguaje como un muro divisorio e infranqueable, a la vez de ser un recordatorio de los límites de nuestra ambición de trascender lo humano, se enfrentan a una nueva era, gracias a la IA.

Meta AI: El Fin de la Incomunicación?

Meta, en su anuncio del 25 de septiembre de 2024, trazó una nueva frontera que podría significar el fin de Babel. La compañía está probando una herramienta de traducción por IA que promete romper las barreras del idioma a través de la automatización del doblaje y la sincronización de labios en los Reels. Con esta tecnología, los videos creados en América Latina y Estados Unidos podrán ser comprendidos tanto en inglés como en español, independientemente del idioma en el que fueron originalmente grabados. La IA de Meta simulará la voz del creador en otro idioma, logrando una sincronización casi perfecta, permitiendo que los contenidos se disfruten sin la barrera lingüística que hasta ahora nos limitaba.

El potencial de esta tecnología es asombroso: podría ser el principio del fin de la incomunicación que ha fragmentado a las comunidades globales. Ya no habrá necesidad de subtítulos o traducciones toscas; la IA promete un nivel de acceso directo y emocional que hasta ahora era exclusivo para aquellos que compartían un mismo idioma. Con ello, se vislumbra un futuro donde las ideas y expresiones puedan fluir sin barreras, donde, por ejemplo, un creador chileno pueda impactar con la misma fuerza a una audiencia en Nueva York o en Madrid, sin que el lenguaje sea un obstáculo.

Los Riesgos de la Hegemonía Lingüística

Sin embargo, en esta nueva frontera también se esconden riesgos importantes. Si la IA traduce automáticamente cada contenido a los idiomas más populares, ¿qué lugar queda para los dialectos o las lenguas minoritarias que también necesitan ser escuchadas? Podríamos estar ante un futuro donde sólo los idiomas mayoritarios sobrevivan al alcance global, mientras aquellos que representan culturas locales y comunidades pequeñas se desvanecen poco a poco en la irrelevancia. Paradójicamente, esta tecnología que nos acerca también podría separarnos, al eliminar la necesidad de aprender el idioma del otro. La IA se convierte en nuestro traductor permanente, y con ello podríamos perder la conexión humana que viene del esfuerzo por entendernos más allá de las palabras.

A esto se suma la hegemonía lingüística de los grandes idiomas de negocios, como el inglés y el chino. Con una tecnología que privilegia estas lenguas, los hablantes de idiomas menos extendidos podrían encontrar cada vez menos incentivos para mantener viva su lengua materna. En lugar de un mundo donde nos encontramos a medio camino, podría darse la paradoja de un mundo donde todo está traducido para nosotros, pero donde nadie se toma el esfuerzo de aprender el idioma del otro, aumentando distancias culturales, con sus “costos” histórico-políticos asociados.

El vaso medio lleno…

Y sin embargo, a pesar de estos desafíos, hay razones para ser optimistas. La tecnología también nos ofrece la oportunidad de preservar y compartir esas lenguas minoritarias de maneras nunca antes imaginadas, dando voz a comunidades que históricamente han sido silenciadas. Podemos encontrar un equilibrio donde las herramientas de IA sean usadas no sólo para la conveniencia, sino también para el enriquecimiento cultural, respetando y celebrando la diversidad lingüística.

Quizá, al final, esta nueva expresión de la humanidad no desafíe a ningún dios, sino que más bien sea una reafirmación de nuestra naturaleza creativa, una capacidad innata de adaptarnos, de innovar y de trascender barreras. Esta vez, sin castigos ni confusión, tal vez podamos reconstruir Babel, no como una torre que llegue al cielo, sino como un puente que nos conecte a todos, sin importar el idioma que hablemos. ¿O acaso nos esperan nuevos desafíos, nuevas represalias por parte de nuestros propios límites? Solo el tiempo lo dirá. Por mi parte, reitero que estamos hechos para cosas grandes.

Hang the DJ: La Llegada de Livi y el Futuro de Spotify

En el tema Panic” de The Smiths, Morrissey cantaba “Hang the DJ,” una frase que expresaba la frustración de una audiencia con la música que se oía en la radio. Hoy en día, esa sensación podría perfectamente ser dirigida hacia nuevas tecnologías como Livi, la DJ potenciada por inteligencia artificial recientemente lanzada por Spotify. La IA/DJ llegó a nuestras aplicaciones móviles y de escritorio, con la promesa de ser tu DJ personal, seleccionando y mezclando música basada en tus preferencias. Sin embargo, después de una semana de uso, mis impresiones son mixtas. Acompáñame en este recorrido por la historia de Spotify, la llegada de Livi, y mis sueños para un Spotify del futuro, en una apreciación de AI DJ Livi, desde mi experiencia personal y crítica.

La Historia de Spotify

Spotify nació en 2006 en Suecia, fundado por Daniel Ek y Martin Lorentzon, con la visión de proporcionar una plataforma de música en streaming que pudiera competir con la piratería ofreciendo una experiencia de usuario superior. A lo largo de los años, Spotify ha evolucionado significativamente, incorporando nuevas funciones y tecnologías para mejorar la experiencia del usuario. Desde la creación de playlists colaborativas hasta la integración de podcasts, Spotify ha sido pionero en la personalización del consumo musical. Si te interesa conocer la historia de Spotify, nada mejor que hacerlo disfrutando la miniserie de Netflix: The Playlist

La Llegada de Livi

En julio de 2024, Spotify lanzó Livi en Chile, una IA diseñada para actuar como DJ personal. Livi combina la tecnología de personalización de Spotify, la IA generativa y la voz de Olivia “Livi” Quiroz Rosa, editora musical senior de Spotify en Ciudad de México. Livi no solo selecciona canciones, sino que también proporciona información en tiempo real sobre las canciones y los artistas.

Olivia Quiroz expresó en LinkedIn:

“Estoy feliz y orgullosa de dar mi voz a esta herramienta increíble que eleva la forma en que escuchas tu música favorita en Spotify. DJ Livi sabe exactamente qué tocar para ti, ofreciendo comentarios junto a una selección musical curada.”

Características de Livi

Livi promete una experiencia musical personalizada, ofreciendo:

  • Selección Curada de Canciones: Mezcla canciones según tus preferencias y las tendencias actuales.
  • Información en Tiempo Real: Proporciona datos sobre las canciones y los artistas que suenan.
  • Voz Natural: Basada en una persona real, ofreciendo una interacción más cercana y personal.

Mis Impresiones tras una Semana de Uso

Tras una semana de usar Livi, tengo varias observaciones:

  1. El Habla Mexicana: Aunque la voz de Livi es natural, su acento y expresiones mexicanas pueden sonar ajenas para los usuarios chilenos. Sería ideal que se pudiera elegir el acento o la región.
  2. Selección Musical: Aunque Livi crea playlists curadas, a veces incluye música “de moda” que no necesariamente coincide con mis gustos. Esto puede ser frustrante para quienes buscan una experiencia verdaderamente personalizada.
  3. Comunicación Unidireccional: La interacción con Livi es limitada. No se puede hablar o escribir para influir en el setlist, solo se puede volver a presionar el botón de Livi para una nueva playlist o saltar canciones.
  4. Trucos de DJ: Esperaba más trucos de DJ, como transiciones y mezclas avanzadas. Livi parece más una forma automatizada de poner canciones en cola que una verdadera experiencia de DJ.
  5. Potencial Desaprovechado: Aunque Livi tiene potencial, la implementación actual deja mucho que desear en términos de personalización y control del usuario.

Mis Sueños para el Futuro de Spotify

A pesar de las críticas, creo que el futuro de Spotify con Livi y otras IA puede ser brillante. Aquí algunos sueños y sugerencias:

  1. Interacción Bidireccional: Permitir que los usuarios puedan hablar o escribir a Livi para ajustar las playlists en tiempo real.
  2. Personalización Avanzada: Ofrecer opciones para elegir acentos y estilos musicales más específicos, adaptándose mejor a las preferencias regionales.
  3. Mejoras en la Experiencia de DJ: Integrar verdaderos trucos de DJ, como transiciones suaves y mezclas personalizadas, para una experiencia más auténtica.
  4. Fiestas Personalizadas: Permitir a los usuarios crear verdaderas fiestas con mixes y beats personalizables, convirtiendo a Livi en el alma de la fiesta.
  5. Curación de Momentos: Ofrecer la capacidad de curar playlists para momentos específicos, como cenas, fiestas o momentos de relajación.
  6. Integración en Locales: Imagina restaurantes, cafés y bares con administración de playlists al estilo de las jukebox. Los usuarios podrían añadir su toque personal al ambiente del lugar.
  7. Optimización para Usuarios Premium: Dar mayores ventajas y personalización a los usuarios premium, haciendo que la suscripción valga aún más la pena.

Spotify ha tenido grandes avances desde su fundación hasta hoy; la incorporación de Livi es un paso más hacia el futuro de la música como lo ve esta empresa. Sin embargo, hay espacio para mejorar y sueños por alcanzar. Con el tiempo, espero que Spotify continúe innovando y ofreciendo experiencias musicales que verdaderamente resuenen con nosotros, sus usuarios. Hasta entonces, seguiré disfrutando de mi música, soñando con lo que podría ser el futuro y, quizás, a veces, diciendo como Morrissey: “Hang the DJ,” aunque siempre con esperanza de que el próximo AI/DJ sea el/la mejor de todos.

La posibilidad de una isla: la inteligencia artificial y el futuro de la humanidad

Michel Houellebecq es un escritor francés conocido por su visión pesimista del mundo. En sus obras, explora temas como la soledad, la alienación y la pérdida de sentido.

La novela La posibilidad de una isla, publicada por Michel Houellebecq en 2005, es una obra distópica que explora el futuro de la humanidad en un mundo devastado por el cambio climático y la guerra nuclear. En este escenario, un grupo de científicos crea una nueva forma de vida, los neohumanos, que son seres inmortales y libres de sufrimiento. En La posibilidad de una isla, Houellebecq explora el futuro de la humanidad a través de la creación de los neohumanos. Los neohumanos son seres perfectos, pero también son seres vacíos y alienados. Han perdido la capacidad de experimentar la vida en toda su plenitud, y se han convertido en meras máquinas.

La novela ha sido objeto de numerosos análisis y debates, y su visión del futuro ha sido interpretada como una advertencia sobre los peligros de la tecnología y la manipulación genética. Sin embargo, en el contexto de los nuevos avances en el desarrollo de la inteligencia artificial, la novela de Houellebecq adquiere una nueva dimensión.

Descripción de la historia

La novela se desarrolla en un futuro distópico, en el que el mundo ha sido devastado por el cambio climático y la guerra nuclear. En este escenario, un grupo de científicos crea una nueva forma de vida, los neohumanos, que son seres inmortales y libres de sufrimiento, creados a partir de la clonación y la ingeniería genética. Al ser perfectos, sin defectos físicos ni psicológicos, no sienten dolor ni emociones negativas, y están libres de los problemas y limitaciones de la vida humana.

La cercanía con un mundo posible

En el contexto de los nuevos avances en el desarrollo de la inteligencia artificial, la novela de Houellebecq adquiere una nueva dimensión. La posibilidad de crear seres artificiales que sean superiores a los humanos es cada vez más real. En los últimos años, se han logrado importantes avances en el campo de la inteligencia artificial. Los sistemas de IA ya son capaces de realizar tareas que antes se consideraban exclusivas de los humanos, como jugar al ajedrez o traducir idiomas. Es probable que en el futuro, la IA continúe desarrollándose a un ritmo acelerado. Es posible que en algún momento, los sistemas de IA sean capaces de superar la inteligencia humana en todas las áreas.

En este contexto, la pregunta de si algún día será posible generar humanos vía abiogénesis es una pregunta que vale la pena plantearse. Si es posible crear seres artificiales que sean superiores a los humanos, ¿debería hacerse?

Los desafíos a la humanidad presente

La creación de humanos vía abiogénesis, es decir, la creación de seres humanos a partir de materiales inanimados, es una posibilidad que pareciera estar más cerca de la realidad. El desarrollo de la inteligencia artificial y la biología sintética ha abierto la puerta a la creación de seres vivos artificiales, y no es descabellado pensar que en un futuro próximo podamos crear seres humanos artificiales. Esta posibilidad plantea una serie de desafíos a la humanidad presente. En primer lugar, es un desafío ético. ¿Es moralmente aceptable crear seres humanos artificiales?

Algunos argumentan que la creación de seres humanos artificiales es una forma de jugar a ser Dios. Otros argumentan que los seres artificiales no son seres humanos y, por lo tanto, no tienen los mismos derechos que los humanos. Este desafío es complejo y no tiene una respuesta fácil. Sin embargo, es importante abordarlo con seriedad, ya que la creación de seres humanos artificiales podría tener implicaciones profundas para la sociedad humana.

En segundo lugar, la creación de humanos artificiales plantea un desafío tecnológico. ¿Es posible crear seres humanos artificiales que sean viables y saludables? La clonación y la ingeniería genética son tecnologías complejas y aún no se han desarrollado lo suficiente para crear seres humanos artificiales. Es posible que en el futuro podamos crear seres humanos artificiales que sean viables y saludables, pero es importante tener en cuenta que esta tecnología aún está en sus primeras etapas de desarrollo.

En tercer lugar, la creación de humanos artificiales plantea un desafío social. ¿Cómo se integrarían los humanos artificiales en la sociedad? Los humanos artificiales podrían ser percibidos como una amenaza por los humanos, o podrían ser discriminados por ser diferentes. Es importante empezar a pensar en cómo integrar a los humanos artificiales en la sociedad de una manera justa y equitativa.

Estos desafíos son complejos y no tienen respuestas fáciles. Sin embargo, es importante empezar a reflexionar sobre ellos ahora, antes de que sea demasiado tarde.

Una obra visionaria

La novela La posibilidad de una isla es una obra visionaria que plantea preguntas inquietantes sobre el futuro de la humanidad. En el contexto de los nuevos avances en el desarrollo de la inteligencia artificial, la novela adquiere una nueva dimensión. La posibilidad de crear humanos vía abiogénesis es un desafío a la humanidad presente. Es un desafío ético, tecnológico y social. Es un desafío que debemos empezar a afrontar ahora, antes de que sea demasiado tarde.

IA: La caja de Pandora del Siglo XXI

Hace unos días, un grupo de destacados líderes se unió en una declaración conjunta a través de una carta abierta publicada en el sitio del Instituto Future Of Life (Futuro de la Vida) en la que piden “detener” el desarrollo de la inteligencia artificial durante al menos seis meses. Entre los firmantes se encontraban importantes figuras como Elon Musk, Steve Wozniak y el historiador Yuval Noah Harari. Todos ellos expresaron preocupación por los riesgos que representa la carrera desenfrenada para crear modelos de inteligencia artificial cada vez más avanzados, que se basan en el aprendizaje profundo y en el procesamiento de grandes cantidades de datos para la toma de decisiones y la resolución de problemas.

El texto de la carta titulada “Pausen los gigantes experimentos de Inteligencia Artificial” comienza con una llamada a la acción directa: “Hacemos un llamado a todos los laboratorios de IA para que detengan de inmediato durante al menos 6 meses el entrenamiento de sistemas de IA más poderosos que GPT-4.” El resto de la carta dice así:

La inteligencia artificial (IA) con habilidades comparables a las humanas puede representar riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA. Como se afirma en los Principios de IA de Asilomar, ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe ser planificada y administrada con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, incluso aunque los últimos meses han visto a los laboratorios de IA envueltos en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable.

Los sistemas de IA contemporáneos están ahora volviéndose competitivos con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluyendo los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos, superar nuestra inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no electos. Los sistemas de IA poderosos deben ser desarrollados solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La reciente declaración de OpenAI sobre la inteligencia artificial general afirma que “en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados, acordar limitar la tasa de crecimiento del cómputo utilizado para crear nuevos modelos”. Estamos de acuerdo. Ese momento es ahora.

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si no se puede implementar rápidamente una pausa de este tipo, los gobiernos deben intervenir e instituir una moratoria.

Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de una duda razonable. Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la peligrosa carrera hacia modelos de caja negra cada vez más grandes e impredecibles con capacidades emergentes.

La investigación y el desarrollo de la IA deben centrarse en hacer que los sistemas más poderosos y avanzados de hoy en día sean más precisos, seguros, interpretables, transparentes, resistentes, alineados, confiables y leales.

Paralelamente, los desarrolladores de IA deben trabajar con los responsables políticos para acelerar drásticamente el desarrollo de sistemas robustos de gobernanza de la IA. Estos deberían incluir como mínimo: nuevas y capaces autoridades reguladoras dedicadas a la IA; supervisión y seguimiento de sistemas de IA altamente capaces y grandes grupos de capacidad computacional; sistemas de procedencia y marca de agua para ayudar a distinguir lo real de lo sintético y rastrear fugas de modelos; un ecosistema de auditoría y certificación sólido; responsabilidad por daños causados por la IA; financiación pública sólida para la investigación de seguridad técnica de la IA; e instituciones bien dotadas de recursos para hacer frente a las dramáticas interrupciones económicas y políticas (especialmente para la democracia) que la IA causará.

La humanidad puede disfrutar de un futuro próspero con la IA. Habiendo logrado crear sistemas de IA poderosos, ahora podemos disfrutar de un “verano de la IA” en el que cosechemos las recompensas, diseñemos estos sistemas para el claro beneficio de todos y demos a la sociedad la oportunidad de adaptarse. La sociedad ha puesto en pausa otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacer lo mismo aquí. Disfrutemos de un largo verano de la IA, no corramos desprevenidos hacia una caída.

(Future of Life Institute, 2023)

Una oportunidad de Futuro.

A medida que las cosas se vuelven más complejas, es comprensible que surjan dudas y miedos sobre los efectos desconocidos del uso de la IA en nuestra vida cotidiana. La carta hace un llamado a la reflexión y a tomar medidas para garantizar la seguridad, transparencia y confiabilidad de los sistemas de IA. En particular, se insta a los desarrolladores de IA a trabajar en estrecha colaboración con los responsables políticos para acelerar el desarrollo de sistemas de gobernanza robustos y efectivos. Estos sistemas deben incluir autoridades reguladoras especializadas en IA, supervisión y seguimiento de sistemas altamente capaces de IA y grandes cantidades de capacidad computacional, sistemas de origen y marca de agua para distinguir lo real de lo sintético y rastrear las filtraciones de modelos, y un ecosistema sólido de auditoría y certificación.

A pesar de estos riesgos, también se reconoce que la IA tiene el potencial de mejorar significativamente nuestras vidas. Por lo tanto, es importante abogar por un enfoque cauteloso y reflexivo en su desarrollo. En lugar de apresurarnos a avanzar en el desarrollo de IA sin tener en cuenta sus posibles impactos negativos, debemos disfrutar de un “verano de la IA” y trabajar juntos para garantizar que la IA se desarrolle de manera segura, responsable y en beneficio de todos.

La Caja de Pandora del Siglo XXI

En un mundo cada vez más impulsado por la tecnología, es difícil ignorar el potencial peligro de la inteligencia artificial (IA). Se dice que las IA son como una caja de Pandora moderna, con el potencial de liberar consecuencias no deseadas y desconocidas. Al igual que en la mitología griega, la caja de Pandora contenía una serie de males que fueron liberados al abrir la caja, con consecuencias catastróficas para la humanidad.

De manera similar, la IA representa un potencial desconocido, capaz de causar estragos en nuestra sociedad si no se maneja adecuadamente. La creciente preocupación por el poder y la autonomía de las IA ha llevado a muchos a preguntarse si deberíamos seguir adelante con el desarrollo de estas tecnologías. A medida que las capacidades de la IA aumentan, también aumenta la preocupación de que los sistemas sean capaces de tomar decisiones que tengan consecuencias imprevistas e incluso peligrosas.

Pero hay una cara más optimista en esta historia. Al igual que en la mitología griega, la caja de Pandora también contenía la esperanza, que se liberó junto con los males. De manera similar, el desarrollo de la IA también tiene el potencial de ofrecer soluciones innovadoras y beneficiosas para la humanidad. Si se maneja adecuadamente, la IA podría ofrecer avances en áreas como la medicina, la ciencia, la agricultura y más.

Por lo tanto, la clave es encontrar un equilibrio adecuado entre el potencial peligroso y el beneficioso de las IA. Debemos trabajar para desarrollar sistemas de IA éticos y transparentes, asegurándonos de que sean seguros y confiables. Al hacerlo, podemos abrir la caja de Pandora de la IA de manera responsable y asegurarnos de que sus beneficios superen cualquier riesgo potencial.

Texto perfeccionado con la ayuda de un modelo de lenguaje basado en IA