David Chacón Cisterna

Diseño Web, Docencia y más

La era de la Superinteligencia en palabras de OpenAI

El avance de la Inteligencia Artificial en los últimos años, ha pasado de ser mero desarrollo de software a convertirse en una fuerza tectónica que promete reescribir las reglas de la economía global, o al menos así es como lo ve uno de sus más entusiastas impulsores, el CEO de OpenAI, Sam Altman. El pasado 6 de abril de 2026, la empresa tecnológica publicó un documento que no habla de redes neuronales ni de parámetros técnicos, sino de algo mucho más profundo y ambicioso; un manifiesto titulado: “Política Industrial para la Era de la Inteligencia: Ideas para mantener a las personas en primer lugar”.

En 13 páginas, se reconoce desde el mismo corazón de Silicon Valley, que el mercado por sí solo no podrá gestionar la transición hacia la “superinteligencia” (sistemas capaces de superar a los humanos más brillantes, incluso cuando estos son asistidos por IA).

Como es habitual en este espacio, mi lectura de este tipo de manifiestos está cubierta de un optimismo cauteloso, ya que a la vez que creo firmemente en el poder de la tecnología para dar saltos cualitativos en el desarrollo humano, observo con especial atención las brechas estructurales de territorios como el nuestro, donde la irrupción de las tecnologías se vive de manera mucho más brutal y donde el impacto del desplazamiento y rezago laboral puede costarnos mucho más caro.

Los dos pilares del manifiesto.

El documento de OpenAI plantea que, así como la Revolución Industrial requirió el “New Deal” y nuevas leyes laborales, la era de la IA requiere una política industrial ambiciosa. Sus propuestas se dividen en dos grandes ejes:

1. Construir una Economía Abierta

OpenAI advierte que la IA destruirá y creará empleos, pero que las ganancias podrían concentrarse en pocas manos (incluyendo las de ellos mismos). Para evitarlo proponen:

  • El Derecho a la IA: Tratar el acceso a modelos fundacionales como una infraestructura básica, similar a la electricidad o el internet.
  • Modernización de la Base Tributaria: Mover la carga impositiva desde el trabajo humano (impuestos a la renta/planillas) hacia el capital y las ganancias impulsadas por la IA.
  • Fondo de Riqueza Pública: Crear fondos donde los ciudadanos compartan directamente los dividendos del crecimiento económico generado por la IA, independientemente de si invierten en la bolsa o no.
  • Dividendos de Eficiencia: Traducir el ahorro de tiempo generado por la IA en semanas laborales más cortas (4 días) manteniendo los salarios, y en mejores beneficios (salud, cuidado).
  • Economía del Cuidado: Reentrenar a los trabajadores desplazados hacia roles “centrados en el ser humano” (cuidado de ancianos, niños, salud comunitaria), subsidiando y mejorando los sueldos de estas áreas.

2. Construir una Sociedad Resiliente

  • A medida que la IA se vuelve más poderosa, los riesgos (cibernéticos, biológicos, desalineación) crecen exponencialmente.
  • Pila de Confianza (Trust Stack): Herramientas para verificar qué es IA y qué es humano (proveniencia) protegiendo la privacidad.
  • Regímenes de Auditoría y Contención: Creación de instituciones públicas y privadas que auditen los modelos antes de salir al mercado, y “manuales de contención” por si un sistema se vuelve peligroso.
  • Gobernanza Corporativa: Que las empresas de IA adopten estructuras orientadas al beneficio público y mecanismos de reporte de incidentes (incluso de “casi accidentes”).

¿Es aplicable este tipo de políticas en Chile?

Leer este documento desde la realidad local nos obliga a hacer un doble clic. Lo que en Estados Unidos suena a una modernización del Estado de Bienestar, en Chile choca con desafíos estructurales. Analicemos un par de puntos clave en comparativa.

1. Productividad y el “Dividendo de Eficiencia”

OpenAI sugiere que la IA permitirá trabajar 32 horas a la semana produciendo lo mismo o más. La realidad chilena nos muestra un panorama distinto. Según datos de la OCDE, Chile es uno de los países donde más horas se trabaja (cerca de 1.900 horas anuales), pero nuestra productividad laboral está estancada y se ubica muy por debajo del promedio de la organización. Tal vez aquí la apuesta de dar un salto en las Pymes con el uso de agentes de IA como estándar de la industria, nos permitan automatizar algunas de las tareas contables, de marketing o de logística, generando nuevos índices de productividad. Lo anterior contrasta tristemente con nuestros índices de informalidad laboral, cercanos al 27%. Un “dividendo de eficiencia” es invisible para el trabajador informal por cuenta propia. La política pública chilena deberá pensar entonces en cómo la IA formaliza y asiste a este sector, más allá del empleo formal.

2. Fondos de Riqueza Pública y la Matriz Tributaria

El documento sugiere gravar menos el trabajo y más al capital tecnológico, creando un Fondo de Riqueza Pública que pague dividendos a los ciudadanos. En Chile, la recaudación tributaria como porcentaje del PIB ronda el 21%, por debajo del promedio OCDE (34%). Nuestro debate tributario lleva años empantanado, con intentos infructuosos en la puesta en marcha de reformas tributarias, que sin apoyo de las cámaras, quedan reducidas a una sombra del proyecto inicial. Sin embargo, tenemos experiencia con fondos soberanos (como el Fondo de Estabilización Económica y Social, nutrido por el cobre y el litio). Así las cosas, ¿podría Chile estructurar su política de Data Centers y concesiones de energía renovable exigiendo no solo royalties tradicionales, sino una participación accionaria (o fondos ciudadanos) que se inyecten a un Fondo de Riqueza Soberano 2.0?

A diferencia de EE.UU., Chile no es dueño de la propiedad intelectual de la IA. Somos consumidores, usuarios, clientes. Por ende, no podemos gravar tan fácilmente las superganancias de las tecnológicas internacionales, a menos que actuemos en bloques multilaterales (como los impuestos digitales globales de la OCDE).

3. El Cuello de Botella Energético

OpenAI pide acelerar la expansión de la red eléctrica mediante alianzas público-privadas, ya que la IA demanda cantidades monumentales de energía. Aquí Chile tiene una ventaja comparativa global. Tenemos el desierto con mayor radiación solar del mundo y vientos excepcionales en el sur. Esto contrasta con nuestra infraestructura de transmisión. Se necesitan muchos años para aprobar proyectos debido a las tan necesarias regulaciones ambientales y una absolutamente evitable burocracia. Si queremos ser el punto verde de los Data Centers de IA que procesarán los datos del futuro, el Estado chileno deberá modernizar radicalmente su sistema de evaluación de impacto y construcción de líneas de alta tensión, asegurando que este consumo industrial no encarezca las cuentas de luz de las familias, como suele ocurrir.

4. La economía de cuidados como refugio.

En el manifiesto, se plantea absorber el desempleo tecnológico redirigiendo a las personas hacia la economía del cuidado, con énfasis en las infancias, la tercera edad y la salud mental. De acuerdo con las proyecciones, hacia 2050 un tercio de la población chilena será adulta mayor. Cuando comparto estos datos en clases con mapas demográficos dinámicos, mis estudiantes se sorprenden demasiado, dejando de manifiesto que el sistema de cuidados reviste una urgente revisión y priorización, ya que estos trabajos son actualmente los peor remunerados, altamente feminizados e invisibilizados, contribuyendo a brechas de injusticia laboral e insolvencias económicas y sociales. Si el Estado no interviene subsidiando y profesionalizando este sector, la transición será dolorosa (y también mi vejez).

Un nuevo pacto social de la mano de la IA

La industria de la IA está mostrando un nivel de madurez un poco mayor a la demostrada en sus inicios, conversando bajo un entendimiento de que la tecnología sin red de seguridad social termina en distopía social.

Como observador rezagado – en mi calidad de chileno, usuario y entusiasta de la IA y la tecnología en general-, mi apreciación se resume como la de un optimista y cauteloso. Optimista respecto a que herramientas como la IA en la salud pública pueden reducir listas de espera, predecir brotes de enfermedades y dar a nuestros científicos las herramientas para combatir el estrés hídrico de nuestra agricultura. La democratización de la inteligencia como un derecho social puede nivelar la cancha educativa como ninguna otra tecnología en la historia.

Sin embargo, soy cauteloso porque puesto en metáfora, digamos que la tecnología avanza en un ascensor, mientras la política y la regulación en Chile suben por la escalera. Rezagados en el sur del mundo, corremos el riesgo de ser meros adoptadores de las normas y usos pensados y decididos por el Norte Global.

Construir en Chile una institucionalidad capaz de absorber la IA, mediante un Estado ágil, que deje de debatir con categorías del siglo pasado y empiece a legislar para el siglo XXI: educación continua financiada por el Estado, digitalización profunda de las Pymes, un rediseño de nuestros fondos soberanos anclados en nuestra energía limpia, y una revalorización radical de los trabajos que nos hacen esencialmente humanos, avanzando en un real sistema social de cuidados.

La era de la inteligencia ya comenzó y depende de nosotros tener la audacia política de usarla para cerrar nuestras históricas heridas de desigualdad, o si dejaremos que estas se digitalicen, profundizándolas todavía más. Las urgencias de la nueva administración, de momento, corren en paralelo, con un enemigo invisible y poco demostrable, mientras la real emergencia corre frente a nosotros sin que nadie tome aviso de la oportunidad desperdiciada que significa cada día que enfrentamos sin políticas claras de digitalización y transformación digital en la industria y el Estado. Mientras tanto, los árboles no nos dejan ver el bosque.

Puedes leer el manifiesto en su idioma original aquí

Nexus: Entre la conexión infinita y la preservación de la cordura

Recientemente lanzado al mercado global, el nuevo libro del autor y divulgador de historia, nuevamente ha dado de qué hablar. Como lector, he decidido dejar plasmadas algunas impresiones a partir de mis highlights de mi cuenta Goodreads.

El libro Nexus de Yuval Noah Harari, plantea una reflexión profunda sobre el nexo que la tecnología ha tejido entre nuestras actividades humanas en el siglo XXI. Harari parte de la premisa de que la información -esa materia prima invisible pero poderosa- ha pasado a convertirse en el recurso central de nuestra civilización. Sin embargo, detrás de esa “red inorgánica” que ahora conecta a la humanidad con algoritmos y máquinas, subyace una trama de preguntas cruciales sobre nuestras decisiones, valores y por supuesto, el futuro.

La historia de la IA contada por Yuval Noah Harari

En la primera parte del libro, Harari describe cómo la humanidad ha construido redes de información, desde relatos hasta documentos, y cómo, paradójicamente, estos nos han hecho más vulnerables al error y a la manipulación. La “fantasía de la infalibilidad” es una advertencia clara. Hoy en día, la confianza ciega en la tecnología nos expone a fallos que pueden tener consecuencias catastróficas.

Un aspecto particularmente relevante para los tiempos actuales es cómo Harari aborda la transición desde las redes humanas hacia las inorgánicas. Aquí, hace una distinción elemental entre un antes y el ahora; mientras que las imprentas, teléfonos y correos electrónicos simplemente facilitaban el flujo de información, los algoritmos y redes actuales no solo canalizan datos, sino que deciden y actúan en nuestro lugar. El concepto de incansabilidad en la red actual es escalofriante: las máquinas no descansan, no requieren pausas, y con esto, la humanidad empieza a verse presionada a mantenerse al ritmo incesante de estas nuevas entidades.

A esto se suma el factor de falibilidad de los sistemas. Aquí Harari plantea una verdad incómoda: los algoritmos y redes no solo pueden equivocarse, sino que lo hacen de manera sistemática y sin que la mayoría de los usuarios lo perciban. Es aquí donde el discurso mediático sobre la IA choca con la realidad que expone el libro. A menudo se promueve un entusiasmo desmedido por los avances en inteligencia artificial, pero Harari nos invita a mirar más allá del deslumbramiento inicial y a sopesar con cuidadosa cautela el poder que estos sistemas tienen sobre nuestras vidas.

Uno de los puntos más inquietantes del libro es cuando plantea la pregunta: ¿Podemos mantener todavía una conversación? El creciente poder de las máquinas pone en duda nuestra capacidad de tomar decisiones democráticas, y aquí Harari introduce una advertencia sobre los riesgos de caer en un “totalitarismo digital”. Los algoritmos, bajo el disfraz de eficiencia y neutralidad, podrían, si no vigilamos de cerca, reemplazar el juicio humano en áreas tan esenciales para la vida humana en sociedad como son la política y la gobernanza.

A lo largo del texto, Harari esboza una visión sombría de un “Telón de Silicio” (en analogía a la antigua “Cortina de Hierro”) que podría dividir al mundo, no por ideologías políticas, sino por acceso a la tecnología y al conocimiento. Esta nueva frontera entre quienes controlan los algoritmos y quienes dependen de ellos se convierte en un nuevo tipo de desigualdad global. El lector, como yo, se ve forzado a preguntarse si estamos listos para enfrentar estas divisiones o si seguiremos adelante sin cuestionar.

Un equilibrio necesario entre conexión y cordura.

Algunos de los detalles que me han sorprendido gratamente tienen que ver con cómo Harari logra equilibrar la reflexión crítica con una narrativa que no es enteramente pesimista. Al igual que Cher Ami, la paloma mensajera que aparece en la portada (cuya historia cuenta que salvó vidas al entregar un mensaje en medio de la segunda guerra mundial), la tecnología tiene el potencial de ser un puente facilitador de soluciones en tiempos de crisis. Sin embargo, ese potencial no está exento de riesgos, y es nuestra responsabilidad cuestionar y reflexionar sobre hacia dónde dirigimos nuestro avance tecnológico.

Desde lo personal, un punto que merece especial atención es el papel de los datos en la caja oscura de la inteligencia artificial. La hegemonía de los datos de origen, mayormente en inglés y provenientes del hemisferio norte, ha dejado de lado la riqueza cultural y local de otras regiones del mundo, como Latinoamérica. En particular, países como Chile, históricamente aislados, han quedado excluidos de estas narrativas globales. La inteligencia artificial que se entrena con datos que no reflejan nuestra diversidad está construyendo una visión incompleta y sesgada de la humanidad. Esto no solo perpetúa la invisibilización de nuestras culturas, sino que también limita el alcance de las soluciones que estas tecnologías pueden ofrecer a problemáticas locales.

¿Soluciones o nuevos problemas?

Es aquí donde surge una cuestión crítica: ¿a quién pertenecen los datos y quién decide cómo se usan? Este desequilibrio de poder es particularmente evidente cuando se consideran los problemas medioambientales relacionados con la inteligencia artificial. Los recursos que se consumen para entrenar estos modelos, desde electricidad hasta agua, están alcanzando niveles preocupantes. Empresas tecnológicas como Google y Microsoft ya consumen más electricidad que 100 países combinados, lo que deja una huella ecológica considerable. Además, el agua que se utiliza para refrigerar los centros de datos ha registrado aumentos alarmantes, mientras que las corporaciones parecen ocultar esta información al público, aunque indirectamente, lo publican en sus informes.

Así, la IA, mientras promete resolver problemas globales, parece estar creando otros de igual o mayor magnitud. Siendo éste un momento en que atestiguamos el auge de la IA, resulta necesario preguntarse a qué costo estamos dispuestos a avanzar. Y es en esta reflexión donde Nexus brilla con luz propia, al recordar que todo avance tecnológico viene con una responsabilidad implícita. No podemos celebrar los logros sin evaluar también las sombras que proyectan.

En lo personal, Nexus ha sido de una lectura fácil y reveladora. Harari, con su estructura acostumbrada y un continuismo transversal a sus obras que sorprende, nos recuerda que la tecnología, aunque fascinante y poderosa, debe ser abordada con mesura. Los medios de comunicación y la sociedad a menudo muestran un entusiasmo desenfrenado por el progreso tecnológico, pero debemos mantener un equilibrio en pos de la preservación de la cordura. Como apasionado de la tecnología, me alegra enormemente cada uno de los avances tecnológicos, a la vez que creo esencial poner en la balanza cada nuevo paso que damos para asegurar que nuestras decisiones sean justas, imparciales y sostenibles.

Detalles del Apple Event WWDC: Una Mirada a las Innovaciones de Hoy

Hoy, en el Apple Event, se desvelaron una serie de productos y actualizaciones que reflejan la continua innovación y el compromiso de Apple con la excelencia tecnológica. A continuación, te ofrezco una descripción detallada de los aspectos más destacados del evento, enfatizando las funciones más novedosas y revolucionarias presentadas.

Apple Intelligence: Revolucionando la Inteligencia Personal

Una de las estrellas del evento fue la presentación de Apple Intelligence, un sistema de inteligencia personal que redefine cómo interactuamos con nuestros dispositivos Apple. A continuación, te detallo sus características más importantes:

Entendimiento y Creación de Lenguaje

  • Modelos de Lenguaje Avanzados: Apple Intelligence utiliza modelos de lenguaje que comprenden y generan texto con un nivel de profundidad sin precedentes. Esto permite una interacción más natural y eficiente con los dispositivos.
  • Prioridad de Notificaciones: El sistema puede priorizar notificaciones para minimizar distracciones innecesarias, asegurando que no te pierdas nada importante.
  • Herramientas de Escritura: Apple Intelligence incluye herramientas que pueden reescribir, corregir y resumir texto automáticamente, integrándose con aplicaciones como Mail, Notes, Safari, Pages y Keynote.

Creación y Personalización de Imágenes

  • Generación de Imágenes Originales: La capacidad de crear imágenes originales para enriquecer conversaciones diarias es una de las características más destacadas. Estas imágenes pueden ser personalizadas utilizando las fotos de tu biblioteca.
  • Estilos de Imagen: Puedes crear imágenes en estilos como Boceto, Ilustración y Animación, haciendo que la comunicación visual sea más divertida y expresiva.

Automatización de Acciones

  • Integración Profunda: Apple Intelligence puede tomar acciones en múltiples aplicaciones, facilitando tareas cotidianas como recuperar archivos recientes, mostrar fotos específicas o reproducir podcasts.
  • Ejemplos de Comandos: Comandos como “Muestra las fotos de mamá, Olivia y yo” o “Reproduce el podcast que me envió mi esposa el otro día” son ejemplos de cómo esta inteligencia personal puede hacer tu vida más sencilla.

Contexto Personal

  • Comprensión de Datos Personales: El sistema puede analizar y utilizar datos personales relevantes, como información de reuniones y eventos, para proporcionar asistencia contextualizada.
  • Privacidad Integrada: Apple Intelligence ha sido diseñado con la privacidad en mente, utilizando procesamiento en el dispositivo para proteger tus datos personales sin almacenarlos en la nube.

Arquitectura de Privacidad

  • Procesamiento en el Dispositivo: La inteligencia de Apple está profundamente integrada en dispositivos como el iPhone, iPad y Mac, aprovechando su hardware avanzado para procesar datos de manera segura en el dispositivo.
  • Private Cloud Compute: Para tareas que requieren mayor capacidad de procesamiento, Apple ha desarrollado Private Cloud Compute, permitiendo el uso de modelos basados en servidores sin comprometer la privacidad del usuario.

Innovaciones en Hardware y Software

Nuevo Hardware: iPhone 15 Pro y iPad con M1

  • A17 Pro Chip: El nuevo chip A17 Pro proporciona la base computacional necesaria para soportar las funciones avanzadas de Apple Intelligence.
  • Disponibilidad: Apple Intelligence estará disponible en el iPhone 15 Pro y en iPads y Macs con M1 y versiones posteriores.

Actualizaciones de Software: iOS 18, iPadOS 18 y macOS Sequoia

  • Disponibilidad: Las nuevas características de Apple Intelligence estarán disponibles en versión beta este verano y se lanzarán oficialmente en otoño con iOS 18, iPadOS 18 y macOS Sequoia.
  • Compatibilidad: Algunas características y lenguajes adicionales se implementarán a lo largo del próximo año.

Herramientas para Desarrolladores

APIs y Frameworks

  • Image Playground: Con unas pocas líneas de código, los desarrolladores pueden integrar la experiencia de Image Playground en sus aplicaciones.
  • Writing Tools: Herramientas de escritura que se integran automáticamente en aplicaciones que usan el editor de texto estándar.

Siri y App Intents

  • SiriKit Mejorado: Los desarrolladores que ya utilizan SiriKit verán mejoras inmediatas en las capacidades de Siri sin trabajo adicional.
  • App Intents: Nuevas intenciones de aplicaciones que conectan el vasto mundo de las apps con Apple Intelligence, facilitando la adopción por parte de los desarrolladores.

El Apple Event de hoy ha demostrado que Apple sigue a la vanguardia de la tecnología, no sólo mejorando sus productos existentes, sino también introduciendo nuevas capacidades que cambiarán la manera en que interactuamos con nuestros dispositivos. Apple Intelligence es un gran paso hacia una experiencia de usuario más personalizada y eficiente, sin comprometer la privacidad. Con estas innovaciones, Apple continúa estableciendo nuevos estándares en la industria tecnológica que sin dudas nos mantendrán atentos a lo nuevo que venga de la mano de la compañía de la manzana 🙂

La posibilidad de una isla: la inteligencia artificial y el futuro de la humanidad

Michel Houellebecq es un escritor francés conocido por su visión pesimista del mundo. En sus obras, explora temas como la soledad, la alienación y la pérdida de sentido.

La novela La posibilidad de una isla, publicada por Michel Houellebecq en 2005, es una obra distópica que explora el futuro de la humanidad en un mundo devastado por el cambio climático y la guerra nuclear. En este escenario, un grupo de científicos crea una nueva forma de vida, los neohumanos, que son seres inmortales y libres de sufrimiento. En La posibilidad de una isla, Houellebecq explora el futuro de la humanidad a través de la creación de los neohumanos. Los neohumanos son seres perfectos, pero también son seres vacíos y alienados. Han perdido la capacidad de experimentar la vida en toda su plenitud, y se han convertido en meras máquinas.

La novela ha sido objeto de numerosos análisis y debates, y su visión del futuro ha sido interpretada como una advertencia sobre los peligros de la tecnología y la manipulación genética. Sin embargo, en el contexto de los nuevos avances en el desarrollo de la inteligencia artificial, la novela de Houellebecq adquiere una nueva dimensión.

Descripción de la historia

La novela se desarrolla en un futuro distópico, en el que el mundo ha sido devastado por el cambio climático y la guerra nuclear. En este escenario, un grupo de científicos crea una nueva forma de vida, los neohumanos, que son seres inmortales y libres de sufrimiento, creados a partir de la clonación y la ingeniería genética. Al ser perfectos, sin defectos físicos ni psicológicos, no sienten dolor ni emociones negativas, y están libres de los problemas y limitaciones de la vida humana.

La cercanía con un mundo posible

En el contexto de los nuevos avances en el desarrollo de la inteligencia artificial, la novela de Houellebecq adquiere una nueva dimensión. La posibilidad de crear seres artificiales que sean superiores a los humanos es cada vez más real. En los últimos años, se han logrado importantes avances en el campo de la inteligencia artificial. Los sistemas de IA ya son capaces de realizar tareas que antes se consideraban exclusivas de los humanos, como jugar al ajedrez o traducir idiomas. Es probable que en el futuro, la IA continúe desarrollándose a un ritmo acelerado. Es posible que en algún momento, los sistemas de IA sean capaces de superar la inteligencia humana en todas las áreas.

En este contexto, la pregunta de si algún día será posible generar humanos vía abiogénesis es una pregunta que vale la pena plantearse. Si es posible crear seres artificiales que sean superiores a los humanos, ¿debería hacerse?

Los desafíos a la humanidad presente

La creación de humanos vía abiogénesis, es decir, la creación de seres humanos a partir de materiales inanimados, es una posibilidad que pareciera estar más cerca de la realidad. El desarrollo de la inteligencia artificial y la biología sintética ha abierto la puerta a la creación de seres vivos artificiales, y no es descabellado pensar que en un futuro próximo podamos crear seres humanos artificiales. Esta posibilidad plantea una serie de desafíos a la humanidad presente. En primer lugar, es un desafío ético. ¿Es moralmente aceptable crear seres humanos artificiales?

Algunos argumentan que la creación de seres humanos artificiales es una forma de jugar a ser Dios. Otros argumentan que los seres artificiales no son seres humanos y, por lo tanto, no tienen los mismos derechos que los humanos. Este desafío es complejo y no tiene una respuesta fácil. Sin embargo, es importante abordarlo con seriedad, ya que la creación de seres humanos artificiales podría tener implicaciones profundas para la sociedad humana.

En segundo lugar, la creación de humanos artificiales plantea un desafío tecnológico. ¿Es posible crear seres humanos artificiales que sean viables y saludables? La clonación y la ingeniería genética son tecnologías complejas y aún no se han desarrollado lo suficiente para crear seres humanos artificiales. Es posible que en el futuro podamos crear seres humanos artificiales que sean viables y saludables, pero es importante tener en cuenta que esta tecnología aún está en sus primeras etapas de desarrollo.

En tercer lugar, la creación de humanos artificiales plantea un desafío social. ¿Cómo se integrarían los humanos artificiales en la sociedad? Los humanos artificiales podrían ser percibidos como una amenaza por los humanos, o podrían ser discriminados por ser diferentes. Es importante empezar a pensar en cómo integrar a los humanos artificiales en la sociedad de una manera justa y equitativa.

Estos desafíos son complejos y no tienen respuestas fáciles. Sin embargo, es importante empezar a reflexionar sobre ellos ahora, antes de que sea demasiado tarde.

Una obra visionaria

La novela La posibilidad de una isla es una obra visionaria que plantea preguntas inquietantes sobre el futuro de la humanidad. En el contexto de los nuevos avances en el desarrollo de la inteligencia artificial, la novela adquiere una nueva dimensión. La posibilidad de crear humanos vía abiogénesis es un desafío a la humanidad presente. Es un desafío ético, tecnológico y social. Es un desafío que debemos empezar a afrontar ahora, antes de que sea demasiado tarde.

IA: La caja de Pandora del Siglo XXI

Hace unos días, un grupo de destacados líderes se unió en una declaración conjunta a través de una carta abierta publicada en el sitio del Instituto Future Of Life (Futuro de la Vida) en la que piden “detener” el desarrollo de la inteligencia artificial durante al menos seis meses. Entre los firmantes se encontraban importantes figuras como Elon Musk, Steve Wozniak y el historiador Yuval Noah Harari. Todos ellos expresaron preocupación por los riesgos que representa la carrera desenfrenada para crear modelos de inteligencia artificial cada vez más avanzados, que se basan en el aprendizaje profundo y en el procesamiento de grandes cantidades de datos para la toma de decisiones y la resolución de problemas.

El texto de la carta titulada “Pausen los gigantes experimentos de Inteligencia Artificial” comienza con una llamada a la acción directa: “Hacemos un llamado a todos los laboratorios de IA para que detengan de inmediato durante al menos 6 meses el entrenamiento de sistemas de IA más poderosos que GPT-4.” El resto de la carta dice así:

La inteligencia artificial (IA) con habilidades comparables a las humanas puede representar riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA. Como se afirma en los Principios de IA de Asilomar, ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe ser planificada y administrada con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, incluso aunque los últimos meses han visto a los laboratorios de IA envueltos en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable.

Los sistemas de IA contemporáneos están ahora volviéndose competitivos con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluyendo los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos, superar nuestra inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no electos. Los sistemas de IA poderosos deben ser desarrollados solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La reciente declaración de OpenAI sobre la inteligencia artificial general afirma que “en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados, acordar limitar la tasa de crecimiento del cómputo utilizado para crear nuevos modelos”. Estamos de acuerdo. Ese momento es ahora.

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si no se puede implementar rápidamente una pausa de este tipo, los gobiernos deben intervenir e instituir una moratoria.

Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de una duda razonable. Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la peligrosa carrera hacia modelos de caja negra cada vez más grandes e impredecibles con capacidades emergentes.

La investigación y el desarrollo de la IA deben centrarse en hacer que los sistemas más poderosos y avanzados de hoy en día sean más precisos, seguros, interpretables, transparentes, resistentes, alineados, confiables y leales.

Paralelamente, los desarrolladores de IA deben trabajar con los responsables políticos para acelerar drásticamente el desarrollo de sistemas robustos de gobernanza de la IA. Estos deberían incluir como mínimo: nuevas y capaces autoridades reguladoras dedicadas a la IA; supervisión y seguimiento de sistemas de IA altamente capaces y grandes grupos de capacidad computacional; sistemas de procedencia y marca de agua para ayudar a distinguir lo real de lo sintético y rastrear fugas de modelos; un ecosistema de auditoría y certificación sólido; responsabilidad por daños causados por la IA; financiación pública sólida para la investigación de seguridad técnica de la IA; e instituciones bien dotadas de recursos para hacer frente a las dramáticas interrupciones económicas y políticas (especialmente para la democracia) que la IA causará.

La humanidad puede disfrutar de un futuro próspero con la IA. Habiendo logrado crear sistemas de IA poderosos, ahora podemos disfrutar de un “verano de la IA” en el que cosechemos las recompensas, diseñemos estos sistemas para el claro beneficio de todos y demos a la sociedad la oportunidad de adaptarse. La sociedad ha puesto en pausa otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacer lo mismo aquí. Disfrutemos de un largo verano de la IA, no corramos desprevenidos hacia una caída.

(Future of Life Institute, 2023)

Una oportunidad de Futuro.

A medida que las cosas se vuelven más complejas, es comprensible que surjan dudas y miedos sobre los efectos desconocidos del uso de la IA en nuestra vida cotidiana. La carta hace un llamado a la reflexión y a tomar medidas para garantizar la seguridad, transparencia y confiabilidad de los sistemas de IA. En particular, se insta a los desarrolladores de IA a trabajar en estrecha colaboración con los responsables políticos para acelerar el desarrollo de sistemas de gobernanza robustos y efectivos. Estos sistemas deben incluir autoridades reguladoras especializadas en IA, supervisión y seguimiento de sistemas altamente capaces de IA y grandes cantidades de capacidad computacional, sistemas de origen y marca de agua para distinguir lo real de lo sintético y rastrear las filtraciones de modelos, y un ecosistema sólido de auditoría y certificación.

A pesar de estos riesgos, también se reconoce que la IA tiene el potencial de mejorar significativamente nuestras vidas. Por lo tanto, es importante abogar por un enfoque cauteloso y reflexivo en su desarrollo. En lugar de apresurarnos a avanzar en el desarrollo de IA sin tener en cuenta sus posibles impactos negativos, debemos disfrutar de un “verano de la IA” y trabajar juntos para garantizar que la IA se desarrolle de manera segura, responsable y en beneficio de todos.

La Caja de Pandora del Siglo XXI

En un mundo cada vez más impulsado por la tecnología, es difícil ignorar el potencial peligro de la inteligencia artificial (IA). Se dice que las IA son como una caja de Pandora moderna, con el potencial de liberar consecuencias no deseadas y desconocidas. Al igual que en la mitología griega, la caja de Pandora contenía una serie de males que fueron liberados al abrir la caja, con consecuencias catastróficas para la humanidad.

De manera similar, la IA representa un potencial desconocido, capaz de causar estragos en nuestra sociedad si no se maneja adecuadamente. La creciente preocupación por el poder y la autonomía de las IA ha llevado a muchos a preguntarse si deberíamos seguir adelante con el desarrollo de estas tecnologías. A medida que las capacidades de la IA aumentan, también aumenta la preocupación de que los sistemas sean capaces de tomar decisiones que tengan consecuencias imprevistas e incluso peligrosas.

Pero hay una cara más optimista en esta historia. Al igual que en la mitología griega, la caja de Pandora también contenía la esperanza, que se liberó junto con los males. De manera similar, el desarrollo de la IA también tiene el potencial de ofrecer soluciones innovadoras y beneficiosas para la humanidad. Si se maneja adecuadamente, la IA podría ofrecer avances en áreas como la medicina, la ciencia, la agricultura y más.

Por lo tanto, la clave es encontrar un equilibrio adecuado entre el potencial peligroso y el beneficioso de las IA. Debemos trabajar para desarrollar sistemas de IA éticos y transparentes, asegurándonos de que sean seguros y confiables. Al hacerlo, podemos abrir la caja de Pandora de la IA de manera responsable y asegurarnos de que sus beneficios superen cualquier riesgo potencial.

Texto perfeccionado con la ayuda de un modelo de lenguaje basado en IA