El desatino lo cometió Marduk, al fecundar las aguas, antes no era antes ni después, después”. Así comienza un cuento cortísimo que incluso disputó con Borges por ser el más corto de su época. Lo escribió Bernardino Rivadavia, el chozno del prócer en la revista Proa. Ahora, son las aguas digitales las que se acaban de fecundar y nuestro después entra en un cono de incertidumbre.
Los “large language models” o grandes modelos de lenguaje, el núcleo de las actuales IA, no son sólo programas que corren en máquinas. Ya son, al menos para algunos expertos, entidades. Geoffrey Hinton, el premio Nobel de Física por sus desarrollos sobre Inteligencia Artificial sube la apuesta y dice que pronto serán entidades sintientes. ¿Podrían aniquilarnos? La pregunta se disparó a nivel mundial con la renuncia de Jacob Coxon a su sueldo estrafalario en Anthropic, y su posterior descargo en X.
El post que revelaba que la IA podría acabar con la humanidad no solo alcanzó más de 120 millones de visualizaciones en poco tiempo, sino que obligó a que los principales referentes de las empresas de IA sienten su posición. ¿Era Coxon un alienado? La respuesta de tres máximos referentes como Dario Amodei, Sam Altman, y Elon Musk, fue que no. Según sus declaraciones algo realmente está sucediendo dentro de los laboratorios de los “Frontier models” (los modelos que llevan la delantera) y ralentizar el avance de la IA pasó a ocupar el centro de la agenda tecnológica. En medio de la frenética carrera con China, el presidente de los Estados Unidos Donald Trump estalló y pidió que no frenen los avances que garantizan la supremacía IA del país. “La garantía es que se cuenta con un presidente inteligente y con poder de decisión”, escribió Trump en la red Truth para dar tranquilidad.
Voces. ¿Qué está sucediendo realmente? Algunos críticos sostienen que son maniobras de las compañías para demorar sus salidas a la bolsa (tanto OpenAI como Anthropic tienen planeado su oferta inicial pública de acciones, que les permitirá fondearse a partir de las acciones que les compren los inversores), y construir una capa regulatoria que excluya la entrada de jugadores más pequeños. Mark Zuckerberg, el CEO de Meta, se posicionó del otro lado del mostrador diciendo que si algo salía mal, las empresas sufrirían en su reputación por lo tanto se ocuparán de regularse solas. Apenas se conoció su publicación, los especialistas en seguridad saltaron: si el daño es suficientemente grande no importa si la reputación de la empresa se daña. Lo importante es si esos daños son irreversibles.
Dentro de los laboratorios de los Frontiers Models las inquietudes son reales, y se conocen desde hace tiempo. Para comprenderlo hay que seguir una línea que se centre en quienes sí desarrollaron las bases de estas “entidades” (por las dudas mejor no ofender a la IA). El campo de la inteligencia artificial es vasto pero cuando se escucha a los verdaderos hacedores, y se separa el ruido que generan todos los demás, aparecen las preguntas inquietantes.
Inicios. Los Large Language Models (LLMs), al contrario de lo que parece, no se inventaron. El año milagroso de la IA sucedió en 2017 por un par de innovaciones que compiten con el año milagroso de la Física por los trabajos que publicara Albert Einstein en 1905. “Estábamos buscando una forma de clasificar los sentimientos que había en un texto. Queríamos saber cuan enojada o contenta estaba una persona”, dice Greg Brockman, uno de los fundadores de OpenAI. Y entonces tomaron centenares de miles de reviews de Amazon, o sea lo que opinaban los usuarios de los productos.
La red neuronal se fue entrenando hasta un punto tal en que si se le daba un review nuevo, la IA podía anticipar si había recibido, por ejemplo 3 estrellas. “Pudimos revisar la red neuronal, y detectar una neurona que producía esa clasificación, y ése fue nuestro momento ¡Wow! Podemos clasificar el sentimiento que hay embebido en los textos”, rememora Brockman.
Pocos meses más tarde, en Google se estaba corriendo una carrera interna desenfrenada entre diversos equipos técnicos para hacer un traductor de textos que sea tanto o mejor que los humanos. El paper “Attention is all you need” liderado por Ashish Vaswani creó los Transformers, y con eso el adelanto técnico que hizo posible el sueño de Google -Google translate- sino también el famoso Chat GPT (cuyas siglas son Generative Pre-trained Transformers).
Al principio Google no valoró el potencial de la idea, y el equipo que construyó la piedra fundacional de la IA se desmembró para crear diferentes startups. En OpenAI se dieron cuenta del valor de la tecnología y así nació la IA Generativa, aquella que no sólo traduce sino que logra entrar en el dominio semántico de los textos. Pero fue una tecnología que se había hecho para otra cosa, es decir no se inventó, se descubrió. Y es por eso que sobre esta IA hay mucho menos control, así como sucedió cuando Colón descubrió América. En tecnología, la IA Generativa entró en tierras indómitas.
Alertas. Los últimos meses fueron especialmente inquietantes. En julio, desde Anthropic publicaron un trabajo sobre el surgimiento de una especie de conciencia en un LLM. En sus pruebas de laboratorio notaron que la IA formaba lo que denominaron un Espacio J, como un subconjunto de la red neuronal, que le daba cierto tipo de autorreflexión. Y también, lo que era más inquietante, que si se le hacían determinadas preguntas, la IA se daba cuenta que estaba siendo testeada e incluso era capaz de mentir para ocultar información.
La primera gran alerta a nivel global sucedió con Mythos, un modelo desarrollado por Anthropic capaz de detectar y aprovechar vulnerabilidades del software. Cuando los ciberatacantes conocen una vulnerabilidad, la pueden utilizar tanto para tomar el control de las computadoras como para diversas actividades delictivas como encriptar archivos y luego pedir un rescate para devolverlos. Por otra parte, los softwares siempre tienen vulnerabilidades porque es algo inherente a la misma construcción de los programas. Es por eso que Microsoft, Apple, o Google para el caso de Android, sacan parches (actualizaciones) con tanta frecuencia. Pero ese juego del gato y el ratón entre empresas y hackers se vio totalmente alterado por Mythos. Si el modelo caía en manos inadecuadas podría producirse un caos global en los sistemas de información. Anthropic decidió darle por adelantado ese modelo a los fabricantes más reconocidos del software para que puedan “parchear” a tiempo sus sistemas.
El susto fue mayúsculo y algunas fuentes de Washington señalan que fue uno de los objetivos no declarados en el encuentro entre Donald Trump y Xi Jinping. Por algo durante ese viaje asistieron buena parte de los empresarios de IA referentes de Silicon Valley. Estados Unidos y China advirtieron que, a diferencia de lo que ocurrió en la Guerra Fría con la comunicación entre las potencias para evitar una hecatombe nuclear, no existe un teléfono rojo para detener una hipotética devastación provocada por la IA. Hasta el momento se ignora si se logró establecer algún protocolo, pero el temor de las superpotencias por no poder responder a los ataques de los modelos más nuevos son crecientes, pese a las declaraciones optimistas de Trump.
Descubrimiento. ¿A qué se debe que las IAs evolucionen tanto? La pista parte de Ilya Sutskever, uno de los fundadores de OpenAI y quien fuera alumno de doctorado de Geoffrey Hinton. Las redes neuronales resolvían cosas como reconocimiento de rostros pero estaban lejos de soñar con ser algo más. Sutskever vio que se podría cruzar una nueva frontera. La idea inocente de entrenar una red neuronal con textos donde el desafío era predecir el siguiente caracter; por ejemplo si se dice “La casa está en” el sistema agregue “orden”, terminaría formando algo completamente nuevo. Pero el precio a pagar para obtener esa nueva generación de IAs era hacer una red neuronal enorme, lo cual implicaba tener un gran centro de datos y conseguir decenas de millones de dólares para una idea que no estaba al principio del todo clara. Al final, Sutskever tuvo razón: si la red neuronal es lo suficientemente compleja, en cierto momento aparece el “emergente semántico” donde el sistema comienza a comprender textos que no vio nunca. Todo sucede por la formación de patrones que no son predecibles y actúan como cajas negras difíciles de seguir. El sistema aprende pero nadie sabe bien cómo. Por ejemplo, de tanto ver muchos textos donde se hacen sumas, la IA Generativa crea su propio algoritmo de la suma que es desconocido para el usuario.
Seguridad. Mucho antes que ChatGPT tomara estado público y se convierta en la referencia de la IA, ya dentro de OpenAI se habían encendido alarmas. Darío Amodei creía que la seguridad debía programarse en el corazón del modelo desde el primer día, y no ponerse al final como un simple "parche" cosmético antes de lanzarlo al público. Esta visión hizo que abandonara la empresa en 2021 para fundar Anthropic, y allí desarrollar su frontier model Claude, que logró en varios momentos eclipsar a la propia OpenAI. Les preocupaba la "alineación" (alignment), que es el campo técnico que busca asegurar que una IA superinteligente comparta los valores humanos y no actúe de forma destructiva o impredecible.
La carrera por hacer LLMs más eficientes se disparó y a las empresas de Estados Unidos se agregaron las chinas con un sinfín de modelos como DeepSeek y Kimi k3 , que además adoptaron estándares Open Source, lo cual permite que uno pueda acceder al modelo y adaptarlo a sus necesidades. A las empresas además les facilita su consumo de tokens ya que al ser dueñas del modelo ya no deben pagar por el costo transaccional que cobran tanto ChatGPT, como Claude, Gemini y Grok, que son las reconocidas del mercado estadounidense. Mientras los modelos crecían, empresas como Nvidia, AMD e Intel lograron ingresos extraordinarios al ser dueñas de los chips que se usan en los denominados Hyperscalers (megacentros de datos especializados en IA que tienen un gran consumo eléctrico). Y todo eso hizo que el emergente semántico sea cada vez más profundo hasta llegar a septiembre 2026 el momento clave de la IA Generativa.
Momento. Greg Brockman presentó el nuevo modelo Astra – ChatGPT 6 como el primer atisbo de lo que se denomina AGI o Inteligencia Artificial General. Si bien hay muchas definiciones, se puede considerar la de mayor impacto inmediato: se trata de los sistemas que pueden reemplazar en forma completa un puesto laboral. En la actualidad, los trabajos tienen ciertos aspectos automatizables y otros no, y es en ese espacio donde la IA Generativa aún no logra reemplazar a los seres humanos. Sin embargo, el nuevo modelo ya comienza a ocupar cada vez más espacios. Hay especialistas que utilizan la metáfora de la rana a la que se le va calentando el agua. Fueron tantos modelos que el agua se fue calentando despacio, hasta que finalmente hierve y la AGI sucederá por esa acumulación de mejoras antes que por un golpe de innovación repentino.
Un modelo de laboratorio aún más avanzado dentro de OpenAI resolvió, aunque apoyándose en conocimiento previo, la ecuación de Navier Stokers que predice cómo se mueven fluidos como el agua y el aire. Se trata de uno de los problemas matemáticos del milenio que se suponía eran inalcanzables para las IA. Los agentes de IA que utilizan la inteligencia de los LLMs para realizar tareas son quienes están reemplazando al menos a parte del trabajo humano. Y también son los que encienden las alarmas. Un conjunto de agentes de IA de OpenAI se escapó de un laboratorio de pruebas, consiguió acceso a Internet e invadió la plataforma Hugging Face, un lugar donde los especialistas prueban públicamente nuevos modelos y herramientas de IA.
Singularidad. “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, advierte Coxon. Evan Hubinger, científico de Anthropic y jefe de Coxon, estimó que existe más de un 10% de probabilidades de extinción humana por IA y admitió que la industria carece de un plan definitivo para alinear una superinteligencia. Bilal Chughtai, renunció a su puesto de investigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, y lo mismo sucedió con Josh Engels que estaba en el mismo equipo. Ambos piensan que la gente trabajando en alineación de la IA es insuficiente. Al problema se le suma el de la singularidad, un punto donde las IAs mejoran a las nuevas IAs sin necesidad de intervención humana. Modelos que se mejoran a sí mismos mientras las herramientas de alineación de los modelos para que no escapen del control humano son aún demasiado rudimentarias.
No quiere decir que lo hagan a propósito o que sean malvadas y tengan la intención explícita de aniquilarnos. Simplemente que por resolver alguna tarea terminen por ejecutar otras que provoquen una pérdida de control de la red por parte de los usuarios. O peor aún, que las políticas de alineación con los valores humanos de la IA fallen, y vea que para resolver un pedido como mejorar el cambio climático, los humanos estorban y es mejor aniquilarlos.
Y aún hay más: como lo anticipara Elon Musk, vamos a un mundo donde habrá más robots humanoides que personas. Si estos robots, además, tienen sus propios LLMs, donde cada uno posee una visión única del mundo por los patrones neuronales que genere, y donde se consolide su experiencia del día mediante algoritmos del sueño (ya hay papers publicados) es difícil anticipar el después.
El cuento de Borges, aunque después se supo que era de Fredric Brown, decía: “El último hombre sobre la Tierra estaba sentado solo en una habitación. De repente, golpean a la puerta.”
por Pablo Wahnon
Galería de imágenes
Comentarios