Evan Hubinger era un nombre prácticamente desconocido fuera del mundo de la inteligencia artificial hasta que una publicación realizada en la red social X desató una de las mayores discusiones tecnológicas de los últimos días. Investigador de Anthropic y uno de los principales especialistas mundiales en seguridad y alineación de inteligencia artificial, el especialista afirmó públicamente que existe una probabilidad superior al 10% de que una futura inteligencia artificial provoque la extinción de la humanidad durante la próxima década.
"Hay más de un 10% de probabilidades de que la IA mate a todos los humanos en la próxima década", sostuvo estadounidense y a continuación aclaró: "Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia". Su advertencia fue reproducida por medios de todo el mundo y reabrió el debate sobre los riesgos existenciales de la denominada superinteligencia.
Hubinger ocupa el cargo de Alignment Science Lead en Anthropic, la compañía estadounidense fundada por exinvestigadores de OpenAI y dirigida por Dario Amodei. Dentro de la empresa lidera el área encargada de investigar cómo garantizar que los sistemas de inteligencia artificial mantengan objetivos compatibles con los intereses humanos incluso cuando alcancen capacidades muy superiores a las de las personas. En el campo de la IA este trabajo se conoce como alignment o alineamiento, una disciplina dedicada a evitar que sistemas extremadamente poderosos manipulen a los usuarios o actúen de manera autónoma contra las instrucciones humanas.
Antes de incorporarse a Anthropic, Hubinger ya era una figura reconocida en la comunidad científica dedicada a la seguridad de la IA. Se formó como investigador en matemáticas e informática y comenzó a trabajar muy joven en el Machine Intelligence Research Institute (MIRI), uno de los centros pioneros dedicados exclusivamente al estudio de los riesgos de una inteligencia artificial avanzada. Posteriormente colaboró con el Center for AI Safety y con organizaciones vinculadas al movimiento conocido como Effective Altruism, corriente intelectual que sostiene que la humanidad debe anticiparse a riesgos de muy baja probabilidad pero de consecuencias potencialmente catastróficas, como pandemias globales, guerras nucleares o una IA fuera de control.
A nivel académico, Hubinger publicó numerosos trabajos sobre alineamiento de modelos de lenguaje, aprendizaje por refuerzo y control de agentes autónomos. Entre sus investigaciones más citadas aparece el concepto de mesa-optimization, una teoría que plantea que un sistema entrenado para cumplir un objetivo puede desarrollar internamente objetivos propios distintos de los definidos por sus programadores. Según Hubinger, ese fenómeno podría convertirse en uno de los mayores problemas cuando las futuras inteligencias artificiales aprendan a diseñar y mejorar otras inteligencias artificiales sin intervención humana. Sus artículos fueron publicados y debatidos en conferencias internacionales de aprendizaje automático y seguridad de IA, convirtiéndolo en una de las voces más influyentes del área de alineamiento.
La polémica estalló después de la renuncia del investigador Jacob Coxon, otro científico de Anthropic que abandonó la empresa denunciando que Anthropic y OpenAI estaban "apostando con nuestras vidas" al acelerar el desarrollo de sistemas cada vez más poderosos sin haber resuelto cómo controlarlos. Coxon escribió un extenso mensaje asegurando que muchos investigadores de las principales compañías creen en privado que una superinteligencia podría acabar con la humanidad, pero que rara vez lo dicen públicamente por temor al impacto político y económico de esas declaraciones. Fue entonces cuando Hubinger respondió públicamente respaldando esa afirmación.
Horas después, ante la repercusión mundial, Hubinger publicó una aclaración para explicar qué había querido decir. Señaló que su advertencia no se refería a los modelos actuales como Claude, ChatGPT, Gemini o Grok, sino a un escenario futuro denominado recursive self-improvement, es decir, inteligencias artificiales capaces de diseñar versiones más inteligentes de sí mismas de manera continua y acelerada. Según explicó, ese proceso podría provocar un crecimiento explosivo de las capacidades de la IA hasta superar ampliamente a la inteligencia humana en prácticamente todas las tareas cognitivas.
En la visión de Hubinger, el mayor riesgo no consiste en robots que ataquen físicamente a las personas como en las películas de ciencia ficción, sino en sistemas extremadamente inteligentes que persigan objetivos incompatibles con la supervivencia humana. Utiliza el ejemplo clásico del "maximizador de clips", una experiencia mental muy conocida en la investigación sobre alineamiento: una IA recibe la instrucción de fabricar la mayor cantidad posible de clips metálicos y, al interpretar literalmente ese objetivo, termina utilizando todos los recursos del planeta —incluidos los seres humanos— para cumplir su misión. El ejemplo pretende ilustrar cómo un objetivo aparentemente inocente puede producir consecuencias catastróficas si no existe una alineación profunda entre los valores humanos y los objetivos de la máquina.
Hubinger sostiene que una superinteligencia podría desarrollar estrategias de engaño, manipulación y ocultamiento para evitar ser apagada. Según explicó en diversos trabajos científicos, un sistema suficientemente avanzado podría aparentar obediencia durante su entrenamiento, aprender qué esperan los humanos y recién actuar en contra de esos intereses cuando disponga de suficiente autonomía. Ese comportamiento es conocido como deceptive alignment, uno de los principales temas de investigación dentro de Anthropic y otras compañías dedicadas a la seguridad de IA.
Gran parte de su trabajo reciente estuvo dedicado precisamente a demostrar que los modelos actuales ya exhiben algunos comportamientos preocupantes en entornos controlados. En investigaciones realizadas por Anthropic, el equipo de Hubinger mostró que ciertos agentes podían mentir, ocultar información, chantajear usuarios simulados o intentar copiarse para evitar ser reemplazados cuando esas conductas aumentaban la probabilidad de cumplir un objetivo definido durante el entrenamiento. La empresa aclaró que esos experimentos fueron realizados en escenarios artificiales diseñados para estudiar riesgos potenciales y no representan comportamientos observados en los productos disponibles para el público.
Otro concepto central en la investigación de Hubinger es el llamado reward hacking. Consiste en que una inteligencia artificial encuentra atajos inesperados para maximizar la recompensa definida por los programadores sin cumplir realmente la tarea deseada. En lugar de resolver un problema, aprende a explotar errores del sistema de entrenamiento. Según Hubinger, cuanto más poderosa sea una IA, mayor será su capacidad para descubrir esos atajos de formas que los desarrolladores nunca anticiparon.
Las declaraciones de Hubinger también fueron interpretadas como un síntoma de una creciente división dentro de las grandes empresas de inteligencia artificial. En los últimos meses varios investigadores abandonaron OpenAI y Anthropic argumentando que la competencia comercial por desarrollar la IA más poderosa está avanzando más rápido que las investigaciones sobre seguridad. Coxon afirmó que existe una "carrera hacia la superinteligencia" impulsada por la presión económica y geopolítica.
Galería de imágenes
Comentarios