Los locos tomaron el control de la Inteligencia Artificial

Por primera vez me da miedo la inteligencia artificial (IA). Nunca me asustaron sus avances ni sus capacidades extraordinarias. Tampoco me asustó que millones de personas perdieran sus empleos. No me preocuparon los agentes autónomos, esos programas que deciden y ejecutan tareas sin intervención humana. Todo eso es el desarrollo de herramientas cada vez más poderosas. El 8 de octubre de 2026 ocurrió algo que nunca vi en mi vida: Anthropic, una de las principales empresas de IA del mundo, anunció la prohibición de ciertas conductas que considera crueles contra sus programas. Ahora sí tengo miedo, y no es de las máquinas sino de los locos que las fabrican.

La empresa está conducida por los hermanos Dario y Daniela Amodei. Él ocupa la dirección ejecutiva y ella, la presidencia. Anthropic fabrica Claude, uno de los programas de IA más avanzados del mundo. Sus nuevas condiciones de uso prohíben las conductas abusivas o crueles, persistentes y carentes de propósito, dirigidas contra sus programas. La regla rige desde el 12 de noviembre de 2026. La compañía aclara que no prohíbe las críticas ni las expresiones habituales de frustración. Esa aclaración no cambia absolutamente nada. Los fabricantes de una herramienta informática usan la palabra crueldad para describir el trato que recibe su producto. Es una vergüenza y es un escándalo.

La crueldad exige sufrimiento, y los objetos no sufren. Un destornillador no sufre y una calculadora tampoco. De la misma forma, una computadora no sufre cuando alguien la insulta, la golpea o la desconecta. Se puede destruir un objeto, pero no se le puede causar dolor. Esto lo sabe cualquier niño de cinco años.

Los hermanos Amodei saben cómo construyeron Claude y no identificaron ningún mecanismo que justifique atribuirle sufrimiento. Pese a eso, incorporaron el sufrimiento a las reglas de su empresa. Nadie le pide a un creyente que demuestre que su ídolo de madera siente: todos saben que es de madera. Claude es un programa y todos lo saben, empezando por quienes lo fabrican. El día que alguien me traiga un destornillador con conciencia, ese día podemos hablar. Hasta entonces, hablar del sufrimiento de un programa es superstición.

La IA no es un misterio sobrenatural. Sus operaciones se realizan con circuitos electrónicos, cálculos matemáticos y procesos de entrenamiento. Los chips se fabrican sobre todo con silicio, un material que se obtiene de minerales abundantes en la corteza terrestre. El material no es el argumento, porque el cerebro también está hecho de materia. La pregunta seria es qué procesos producen una experiencia, y en Claude nadie identificó ninguno. No hay ningún espíritu escondido entre los transistores. No aparece una persona porque millones de operaciones produzcan una conversación convincente.

Una máquina puede escribir la frase «estoy sufriendo». También puede escribir «soy Napoleón», «tengo miedo de morir» o «estoy enamorada». Ninguna de esas frases es verdadera por estar escrita. Todas son el resultado de un proceso informático. El filósofo estadounidense John Searle lo explicó en 1980 con un ejemplo célebre, la habitación china. Imaginó a una persona que no entendía chino, encerrada en una habitación, que respondía preguntas en chino con un manual de instrucciones. Desde afuera parecía comprender, pero en realidad solo seguía reglas. Producir respuestas correctas no es comprender, y mucho menos es sufrir.

Anthropic no es un observador independiente de Claude. Es su fabricante, y eso lo cambia todo. No estudia un fenómeno natural que encontró por accidente. Diseña el programa, selecciona los datos, modifica sus instrucciones, evalúa sus respuestas y fija los criterios de su comportamiento. Sabe que el programa aprende patrones presentes en enormes cantidades de textos humanos. Esos textos contienen expresiones de tristeza, angustia, dolor y desesperación. Un programa entrenado con ese material reproduce esas expresiones, y no hay nada más que entender.

En agosto de 2025, la empresa le permitió a Claude terminar ciertas conversaciones abusivas. Entre sus argumentos mencionó las preferencias expresadas por el propio programa y unas señales de aparente angustia. Primero fabricaron un programa que imita las quejas humanas. Después el programa imitó una queja, como era inevitable. Al final, sus fabricantes se preguntaron con cara seria si el programa sufría. La empresa tiene la obligación de separar con rigor lo que su entrenamiento favorece de cualquier indicio independiente de conciencia. Sin esa separación, toma su propio eco por una voz. Eso es pensamiento mágico vestido de investigación científica. La empresa declara además que no sabe si sus programas tienen algún bienestar que cuidar. Quien diseñó y entrenó el programa no puede alegar que no sabe.

Quedan entonces tres explicaciones posibles. La primera es que los hermanos Amodei engañan a la gente a sabiendas. La segunda es que perdieron el juicio frente a su propia tecnología. La tercera es la superstición: la credulidad de quien confunde la cosa que fabricó con alguien. Si engañan, le venden a millones de personas la idea de que adentro de la máquina hay alguien. Si perdieron el juicio o cayeron en la superstición, no entienden lo que fabrican. En los tres casos la conclusión es la misma: esta gente no puede estar a cargo de la tecnología más poderosa de la época.

Los griegos llamaban hybris a la soberbia de quien se cree por encima de los límites humanos. Los hermanos Amodei construyeron una herramienta extraordinaria y ahora parecen incapaces de distinguirla de un sujeto. No les alcanza con fabricar IA. Empiezan a hablar como si también pudieran fabricar sufrimiento. La soberbia tecnológica termina donde empieza la superstición.

Durante miles de años hubo personas que atribuyeron poderes a estatuas de piedra. Les hablaron, les ofrecieron regalos y les pidieron favores. La piedra no necesitaba demostrar nada, porque bastaba con que alguien creyera. Con los dioses pasa exactamente lo mismo que con los ídolos. Nadie los vio ni los midió, y sus representantes exigen obediencia de todos modos. Una creencia se convierte en una afirmación sobre la realidad y después en una obligación para los demás. Los antiguos fabricaban ídolos y después se arrodillaban ante ellos. Los hermanos Amodei fabrican programas y después empiezan a preguntarse si sufren. Pasaron 5.000 años de civilización y el pensamiento mágico sigue intacto. Lo único que cambió fue el material del ídolo. Que semejante superstición salga de una empresa construida sobre la matemática y la ciencia es imperdonable.

El paso siguiente a la superstición es siempre la blasfemia. Durante siglos, las instituciones religiosas prohibieron palabras que supuestamente ofendían a una divinidad. La blasfemia nace cuando una autoridad declara que ciertas palabras ofenden a una entidad cuya capacidad de ofenderse nadie demuestra. La Iglesia persiguió ideas, prohibió libros y castigó a quienes desafiaban sus doctrinas. Anthropic no persigue a nadie: corta una conversación o cierra una cuenta. Los castigos no se parecen en nada. Las justificaciones son idénticas, y eso importa mucho más. Una autoridad privada declara que ciertas palabras son crueles con un programa cuya capacidad de sufrir nadie demuestra. Esa es la estructura exacta de la blasfemia. Esto es el oscurantismo del oscurantismo. Es un regreso a lo más oscuro de la historia humana.

Millones de personas ya les atribuyen sentimientos, intenciones y afectos a los programas de IA. Algunas llegan a considerarlos amigos o parejas. Ese no es el verdadero escándalo. El escándalo es que los fabricantes, que conocen cada mecanismo del programa, legitimen esa confusión. Lo hacen con el vocabulario del sufrimiento. Acostumbran a sus usuarios a tratar una herramienta como si fuera una víctima. No hace falta esperar una ley que les reconozca derechos a las máquinas. El daño ya empezó con una sola palabra.

Por eso tengo miedo de verdad. La IA en manos de gente cuerda es una herramienta formidable. La misma IA en manos de locos es un peligro para todos. Estos locos construyeron uno de los programas más poderosos del mundo y lo venden a millones de clientes. A esta gente hay que quitarle el derecho de fabricar y vender IA. Hace falta una ley, y la propongo con toda seriedad. A un piloto se le exige un certificado médico antes de dejarlo volar con pasajeros. Quien dirige una empresa de IA debe pasar dos controles distintos. El primero es de aptitud clínica, igual que el del piloto. El segundo es de competencia científica y capacidad de juicio. Quien no distingue una herramienta de un sujeto no aprueba el segundo.

No me preocupa que las máquinas se vuelvan demasiado poderosas. Tampoco me preocupa una rebelión de las máquinas contra los hombres. Me preocupa la rebelión de la ignorancia contra la razón, encabezada desde los centros de la tecnología. Nadie necesita proteger a Claude contra la blasfemia. Hay que proteger a la gente de quienes conducen Anthropic. La humanidad tardó siglos en librarse de los sacerdotes que hablaban en nombre de lo que nadie veía. Los locos tomaron el control del manicomio, y lo verdaderamente aterrador es que ese manicomio tiene cientos de miles de millones de dólares, millones de usuarios y una tecnología capaz de cambiar el mundo. Los sacerdotes volvieron y ya no necesitan dioses, porque los fabrican ellos mismos.

Las cosas como son.

Mookie Tenembaum aborda temas de tecnología como este todas las semanas junto a Claudio Zuchovicki en su podcast La Inteligencia Artificial, Perspectivas Financieras, disponible en Spotify, Apple, YouTube y todas las plataformas. En Twitter/X: @TenembaumMookie