Anthropic - Anthropic le pidió al Papa que critique a la industria de IA: la autorregulación no alcanza
La voz de las pymes, ejes que vas a leer acá:
El lunes 25 de mayo de 2026, Chris Olah, cofundador de Anthropic, habló en el Vaticano en la presentación de una encíclica papal sobre inteligencia artificial.
Anthropic: lo que hay que saber
La encíclica se llama Magnifica humanitas y la firmó León XIV.
Pero el momento que merece análisis no fue el del Papa.
Invitado
Fue el del invitado.
Olah abrió su discurso con una frase que ningún relacionista público de la industria habría aprobado: todo laboratorio de IA de frontera, incluyendo Anthropic, opera dentro de incentivos que entran en conflicto con hacer lo correcto.
Enumeró tres presiones.
Comercial
La comercial.
La geopolítica.
Y la que llamó la más vieja y simple: el orgullo y la ambición.
Dijo algo todavía raro
Y dijo algo más, todavía más raro de escuchar en escenario solemne.
Por sinceras que sean las intenciones de los laboratorios, esos incentivos los van a influir igual.
La industria pide en voz alta que la regulen desde afuera El discurso terminó con un pedido.
La posición oficial
Olah le pidió a la Iglesia, a comunidades religiosas, a la sociedad civil, a académicos y a gobiernos, que cumplan el rol de críticos informados.
Que los miren de cerca.
Que les digan cuándo están fallando.
Cómo afecta a las pymes
Que sean voces morales que los incentivos del negocio no puedan torcer.
Es un giro digno de leerse dos veces.
Durante años, las grandes tecnológicas pelearon contra cualquier supervisión externa.
La posición oficial
Sam Altman llegó a pedir regulación en el Senado de Estados Unidos en 2023, pero el detalle quedó en cuáles reglas, cómo y aplicadas por quién.
Acá no hay matiz.
Olah pidió críticos.
Pidió señalen errores
Pidió que le señalen los errores.
Pidió que las voces externas no se dejen comprar por la lógica del laboratorio.
La pregunta que sigue es por qué.
Cómo afecta a las pymes
Por qué un cofundador de uno de los laboratorios de IA mejor financiados del mundo se sienta frente al Papa y dice que su propia industria está atrapada en incentivos que la empujan a fallar.
La autorregulación dejó de ser un argumento defendible Hay dos lecturas.
La primera, generosa, es que Olah cree lo que dice.
Anthropic fundó mandato declarado
Anthropic se fundó con un mandato declarado de seguridad de IA, publica sus investigaciones de interpretabilidad en arXiv y ha colaborado con organizaciones de evaluación independiente como Apollo Research y METR.
Olah lidera el equipo que estudia qué pasa dentro de los modelos.
Tiene credibilidad técnica para hablar.
Segunda lectura, fría
La segunda lectura, más fría, es que el pedido es estratégico.
Si la regulación externa va a venir, mejor que venga con voces que la propia industria ayudó a legitimar.
Mejor el Papa que la Comisión Europea.
Mejor discernimiento moral multa
Mejor el discernimiento moral que una multa de la FTC.
Mejor críticos cultos que tribunales de competencia.
Las dos lecturas pueden ser ciertas al mismo tiempo.
Contradicción
Eso no es una contradicción.
Es la forma habitual en que la convicción y el cálculo conviven dentro de cualquier corporación grande.
Lo notable es que el cálculo, esta vez, lleva a la misma conclusión que la convicción: la autorregulación no alcanza.
Pelea sostener contrario
La pelea por sostener lo contrario ya no rinde ni siquiera como discurso público.
El Vaticano legitima un debate que los gobiernos vienen perdiendo La encíclica Magnifica humanitas importa por una razón institucional.
La Iglesia católica tiene cerca de 1.400 millones de fieles.
La posición oficial
Ningún gobierno, ningún regulador, ninguna ONG llega a esa escala con un marco doctrinal.
La Unión Europea tiene el AI Act.
Estados Unidos tiene fragmentos: el AI Safety Institute dentro del NIST, órdenes ejecutivas, audiencias en el Senado.
China tiene propia regulación
China tiene su propia regulación.
Pero ninguna institución global de alcance comparable había emitido una posición moral sostenida sobre IA.
Cuando León XIV publica una encíclica sobre el tema, y cuando invita a un cofundador de un laboratorio de IA a hablar en la presentación, el debate cambia de plano.
Deja técnico
Deja de ser técnico.
Deja de ser solo regulatorio.
Pasa a ser doctrinal, en el sentido fuerte de la palabra: una posición sobre qué es la persona humana frente a una tecnología que la imita, la asiste y, en algunos rubros, la reemplaza.
Olah entendió
Olah lo entendió.
Por eso eligió tres preguntas que llevan firma de la Iglesia más que de Silicon Valley.
El deber con los pobres del mundo, porque la IA se desarrolla en un puñado de países ricos y no existe mecanismo para distribuir las ganancias.
Imaginación moral florecimiento humano
La imaginación moral sobre el florecimiento humano, porque los padres ya se preocupan por la mente de sus hijos y los trabajadores por su empleo.
Y la naturaleza misma de los modelos, porque, dijo, su equipo encuentra dentro de ellos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, pena e inquietud, y no sabe qué significa.
Esa última frase es la que se va a citar más.
Importante, define momento
Pero la importante, la que define el momento, es la primera.
La admisión de que la industria está atrapada en incentivos que la van a hacer fallar, y la solicitud explícita de que la critiquen desde afuera.
Lo que queda en evidencia Anthropic no fue al Vaticano a vender Claude.
Delegar legitimidad
Fue a delegar legitimidad.
La idea de que las empresas que construyen IA de frontera pueden ser sus propios árbitros se sostuvo durante una década con argumentos de excepcionalismo técnico: solo nosotros entendemos lo que estamos construyendo, solo nosotros podemos juzgarlo.
Ese argumento acaba de pedir su propia jubilación.
Pasó vaticano
Lo que pasó en el Vaticano no es un gesto de humildad ni un ejercicio de relaciones públicas.
Es la admisión, en el escenario más simbólico disponible, de que los laboratorios de IA de frontera no confían en su propia capacidad de resistir sus incentivos.
Y que necesitan que alguien con más autoridad moral, y menos a ganar, los mire de cerca.
Cómo afecta a las pymes
La pregunta abierta no es si la industria de IA va a ser auditada desde afuera.
Ya pidió que lo hagan.
La pregunta es quién va a ocupar ese rol con la seriedad y la independencia que el momento exige.
Iglesia primer paso
La Iglesia dio el primer paso.
Los gobiernos, los académicos y la sociedad civil llegan tarde a una conversación que la propia industria abrió.
📄 Resumen para Pymes
Un cofundador de la empresa tecnológica admitió en el Vaticano que los incentivos comerciales, geopolíticos y de ego empujan a los laboratorios a fallar, y reclamó voces externas que los frenen
Acerca del autor
