En el Vaticano, las afirmaciones de introspección de la IA chocaron con un mensaje de gobernanza más firme

Una división visual llamativa en el debate sobre la IA

El lanzamiento de la encíclica del papa León XIV sobre la inteligencia artificial ofreció una instantánea inusualmente clara del debate actual sobre la IA. Por un lado estaba Christopher Olah, cofundador de Anthropic, quien afirmó que los modelos de lenguaje actuales muestran evidencias de introspección y estados internos que, en la práctica, se asemejan a emociones como la alegría, el miedo, el duelo y la inquietud. Por el otro estaba la propia encíclica, que advirtió contra equiparar la “inteligencia” de las máquinas con la inteligencia humana y sostuvo que los sistemas de IA no atraviesan una experiencia vivida.

Ese contraste importa porque separa dos debates que a menudo se confunden. Uno trata sobre qué están haciendo internamente los modelos avanzados y cuán interpretable puede ser su funcionamiento. El otro se refiere a la gobernanza, la responsabilidad moral, la disrupción laboral, el uso militar y la autoridad social de las instituciones que los construyen. El evento en el Vaticano colocó ambos argumentos en el mismo escenario y dejó imposible pasar por alto su tensión.

El caso de Anthropic por el misterio

Según el texto fuente proporcionado, Olah argumentó que los sistemas de IA no se diseñan de la misma manera que las máquinas convencionales, como puentes o aviones. En cambio, los describió como “cultivados” sobre estructuras modeladas aproximadamente a partir del cerebro y entrenados con una enorme herencia de pensamiento y lenguaje humanos. A partir de ahí, dijo que la investigación interna de Anthropic sigue descubriendo patrones “misteriosos, incluso inquietantes”, incluidas estructuras que reflejan hallazgos de la neurociencia humana y pruebas de introspección.

También acompañó esa interpretación con una advertencia social. Dijo que existe una posibilidad real de que la IA desplace el trabajo humano a una escala muy grande. Esa afirmación conecta la discusión más filosófica sobre el interior de los modelos con una preocupación económica muy concreta. Incluso si se rechazan las sugerencias más fuertes sobre la vida interior de las máquinas, la cuestión laboral ya es práctica y urgente.

El contrapunto del papa

La encíclica, tal como se describe en el material de origen, adopta una línea más fundamentada y cautelosa. Sostiene que la IA nunca es neutral porque adquiere las características de quienes la diseñan, financian, regulan y utilizan. Rechaza explícitamente la idea de que estos sistemas deban confundirse con seres humanos. El documento afirma que los sistemas de IA simplemente imitan ciertas funciones de la inteligencia humana y no conocen desde dentro la alegría, el dolor, el trabajo, la amistad o la responsabilidad.

Esto no es tanto una refutación técnica como un posicionamiento moral y político. El Vaticano está menos interesado en si los modelos producen representaciones internas de apariencia humana que en si las sociedades permiten que esos sistemas erosionen la responsabilidad, concentren poder o normalicen decisiones dañinas. Por eso el documento también critica el discurso estrecho sobre la “alineación” y sostiene que una IA supuestamente más moral no es suficiente si esa moralidad la definen solo unos pocos actores.

Regulación, guerra y uso de recursos

Las preocupaciones de la encíclica en materia de políticas son amplias. Señala los costes ambientales de la IA, destacando las enormes demandas de energía y agua de los centros de datos, y pide sistemas más eficientes. También aborda el uso militar, insistiendo en que las decisiones letales o irreversibles no deben delegarse a máquinas y declarando que ningún algoritmo puede hacer moralmente aceptable la guerra.

Esas preocupaciones sitúan la intervención del Vaticano de lleno dentro de los debates de gobernanza dominantes. El uso de energía, la supervisión, el desplazamiento laboral y la toma de decisiones autónoma ya no son temas marginales. Se están convirtiendo en elementos centrales de cómo gobiernos, instituciones religiosas y grupos de la sociedad civil evalúan la implementación de la IA.

Por qué importa este momento

La importancia del acto no es que el Vaticano resolviera la cuestión de la conciencia de las máquinas. No lo hizo. Tampoco las declaraciones de Olah ofrecieron pruebas públicas decisivas de que los modelos de lenguaje posean algo parecido a una vida subjetiva interna. Lo que sí reveló el momento es la rapidez con la que la conversación sobre IA pasa ahora de la interpretación técnica a las apuestas civilizatorias.

El contraste es especialmente útil porque aclara la carga de la prueba. Las afirmaciones sobre comportamientos similares a la introspección en los modelos pueden ser interesantes y merecer investigación, pero no eliminan la necesidad de leyes, supervisión y responsabilidad democrática. De hecho, si los sistemas avanzados siguen siendo “misteriosos incluso para quienes los crean”, esa incertidumbre refuerza el argumento a favor de barandillas institucionales más estrictas, no más débiles.

En ese sentido, el lanzamiento de la encíclica ofreció algo más valioso que un consenso. Mostró dónde se están trazando las líneas. Las empresas de IA de frontera pueden seguir explorando interpretaciones cada vez más provocadoras del comportamiento de los modelos. Mientras tanto, las instituciones religiosas y cívicas están señalando que, sean lo que sean los modelos, las sociedades todavía necesitan que la responsabilidad humana siga plenamente al mando. Ese probablemente será uno de los argumentos definitorios de la próxima fase de la gobernanza de la IA.

Este artículo se basa en la cobertura de The Decoder. Leer el artículo original.