El papa León XIV pide “desarmar” la IA en su primera encíclica

Una gran intervención moral en el debate sobre la IA

El papa León XIV se ha sumado a la conversación global sobre la inteligencia artificial con un lenguaje inusualmente directo, al pedir que la IA sea “desarmada” en su primera encíclica, Magnifica Humanitas. El documento, publicado en Roma, enmarca la IA no como una cuestión técnica limitada, sino como una prueba de civilización. León sostiene que la tecnología debe liberarse de los sistemas que la convierten en un instrumento de dominación, exclusión y muerte, y ponerse al servicio del bien común.

La fuerza de la intervención reside en parte en el vocabulario. León dice explícitamente que eligió el lenguaje del desarme porque el momento exige palabras lo bastante fuertes como para atraer la atención, despertar conciencias y orientar a la humanidad hacia un camino distinto. Eso convierte la encíclica en algo más que una advertencia general sobre la ética. Es un intento de definir lo que está en juego en la era de la IA en términos morales y políticos.

El encuadre del Vaticano también importa porque no se trata de una nota marginal dentro de la enseñanza de la Iglesia. León firmó la encíclica el 15 de mayo, aniversario de la encíclica de 1891 Rerum Novarum, texto fundacional de la doctrina social católica moderna. Al hacerlo, sitúa la IA junto a las disrupciones industriales que transformaron el trabajo, el poder y la vida social hace más de un siglo. Presenta la inteligencia artificial como la “nueva cosa” de la época actual, lo bastante poderosa como para requerir una nueva declaración de principios.

De las armas autónomas a la extracción de datos

La crítica del documento es amplia. Según el texto de origen, León aborda las armas autónomas impulsadas por IA, los enfoques extractivos hacia los datos de salud y genéticos, y la concentración del control en patentes, algoritmos, plataformas digitales, infraestructura técnica y datos. Se trata de una combinación notable. En lugar de tratar la IA solo como un problema laboral, militar o de contenidos, la encíclica conecta esos temas como partes de una misma estructura de poder.

Esa estructura se describe en términos muy duros. León compara a las élites tecnológicas de hoy con los conquistadores coloniales y advierte contra una nueva mentalidad de extracción, especialmente en regiones con fragilidad estructural e influencia geopolítica limitada. El argumento es que los sistemas intensivos en datos pueden reproducir viejos patrones de dominación bajo una etiqueta digital. En ese marco, la IA no es simplemente software. También es un arreglo institucional que puede profundizar las asimetrías entre quienes construyen y poseen los sistemas y quienes son medidos, gobernados o desplazados por ellos.

Aquí es donde la encíclica se aparta de versiones más suaves de la ética de la IA. En lugar de centrar únicamente la transparencia, la mitigación de sesgos o las barandillas voluntarias, parece plantear preguntas más básicas sobre poder, propiedad y propósito. ¿Quién se beneficia de los sistemas de IA? ¿Quién asume el riesgo? ¿A quién se deja de lado? Esas preguntas sitúan la intervención del Vaticano mucho más cerca de la economía política que del lenguaje del cumplimiento corporativo.

Una visión en competencia sobre lo que significa construir

Uno de los rasgos más llamativos del relato original es que León no se detiene en la crítica. También adopta el lenguaje de la construcción, pero lo redirige. En su visión, construir no se limita al código, las startups, las plataformas o las fábricas. Forma parte de un llamado más amplio a crear lo que describe como una “civilización del amor”, un orden social en el que la tecnología sirva y amplifique a la humanidad en lugar de dominarla.

Esa distinción importa porque la retórica pública dominante sobre la IA todavía suele asumir que la aceleración es la principal medida de la seriedad. Construir más rápido, desplegar antes, escalar más lejos. La intervención de León sugiere otra prueba: si los sistemas preservan la dignidad humana, la participación social y la responsabilidad moral. Si no lo hacen, la sofisticación técnica no es una defensa.

También hay aquí una advertencia implícita para las instituciones que quieren externalizar el juicio. Una máquina puede optimizar, recomendar, clasificar, dirigir o automatizar, pero la encíclica parece insistir en que ninguna de esas funciones debe vaciar la agencia humana. La exigencia no es anti-tecnología en un sentido simple. Es anti-subordinación. El problema no es que existan herramientas; es que las herramientas puedan insertarse en lógicas que excluyen a las personas de las decisiones que moldean sus vidas.

Por qué esta intervención llega ahora

El momento es significativo. Los debates sobre la IA se han vuelto más concretos en los últimos dos años, con crecientes preocupaciones sobre la disrupción laboral, la autonomía militar, la infraestructura concentrada y la extracción transfronteriza de datos. La encíclica de León entra en ese momento con un vocabulario diseñado para elevar las apuestas. Al vincular la IA con la doctrina social, está diciendo, en efecto, que ya no se trata de una conversación especializada reservada a ingenieros, ejecutivos y reguladores.

Eso podría ampliar la audiencia de los argumentos sobre la gobernanza de la IA. Las instituciones religiosas no escriben normas técnicas, pero sí pueden influir en el marco moral público en el que esas normas se debaten. Un llamado a “desarmar” la IA es memorable porque condensa una crítica compleja en una sola exigencia: la tecnología no debe poder acumular poder sin rendir cuentas a fines humanos.

La presencia del cofundador de Anthropic, Dario Amodei, en el evento, como señala el texto de origen, también subrayó la superposición entre la autoridad moral y el poder de la industria de frontera. El Vaticano entiende claramente que se dirige tanto a desarrolladores y ejecutivos como a creyentes. El mensaje no es que la innovación deba detenerse. Es que la innovación sin orientación moral se vuelve peligrosa precisamente cuando parece más capaz.

La larga disputa por delante

Si la intervención de León cambia directamente la política es una pregunta abierta. Pero sí añade peso a una visión cada vez más extendida: la gobernanza de la IA no puede reducirse a una gestión estrecha del riesgo. Los asuntos planteados en la encíclica abarcan la guerra, el trabajo, la extracción, la propiedad y la forma misma de la vida social.

Puede que esa amplitud sea el punto. Las revoluciones industriales no solo cambian herramientas; reorganizan sociedades. Al invocar la tradición de Rerum Novarum, León sostiene que la IA pertenece a esa categoría. La cuestión central ya no es si la tecnología es impresionante. Es si el mundo que se construye a su alrededor deja a los seres humanos más protegidos, más empoderados y más plenamente incluidos que antes.

En ese sentido, “desarmar” es menos un rechazo de la inteligencia en las máquinas que un rechazo de los arreglos políticos y económicos que pueden convertir esos sistemas en instrumentos de coerción. La encíclica recuerda que el futuro de la IA no estará determinado solo por la ingeniería. También será moldeado por los valores que las instituciones estén dispuestas a defender.

Este artículo se basa en un reportaje de Ars Technica. Leer el artículo original.