Una encíclica sobre IA con una señal literaria inesperada
La primera encíclica del papa León XIV sobre inteligencia artificial iba a atraer atención de todos modos. La carta, titulada Magnifica humanitas, aborda lo que el papa llama la salvaguarda de la persona humana en la era de la IA y advierte sobre una lógica tecnocrática que puede reducir tanto la creación como a los seres humanos a instrumentos de eficiencia. Ese argumento por sí solo ya habría hecho relevante el texto.
Lo que lo convirtió en un momento cultural más amplio fue una cita inesperada: J.R.R. Tolkien. Al invocar a Gandalf de El Señor de los Anillos, León hizo algo más que añadir un nombre literario famoso a un documento teológico. Colocó a la IA dentro de un marco moral que choca de frente con la autoimagen cultivada por algunas de las figuras más influyentes del sector.
La crítica trata sobre el poder, no solo sobre las herramientas
La encíclica de León, según Wired, continúa un tema que ha enfatizado durante su primer año como papa: el escepticismo frente a la idea de que la capacidad técnica justifica automáticamente su propia expansión. Advierte explícitamente contra la “creciente dominancia de un paradigma tecnocrático” y vincula el momento de la IA con formas anteriores de convulsión asociadas con la Revolución Industrial.
La comparación importa porque desplaza el debate desde la novedad del producto hacia el trabajo, la dignidad y el poder político. Esa línea también remite al papa León XIII, cuya encíclica de 1891 defendió los derechos de los trabajadores en medio de la transformación industrial. En efecto, León XIV sostiene que la IA no debe juzgarse solo por lo que puede optimizar, sino por lo que reorganiza en la vida humana.
Eso ya supone un desafío a la retórica dominante sobre la IA de frontera, que a menudo presenta la velocidad, la escala y el aumento de capacidades como bienes intrínsecamente civilizatorios. La encíclica cuestiona si los incentivos subyacentes están realmente orientados al florecimiento humano o a la concentración de beneficios y control.
Por qué Tolkien resuena tan fuerte
La referencia a Tolkien le da a esa crítica un filo cultural. León cita a Gandalf sobre los límites del dominio y el deber de actuar bien dentro del propio tiempo y lugar. En contexto, la cita subraya la contención, el cuidado y la responsabilidad moral, no la dominación.
Esa lectura entra en tensión con la manera en que algunas figuras poderosas de la tecnología se han asociado públicamente con la imaginería de Tolkien. Como señala Wired, Peter Thiel nombró Palantir a partir de la piedra de visión utilizada en la saga, mientras que Elon Musk también ha recurrido a la mitología. Los críticos llevan tiempo sosteniendo que esas invocaciones suelen despojar la obra de Tolkien de su sensibilidad anti-poder y reconvertirla en marca para la ambición de élite.
El uso que León hace de Tolkien hace lo contrario. Devuelve la historia a la humildad, el servicio y la resistencia a las corrupciones que acompañan al poder. Sea intencional o no, hace legible la advertencia de la Iglesia sobre la IA dentro de una lucha más amplia por definir quién fija el significado del progreso tecnológico.
Un texto religioso entra en el debate secular sobre IA
Las intervenciones religiosas en los debates sobre tecnología son fáciles de subestimar, sobre todo en un campo dominado por ingenieros, inversores y responsables políticos. Pero esta encíclica entra en una discusión viva sobre si la IA debe gobernarse principalmente como motor de innovación o como una fuerza con implicaciones profundas para el trabajo, la cultura y la agencia humana.
Al enmarcar la IA en términos de dignidad humana, León insiste en que la conversación no puede agotarse con métricas de rendimiento ni con promesas de futuras curas y mejoras de eficiencia. La encíclica pregunta qué tipo de orden social se está construyendo alrededor de estos sistemas y quién resulta prescindible dentro de él.
Eso le da relevancia al documento más allá de los públicos católicos. El lenguaje de “paradigma tecnocrático” resuena porque nombra algo que muchos críticos del auge de la IA ya sospechan: que la tecnología no está emergiendo en un mundo neutral, sino en instituciones ya inclinadas a medir el valor por la velocidad, la escala y la extracción.
Por qué este momento importa
Lo más interesante de la intervención de León no es que un papa haya citado literatura fantástica. Es que la cita funcionó. Conectó un argumento ético denso con un universo simbólico del que muchos líderes tecnológicos ya toman prestado, y luego invirtió la lectura moral en su contra.
Al hacerlo, la encíclica amplió el vocabulario cultural disponible para los escépticos de la IA. Sugirió que las preocupaciones más profundas sobre la IA no son solo técnicas o económicas. Son civilizacionales en el sentido más antiguo de la palabra, e implican carácter, cuidado, límites y la negativa a confundir capacidad con sabiduría.
Eso no resuelve el debate sobre la IA, y es poco probable que la encíclica cambie por sí sola el rumbo de los grandes laboratorios. Pero sí muestra que la crítica a la industria ya no se limita a documentos regulatorios y quejas laborales. Se está articulando a través de la teología, la tradición literaria y viejos debates sobre lo que ocurre cuando sistemas construidos para la eficiencia empiezan a redefinir a los seres humanos dentro de ellos.
Este artículo se basa en una cobertura de Wired. Leer el artículo original.
Originally published on wired.com
