O papa Leão XIV pede que a IA seja “desarmada” em sua primeira encíclica

Uma grande intervenção moral no debate sobre IA

O papa Leão XIV entrou na conversa global sobre inteligência artificial com uma linguagem incomumente direta, pedindo que a IA seja “desarmada” em sua primeira encíclica, Magnifica Humanitas. O documento, lançado em Roma, enquadra a IA não como uma questão técnica restrita, mas como um teste civilizacional. Leão argumenta que a tecnologia deve ser libertada de sistemas que a transformam em instrumento de dominação, exclusão e morte, e colocada a serviço do bem comum.

A força da intervenção está em parte no vocabulário. Leão diz explicitamente que escolheu a linguagem do desarmamento porque o momento exige palavras fortes o bastante para chamar atenção, despertar consciências e apontar a humanidade para um caminho diferente. Isso torna a encíclica mais do que um alerta geral sobre ética. É uma tentativa de definir os riscos da era da IA em termos morais e políticos.

O enquadramento do Vaticano também importa porque este não é um comentário marginal no ensinamento da Igreja. Leão assinou a encíclica em 15 de maio, aniversário da encíclica de 1891 Rerum Novarum, o texto fundador da doutrina social católica moderna. Ao fazer isso, ele coloca a IA ao lado das disrupções industriais que transformaram o trabalho, o poder e a vida social há mais de um século. Ele apresenta a inteligência artificial como a “coisa nova” da época atual, poderosa o suficiente para exigir uma nova declaração de princípios.

Das armas autônomas à extração de dados

A crítica do documento é ampla. Segundo o texto de origem, Leão aborda armas autônomas com IA, abordagens extrativistas em relação a dados de saúde e genéticos, e a concentração de controle em patentes, algoritmos, plataformas digitais, infraestrutura técnica e dados. É uma combinação notável. Em vez de tratar a IA apenas como questão trabalhista, militar ou de conteúdo, a encíclica conecta esses temas como partes de uma mesma estrutura de poder.

Essa estrutura é descrita em termos duros. Leão compara as elites tecnológicas de hoje a conquistadores coloniais e alerta contra uma nova mentalidade de extração, especialmente em regiões com fragilidade estrutural e influência geopolítica limitada. O argumento é que sistemas intensivos em dados podem reproduzir velhos padrões de dominação sob uma etiqueta digital. Nesse enquadramento, a IA não é apenas software. Ela também é uma arrumação institucional que pode aprofundar as assimetrias entre quem constrói e possui sistemas e quem é medido, governado ou deslocado por eles.

É aqui que a encíclica se afasta de versões mais brandas da ética da IA. Em vez de centralizar apenas transparência, mitigação de viés ou salvaguardas voluntárias, ela parece levantar questões mais básicas sobre poder, propriedade e finalidade. Quem se beneficia dos sistemas de IA? Quem arca com o risco? Quem é contornado? Essas perguntas colocam a intervenção do Vaticano muito mais perto da economia política do que da linguagem de compliance corporativo.

Uma visão concorrente do que significa construir

Uma das características mais marcantes do relato original é que Leão não para na crítica. Ele também adota a linguagem da construção, mas a redireciona. Em sua visão, construir não se limita a código, startups, plataformas ou fábricas. Faz parte de um chamado mais amplo para criar o que ele descreve como uma “civilização do amor”, uma ordem social em que a tecnologia serve e amplia a humanidade em vez de dominá-la.

Essa distinção importa porque a retórica pública dominante sobre IA ainda tende a pressupor que a aceleração é a principal medida de seriedade. Construir mais rápido, lançar antes, escalar mais. A intervenção de Leão sugere outro teste: se os sistemas preservam a dignidade humana, a participação social e a responsabilidade moral. Se não preservam, a sofisticação técnica não é defesa.

Há também um alerta implícito para instituições que querem terceirizar o julgamento. Uma máquina pode otimizar, recomendar, classificar, direcionar ou automatizar, mas a encíclica parece insistir que nenhuma dessas funções deve esvaziar a agência humana. A exigência não é anti-tecnologia num sentido simples. É anti-subordinação. O problema não é que existam ferramentas; é que ferramentas podem ser incorporadas a lógicas que excluem pessoas das decisões que moldam suas vidas.

Por que essa intervenção acontece agora

O timing é significativo. Os debates sobre IA se tornaram mais concretos nos últimos dois anos, com preocupações crescentes sobre disrupção do trabalho, autonomia militar, infraestrutura concentrada e extração transfronteiriça de dados. A encíclica de Leão entra nesse momento com um vocabulário pensado para elevar o nível da disputa. Ao ligar IA à doutrina social, ele está efetivamente dizendo que isso já não é uma conversa especializada reservada a engenheiros, executivos e reguladores.

Isso pode ampliar o público dos argumentos sobre governança de IA. Instituições religiosas não escrevem padrões técnicos, mas podem influenciar o enquadramento moral público em que esses padrões são debatidos. Um chamado para “desarmar” a IA é memorável porque condensa uma crítica complexa em uma única exigência: a tecnologia não deve acumular poder sem prestar contas aos fins humanos.

A presença do cofundador da Anthropic, Dario Amodei, no evento, como observado no texto de origem, também destacou a sobreposição entre autoridade moral e poder da indústria de fronteira. O Vaticano claramente entende que está falando com desenvolvedores e executivos tanto quanto com fiéis. A mensagem não é que a inovação deve parar. É que inovação sem orientação moral se torna perigosa justamente quando parece mais capaz.

O longo debate à frente

Se a intervenção de Leão muda a política diretamente é uma questão em aberto. Mas ela acrescenta peso a uma visão crescente de que a governança da IA não pode ser reduzida a uma gestão estreita de riscos. As questões levantadas na encíclica abrangem guerra, trabalho, extração, propriedade e a própria forma da vida social.

Talvez essa amplitude seja o ponto. As revoluções industriais não mudam apenas ferramentas; elas reorganizam sociedades. Ao invocar a tradição de Rerum Novarum, Leão argumenta que a IA pertence a essa categoria. A pergunta central já não é se a tecnologia é impressionante. É se o mundo construído ao seu redor deixa os seres humanos mais protegidos, mais empoderados e mais plenamente incluídos do que antes.

Nesse sentido, “desarmar” é menos uma rejeição da inteligência nas máquinas do que uma rejeição dos arranjos políticos e econômicos que podem transformar esses sistemas em instrumentos de coerção. A encíclica lembra que o futuro da IA não será determinado apenas pela engenharia. Ele também será moldado pelos valores que as instituições estiverem dispostas a defender.

Este artigo é baseado em uma reportagem da Ars Technica. Leia o artigo original.