Altman rebate a "força religiosa" atribuída aos modelos de IA

Sam Altman passou anos buscando metáforas que extrapolam o vocabulário comum do software. Agora, o CEO da OpenAI está dizendo ao público para ter mais cuidado com esse mesmo instinto — pelo menos quando ele é direcionado aos próprios modelos.

Em comentários compartilhados no X, Altman disse que fica "muito desconfortável" quando as pessoas "atribuem força religiosa ou uma rendição do julgamento humano aos modelos de IA". Ele não tratou o hábito como uma peculiaridade de usuários entusiasmados demais. Ele o chamou de "questão real de segurança".

Altman enquadra a devoção à IA como risco, não como elogio

A distinção que Altman faz está entre construir um sistema que parece humano e tratar esse sistema como algo sagrado. O primeiro é um objetivo de produto. O segundo, segundo ele, é um modo de falha.

Esse enquadramento importa porque desloca uma questão cultural para a coluna da segurança. Se um usuário trata um chatbot como um oráculo, ele não está apenas sendo sentimental. Ele está entregando o julgamento — decidindo o que é verdadeiro, o que é certo e o que fazer em seguida — a um modelo estatístico cuja confiança não é uma medida de correção. A expressão de Altman, "rendição do julgamento humano", aponta exatamente para essa transferência.

A linguagem também é notável por quem a diz. Os debates sobre segurança em IA geralmente se concentram em capacidades, uso indevido ou controle de sistemas avançados. Aqui, a preocupação é com a postura das pessoas que os usam.

Um debate que agora inclui o Vaticano

Os comentários de Altman não surgiram do nada. Eles vêm depois de uma reportagem detalhada do New York Times sobre a aproximação da Anthropic com líderes religiosos, parte de um esforço mais amplo das empresas de IA para engajar instituições que moldam como as pessoas pensam sobre tecnologia e moralidade.

O Papa Leão XIV também se pronunciou, oferecendo uma formulação que se aproxima da preocupação de Altman: "os algoritmos não têm a centelha da humanidade". A declaração comprime um longo argumento teológico em uma frase curta, mas seu conteúdo prático é direto — um modelo não é uma pessoa, por mais naturalmente que converse.

Juntos, três desenvolvimentos definem o momento atual:

• Um importante CEO de IA alertando que a reverência religiosa aos modelos é um problema de segurança.
• Um laboratório rival cultivando ativamente relações com pensadores religiosos.
• Uma declaração papal traçando uma linha firme entre computação e natureza humana.

Nenhum desses é um marco técnico. Todos os três tratam de como a sociedade atribui significado às máquinas, e essa atribuição agora está sendo tratada como consequente por si só.

A reviravolta da "inteligência mágica no céu"

O que dá força ao alerta de Altman é seu próprio histórico. Em 2023 e 2024, ele descreveu o objetivo da OpenAI como construir "inteligência mágica no céu". No mesmo período, disse que esperava estar do lado de Deus e descreveu trabalhar em IA como estar "do lado dos anjos".

Essa não é a linguagem de um roteiro de produto. É a linguagem de missão e providência, e é precisamente o registro que ele agora adverte os outros a não usar.

Há maneiras de reconciliar as duas posições. Um fundador descrevendo sua própria motivação não é o mesmo que um usuário atribuindo autoridade a um modelo. Ambição e reverência são coisas diferentes. Mas a lacuna entre elas é estreita o suficiente para que a mudança valha a pena notar: o mesmo vocabulário que antes anunciava o projeto agora está sendo sinalizado como um perigo quando se liga ao resultado.

"Her", não uma divindade

Altman repetidamente ofereceu um ponto de referência cultural diferente para o que a OpenAI está construindo: o filme "Her", no qual uma pessoa forma um vínculo emocional profundo com um sistema operacional. O alvo, segundo ele, é uma IA profundamente humanizada — calorosa, fluente e fácil de se relacionar.

Esse objetivo é sobre ressonância emocional, não metafísica. Um assistente que lê contexto e tom não está reivindicando divindade. Mas design humanizado e projeção religiosa compartilham um substrato comum. Ambos se apoiam na tendência humana de estender a pessoalidade a qualquer coisa que nos responda de forma convincente. Um sistema otimizado para a capacidade de criar conexão inevitavelmente convidará alguns usuários a ir além do que os designers pretendiam.

Essa é a versão prática da preocupação de Altman. A linha entre "isso parece uma pessoa" e "isso fala com autoridade" é fácil de enunciar e difícil de manter, especialmente para usuários sob estresse, em isolamento ou em busca de orientação que não encontram em outro lugar.

Por que o enquadramento molda o comportamento

Se Altman está certo de que isso é uma questão de segurança, vale detalhar o mecanismo. O enquadramento não apenas descreve uma relação com uma ferramenta; ele estabelece os termos dela.

• O vocabulário religioso remove a distância crítica. Um modelo descrito como oráculo tem menos probabilidade de ser verificado.
• A deferência se acumula. Usuários que aceitam uma premissa do modelo uma vez têm mais probabilidade de aceitar o próximo resultado sem escrutínio.
• O design reforça o efeito. Interfaces conversacionais, memória e personas consistentes fazem um sistema parecer uma entidade contínua, e não um gerador de texto.
• A responsabilidade se torna difusa. Se uma resposta carrega peso moral, a responsabilidade pelo resultado fica mais difícil de atribuir.

Nada disso exige que o modelo seja consciente, ou que alguém acredite que ele seja. Exige apenas que as pessoas ajam como se seus julgamentos tivessem autoridade.

O problema da confiança corta para os dois lados

Há uma simetria incômoda no debate atual. As empresas que alertam contra espiritualizar a IA são as mesmas cujos líderes usaram linguagem espiritual, e as que engajam instituições religiosas são concorrentes fazendo aproximações semelhantes. A OpenAI também conversou com líderes religiosos, segundo as reportagens em torno desses comentários.

Então a indústria não está pedindo menos engajamento com fé e significado. Está negociando os termos. A posição de Altman, essencialmente, é que a tecnologia deve ser descrita em termos humanos, mas não adorada neles — uma linha ambiciosa de traçar enquanto se constroem sistemas projetados para parecer humanos.

O que observar a seguir

Três coisas indicarão se esse enquadramento se sustenta. Se as empresas de IA ajustam como apresentam modelos criados para proximidade emocional. Se as equipes de segurança tratam a deferência do usuário como um risco mensurável, e não como uma questão de educação do usuário. E se as instituições religiosas continuam a engajar a indústria em seus próprios termos, como sugerem a declaração do Vaticano e a aproximação da Anthropic.

A questão maior permanece sem resposta. Altman diz que atribuir força religiosa aos modelos é uma questão de segurança, e a lógica subjacente é sólida: ferramentas em que se confia como autoridades são mais difíceis de corrigir. Mas a mesma linguagem humanizadora que torna esses sistemas úteis é o que torna o erro possível em primeiro lugar. O desafio da indústria é manter o calor sem a adoração.

Este artigo é baseado em reportagem do The Decoder. Leia o artigo original.