Anthropic vai desativar modelos avançados após ordem dos EUA

Anthropic diz que uma ordem dos EUA está forçando uma interrupção abrupta dos modelos

A Anthropic afirmou que vai desativar seus modelos de IA mais avançados depois que o governo dos EUA ordenou que a empresa suspendesse o acesso para estrangeiros, de acordo com o relatório fornecido. A medida afeta os modelos Fable 5 e Mythos 5 da empresa e foi apresentada pela Anthropic como um passo imediato de conformidade ligado a preocupações de segurança nacional.

O desenvolvimento marca uma escalada acentuada na abordagem do governo em relação aos controles de IA. במשך anos, as restrições dos EUA se concentraram principalmente em chips, ferramentas de semicondutores e outras infraestruturas necessárias para construir IA avançada. Esta ordem, como descrita na fonte, aproxima a linha de controle dos próprios modelos ao restringir quem pode acessá-los.

O que a Anthropic diz que foi informada

Segundo o texto de origem, a Anthropic disse ter recebido uma diretiva de controle de exportação ordenando a suspensão do acesso ao Fable 5 e ao Mythos 5 para todos os estrangeiros. A empresa disse que não recebeu detalhes específicos sobre a preocupação de segurança nacional por trás da ordem.

A Anthropic afirmou entender que o governo acredita haver uma forma de contornar, ou “jailbreak”, ao menos uma das salvaguardas destinadas a impedir que o Fable 5 seja usado para identificar vulnerabilidades de software. Em outras palavras, a preocupação parece ser que um modelo com fortes capacidades possa ser manipulado para ajudar usuários a encontrar fragilidades exploráveis em sistemas de software.

A empresa contestou a justificativa. No relatório fornecido, a Anthropic disse que recebeu apenas evidências verbais do que descreveu como um possível jailbreak estreito e não universal. Argumentou que esse tipo de constatação não deveria justificar a retirada de um modelo comercial usado por um número muito grande de pessoas.

Um ponto de inflexão na política de exportação de IA

A disputa é importante porque sugere uma nova fronteira na regulação de IA. Os controles de exportação tradicionalmente se concentraram na cadeia de suprimentos física e técnica: chips avançados, equipamentos de litografia e ferramentas relacionadas. Restringir o acesso aos próprios serviços de IA é um mecanismo diferente e potencialmente mais disruptivo, especialmente quando o acesso em nuvem permite que modelos sejam usados globalmente sem envio de hardware.

Se o acesso a modelos de fronteira puder ser limitado com base em nacionalidade, empresas de IA podem enfrentar um novo ônus de conformidade semelhante aos regimes de triagem de exportações já comuns nas indústrias de defesa e de uso duplo. A fonte não detalha como a Anthropic separará tecnicamente os usuários afetados, mas sua declaração indica que a empresa optou por um encerramento amplo em vez de tentar uma implementação mais restrita sob incerteza.

Tensão entre Anthropic e Washington

A ordem também chega no meio de uma relação já tensa entre a Anthropic e o governo dos EUA. A fonte diz que a relação se deteriorou no início deste ano depois que a Anthropic se recusou a permitir que o exército dos EUA usasse seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autônomos. Em resposta, o governo colocou a empresa em uma lista negra da cadeia de suprimentos que passaria a valer mais tarde no ano.

Esse contexto importa porque faz a diretriz mais recente parecer mais do que uma disputa técnica isolada. Ela surge em meio a uma batalha mais ampla sobre como as empresas de IA devem cooperar com o poder estatal, onde devem ficar os limites do uso defensivo aceitável e quanto poder os governos devem exercer sobre modelos desenvolvidos privadamente.

O relatório também observa que sinais de alívio haviam surgido recentemente nas disputas entre a Anthropic e autoridades do governo Trump. A nova ordem contraria essa impressão e sugere que o conflito subjacente continua sem समाधान.

Por que a questão do jailbreak importa

A Anthropic enquadrou o tema como uma disputa sobre como os governos devem avaliar o risco de jailbreak. No relato fornecido, a empresa havia pedido poucos dias antes mais supervisão dos EUA sobre IA, incluindo a capacidade de bloquear modelos com riscos inaceitáveis. Mas disse que a ação de sexta-feira não seguiu o que considerava um processo baseado em princípios e em evidências.

Essa distinção é central. As empresas de IA cada vez mais aceitam que algum nível de supervisão é inevitável, e algumas até a apoiam ativamente. A questão mais difícil é quais limites acionam intervenção. Se um bypass estreito de uma salvaguarda for suficiente para interromper o acesso internacional a um grande modelo comercial, as empresas podem argumentar que praticamente qualquer sistema avançado seria vulnerável a restrições repentinas. Os reguladores, por outro lado, podem ver justamente essa possibilidade como o motivo para agir cedo.

Um sinal para o setor mais amplo

A ordem relatada provavelmente será acompanhada de perto por todos os desenvolvedores de IA de fronteira. Mesmo sem mais detalhes técnicos, ela mostra que as autoridades dos EUA podem estar prontas para agir diretamente contra o acesso aos modelos quando acreditam que há implicações de segurança nacional. Isso cria nova incerteza para provedores que atendem usuários globais por meio de uma única plataforma.

Para a Anthropic, o resultado imediato é uma disrupção operacional e de reputação. Para o setor como um todo, o episódio pode se tornar precedente. Se os governos passarem de controlar hardware de IA para controlar capacidades de IA na forma de serviço, as empresas precisarão de triagem mais rígida, camadas de implantação mais claras e argumentos de segurança mais defensáveis. O relatório fornecido sugere que essa transição talvez já esteja em andamento.

Este artigo é baseado em reportagem do The Guardian. Leia o artigo original.