Quatro líderes de IA, uma promessa vaga
Quando o CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, o cofundador do Google DeepMind, Demis Hassabis, e o chefe da SpaceX, Elon Musk, concordaram vagamente no fim de semana em desacelerar o desenvolvimento da inteligência artificial, o enquadramento foi deliberado. O objetivo declarado era "desacelerar a fronteira" — uma linguagem que apresenta a contenção como gestão responsável, e não como recuo. O grupo aderiu, ao menos parcialmente, a uma proposta construída em torno de três ideias: incorporar auditores terceirizados junto aos desenvolvedores de IA, regular os laboratórios domésticos e, eventualmente, chegar a um acordo global para desacelerar o ritmo de desenvolvimento.
Os aplausos não duraram muito. Em poucas horas, os céticos já haviam chegado a uma leitura diferente do mesmo anúncio. Na visão deles, empresas que passaram anos correndo para lançar modelos cada vez maiores de repente descobriram as virtudes da cautela exatamente no momento em que a cautela protegeria suas posições de mercado. Alguns críticos foram além, descrevendo o arranjo como um cartel declarado.
A verdade, segundo fontes de todo o setor, é mais complicada do que qualquer um dos dois lados admite. É justamente por isso que o episódio merece uma leitura atenta: trata-se de um ensaio inicial para disputas que definirão a política de IA por anos.
O que a proposta de três etapas realmente pede
A substância do plano importa mais do que as personalidades ligadas a ele. O arcabouço foi apresentado em um ensaio de Amodei, e seus componentes são familiares a qualquer pessoa que tenha acompanhado os debates sobre segurança de IA nos últimos anos.
- Auditores terceirizados: revisores independentes incorporados aos desenvolvedores para inspecionar modelos e práticas de treinamento, em vez de confiar que os laboratórios se fiscalizem sozinhos.
- Regulação de laboratórios domésticos: regras formais que governem os laboratórios que operam nos Estados Unidos, em vez de diretrizes internas voluntárias.
- Um acordo global de desaceleração: um entendimento internacional entre as principais potências para conter o ritmo do desenvolvimento de fronteira.
Nenhuma dessas ideias se originou com os executivos que agora as endossam. Defensores da segurança de IA pressionam por auditoria externa e supervisão vinculante há anos, muitas vezes enquanto os mesmos laboratórios resistiam à ideia. Essa história é parte do motivo pelo qual o acordo do fim de semana soa tão diferente dependendo de onde você está. Uma proposta pode ser sólida em princípio e ainda assim ser suspeita quando seus apoiadores mais entusiasmados são as partes que ela menos restringiria.
A acusação de cartel, explicada
Os críticos mais duros da promessa não argumentam que desacelerar seja inerentemente errado. Eles discutem quem decide, e o que a decisão protege. Três preocupações se repetem.
Isso poderia excluir potenciais concorrentes. Uma empresa que já opera na fronteira tem relativamente pouco a perder com uma pausa e muito a ganhar com ela. Um desenvolvimento mais lento comprime a diferença entre os líderes e todos os outros apenas para os líderes, porque eles já detêm os modelos, as relações de computação e o talento. Uma regra que limita o ritmo do progresso pode funcionar como um fosso.
Isso poderia prejudicar o desenvolvimento de código aberto. Regimes de auditoria e regulamentações de laboratórios impõem custos de conformidade triviais para uma empresa com um grande quadro jurídico e de segurança, e punitivos para pequenas equipes de código aberto. Se o efeito prático de um arcabouço de segurança for que apenas um punhado de empresas bem capitalizadas possa treinar legalmente modelos de fronteira, então o arcabouço entregou consolidação sob a bandeira da cautela.
Isso poderia substituir salvaguardas legais reais. Quando a indústria escreve suas próprias regras, ela também decide o que essas regras deixam de fora. Compromissos voluntários não têm penalidades associadas, nem aplicação independente, nem mecanismo que sobreviva a uma mudança na estratégia corporativa. Uma promessa que se parece com regulação pode fazer a regulação real parecer redundante — que é exatamente o resultado que os críticos mais temem.
O argumento do vácuo regulatório
Há um contra-argumento que tem peso real, e ele vai contra a tese do cartel. Sob a atual administração, é improvável que uma regulação significativa de IA chegue por conta própria. Se a escolha é entre compromissos privados e nada, os compromissos privados não são nada, mesmo que sejam imperfeitos.
Essa lógica explica por que a proposta atraiu apoio de pessoas que não são naturalmente simpáticas às Big Techs. As três etapas que ela delineia — auditores, regras domésticas, uma desaceleração internacional — são as mesmas etapas que os defensores da segurança vêm solicitando. Fazer com que os líderes dos laboratórios mais capazes digam essas palavras em voz alta cria uma referência pública. Uma vez que um compromisso está registrado, o recuo se torna uma história, e histórias têm custos.
Mas o mesmo vácuo é o que deixa os céticos nervosos. Um arcabouço que preenche um espaço vazio também pode se enraizar, tornando-se o padrão de fato ao qual os legisladores apontam quando questionados sobre por que uma legislação formal é desnecessária. O perigo não é que a promessa faça demais. É que ela faça o suficiente para excluir algo mais forte.
Quem deveria liderar esta conversa?
Em todo o setor, emerge um ponto de concordância: os líderes de IA não são as melhores pessoas para liderar essa iniciativa. Mesmo quando suas motivações são genuínas, eles são simultaneamente os sujeitos das regras, os autores das regras e as vozes mais altas no debate sobre o que as regras deveriam dizer. Esse não é um arranjo viável para qualquer tecnologia com consequências tão amplas.
O que daria dentes à proposta — a expressão que o próprio enquadramento do setor convida — é verificação externa e consequência. Auditores independentes com acesso real e capacidade de publicar descobertas. Regulamentações com penalidades associadas, não apenas exigências de divulgação. Coordenação internacional que inclua governos capazes de aplicá-la, em vez de depender da boa vontade de um punhado de executivos que podem mudar de ideia.
A conclusão
A promessa de "desacelerar a fronteira" não é nem um pacto de segurança limpo nem um cartel comprovado. É uma proposta com componentes defensáveis, apresentada por pessoas cujos incentivos não estão totalmente alinhados com o interesse público. Ambas as coisas podem ser verdadeiras, e fingir o contrário enfraquece o argumento em favor das partes que vale a pena manter.
A questão só vai ganhar importância, e é por isso que os detalhes importam mais do que a aparência. Auditores, regras e acordos internacionais são os instrumentos certos. A pergunta que o aperto de mão do fim de semana deixa em aberto é quem os detém, e se alguém fora da sala de reuniões será capaz de fazer cumprir o que foi prometido.
Este artigo é baseado em reportagem do The Verge. Leia o artigo original.
Originally published on theverge.com