Disputa sobre prova do Milênio da OpenAI levanta questões difíceis sobre confiança na pesquisa de IA

Quando um laboratório de IA persegue um problema do Milênio

O conflito começou com uma alegação extraordinária: um sistema de IA teria produzido uma prova das equações de Navier-Stokes, um dos sete Problemas do Milênio do Clay Mathematics Institute e um desafio que resiste aos matemáticos há décadas. O episódio deveria ter sido um marco para a pesquisa assistida por IA. Em vez disso, tornou-se um conto de advertência sobre a forma como as ideias circulam entre pesquisadores independentes e os poderosos laboratórios que controlam tanto os algoritmos quanto as plataformas usadas para desenvolvê-los.

Todas as principais partes já fizeram declarações públicas, e os relatos diferem nitidamente. No centro está o matemático Tristan Buckmaster, que afirma que a OpenAI cometeu má conduta após saber de um projeto de pesquisa que ele desenvolvia com Levent Alpöge. A OpenAI nega as acusações mais graves, mas admite que suas ações foram moldadas por rumores sobre o que os modelos do laboratório rival Anthropic haviam alcançado.

Alegações de pressão e plágio

Buckmaster tem sido excepcionalmente direto em suas críticas. Ele diz que a OpenAI usou material de rascunhos que ele e Alpöge enviaram ao ambiente Codex da OpenAI, pressionou-o durante o processo de pesquisa, tentou remover Alpöge como coautor simplesmente porque Alpöge é funcionário da Anthropic, e o ameaçou com consequências para sua carreira. Na visão de Buckmaster, o comportamento equivale a má conduta acadêmica absoluta.

A acusação de pressão é impossível de verificar externamente. O que pode ser documentado é que a OpenAI ouviu rumores de que os modelos da Anthropic haviam resolvido um Problema do Milênio e, por sua própria admissão, direcionou seus recursos para o mesmo alvo. O CEO da OpenAI, Sam Altman, e o pesquisador Sébastien Bubeck negam plágio. Eles reconhecem que sua equipe desenvolveu um modelo especificamente para o problema após o rumor circular, mas rejeitam a sugestão de que o resultado da empresa foi copiado de Buckmaster e Alpöge.

Duas versões muito diferentes do mesmo trabalho

O núcleo técnico do desacordo é a originalidade. A OpenAI mantém que sua solução difere significativamente do trabalho dos matemáticos. Buckmaster e Alpöge discordam. Eles observam que haviam inserido uma abordagem semelhante nos sistemas da OpenAI e suspeitam que a entrada acabou nos dados de treinamento. Se for verdade, a empresa pode ter acelerado além de seus concorrentes usando exatamente as ideias que esses concorrentes confiaram às suas ferramentas de desenvolvimento.

Essa possibilidade importa por uma razão simples: pesquisadores normalmente não submetem seus trabalhos não publicados a um concorrente para treinamento. Mas quando laboratórios de IA fornecem assistentes de codificação e plataformas em nuvem, os usuários podem estar alimentando sua propriedade intelectual mais promissora diretamente em um sistema que pode melhorar os modelos do próprio laboratório. A fronteira entre usar uma ferramenta e entregar a pesquisa a ela torna-se difícil de policiar.

A questão dos dados de treinamento permanece sem resposta

Funcionários da OpenAI apontam que a chance de a empresa ter treinado com as soluções submetidas é baixa, especialmente se os dois pesquisadores desativaram a opção que permitiria que suas entradas fossem usadas para treinamento. Se eles fizeram isso não é publicamente conhecido. De um ponto de vista científico, essa incerteza é exatamente o que torna a disputa perigosa. Quando uma alegação desse tipo não pode ser investigada de forma independente, os pesquisadores ficam dependendo da palavra de uma corporação que não tem obrigação legal de abrir seu pipeline de treinamento para inspeção externa.

O pesquisador da OpenAI, Boaz Barak, contestou a ideia de que o modelo precisava de ajuda externa. Em seu relato, o modelo não apenas reproduziu um argumento conhecido; ele começou provando uma afirmação mais forte do que os matemáticos haviam feito. Sugerir o contrário, em sua visão, é coping em vez de avaliação realista. No entanto, essa defesa pouco faz para resolver a questão mais profunda da proveniência. Mesmo um modelo que excedeu o trabalho dos pesquisadores poderia ter sido influenciado por seus rascunhos. A integridade científica não se resume a saber se a saída foi copiada; trata-se igualmente de saber se uma ideia foi usada sem permissão.

Um aviso de Terence Tao

Uma das respostas mais sóbrias veio do matemático Terence Tao. Ele alertou que eventos futuros desse tipo podem deixar matemáticos independentes em uma posição impossível. Quando um rumor chega a uma grande empresa de tecnologia, essa empresa pode mobilizar poder computacional e talento substanciais em poucos dias. Uma pequena equipe de acadêmicos não consegue acompanhar esse ritmo, especialmente se o rumor for baseado em seu próprio trabalho não publicado. O resultado pode ser que laboratórios de IA rotineiramente ultrapassem projetos de pesquisa originais simplesmente porque têm melhores ouvidos e máquinas maiores.

O aviso de Tao vai além da disputa imediata. Ele aponta para uma assimetria emergente na ciência: os grupos que criam os modelos mais poderosos também estão em melhor posição para ouvir sobre resultados iniciais, integrá-los em execuções de treinamento e publicar primeiro. Os incentivos acadêmicos são construídos em torno de prioridade e abertura, mas esses incentivos se tornam sem sentido se um rival puder absorver dados não divulgados sem consentimento.

O que isso significa para a ciência aberta

A controvérsia de Navier-Stokes, portanto, não é apenas uma disputa entre dois indivíduos e um laboratório. Ela levanta questões fundamentais sobre a relação entre o desenvolvimento de IA e a pesquisa aberta.

• Os pesquisadores podem usar plataformas de codificação de IA com segurança enquanto mantêm suas ideias não publicadas fora dos dados de treinamento de uma empresa? A maioria dos usuários não tem como verificar se tais proteções são eficazes.
• Os laboratórios de IA devem ter permissão para redirecionar seus esforços de pesquisa com base em trabalhos confidenciais ou rumores de outra organização, especialmente quando o rumor se origina dentro de suas próprias ferramentas?
• Quando um coautor é funcionário de um laboratório concorrente, esse fato deve influenciar a autoria? Buckmaster diz que a OpenAI tentou remover Alpöge do artigo por esse motivo, enquanto a empresa nega má conduta, mas não esclareceu sua política de autoria.
• Quem deve ter acesso aos dados de treinamento e pesos do modelo quando há alegação de plágio? Os mecanismos atuais de resolução de disputas não fornecem um caminho claro para auditores externos.
• O que acontece com a disposição do campo em compartilhar resultados iniciais se pesquisadores juniores temerem que seu trabalho seja explorado por um ator mais poderoso?

Estas não são preocupações abstratas. A disputa já prejudicou a confiança na ideia de que empresas de IA podem servir como parceiros científicos neutros. Mesmo pesquisadores que não têm interesse em Navier-Stokes podem razoavelmente hesitar antes de enviar um lema promissor ou um método não publicado a uma plataforma operada por um laboratório de IA.

A confiança não pode ser assumida

A OpenAI e seus defensores podem estar certos de que não houve uso indevido. As evidências disponíveis são incompletas, e a possibilidade de uma coincidência inocente é real. Mas o episódio elevou o padrão para o que parece ser uma pesquisa de IA responsável. Um laboratório que desenvolve ferramentas para matemáticos não pode confiar em uma vaga promessa de não usar seu trabalho. Deve demonstrar, por meio de políticas transparentes de tratamento de dados e mecanismos de auditoria independentes, que as contribuições dos usuários não aparecerão em modelos futuros sem consentimento.

A lição mais ampla pode ser que cientistas e laboratórios de IA operam sob lógicas diferentes. Acadêmicos compartilham para construir conhecimento; empresas compartilham para construir vantagem. Quando os dois sistemas colidem, o lado mais fraco geralmente é o pesquisador que está fora dos muros corporativos. A disputa de Navier-Stokes será lembrada não apenas pela conquista matemática que a desencadeou, mas pelo que revelou sobre a vulnerabilidade da ciência aberta na era da IA generativa. A menos que normas claras sejam estabelecidas em breve, o próximo problema do milênio pode ser resolvido não por um matemático solitário em um quadro-negro, mas por uma equipe corporativa que viu a resposta chegar antes de a pergunta ser publicada.

Este artigo é baseado em reportagem do The Decoder. Leia o artigo original.