Google testa benchmark de IA em dupla ocultação para o Gemini

Google tenta vedar vazamentos em benchmarks de IA

A Google DeepMind diz que está testando uma nova forma de avaliar sistemas avançados de IA sem expor nem as perguntas de teste nem o próprio modelo. O piloto, descrito como a primeira avaliação em dupla ocultação de um modelo proprietário de fronteira, mira um dos problemas de medição mais persistentes do setor: a contaminação de benchmarks.

O problema é simples, mas relevante. Se um modelo já absorveu perguntas de benchmark durante o treinamento ou a otimização, pontuações altas ficam mais difíceis de interpretar. Um resultado pode refletir memorização, exposição direta ou ajuste específico ao teste, em vez de uma capacidade mais ampla. Para empresas, pesquisadores, reguladores e avaliadores externos, isso enfraquece a confiança em uma das principais ferramentas usadas para comparar modelos e avaliar riscos.

Segundo o relatório fornecido, a abordagem do Google coloca materiais de teste confidenciais em um ambiente criptograficamente protegido para que o fornecedor do modelo não possa inspecionar os prompts com antecedência. Ao mesmo tempo, o avaliador não obtém acesso aos pesos do modelo. Esse arranjo foi pensado para eliminar uma troca antiga em testes externos, nos quais normalmente um lado precisa abrir mão de dados sensíveis do benchmark ou de ativos proprietários do modelo.

Um piloto centrado no Gemini Flash Lite

O projeto piloto usa um modelo da linha Gemini Flash Lite e roda contra benchmarks confidenciais com parceiros que incluem o Singapore AI Safety Institute. O objetivo relatado é preservar a privacidade de ambas as partes e, ainda assim, permitir uma avaliação externa rigorosa. Na prática, o benchmark permanece oculto do Google, e os detalhes internos do modelo permanecem ocultos do avaliador.

Isso importa porque os testes de modelos avançados dependem cada vez mais de materiais sensíveis. Em áreas como cibersegurança, potencial de uso indevido ou avaliações conduzidas por governos, os próprios prompts de benchmark podem ser valiosos ou arriscados. Se essas perguntas vazarem, o teste pode perder grande parte do valor. Se os fornecedores forem obrigados a entregar os pesos, enfrentam preocupações próprias de propriedade intelectual e segurança.

O artigo trata o novo processo como uma tentativa de resolver os dois problemas ao mesmo tempo. O Google diz que está usando o Confidential Space, do portfólio de computação confidencial do Google Cloud, para criar um ambiente de execução protegido. O objetivo não é apenas confidencialidade baseada em política ou contrato, mas isolamento técnico apoiado por verificação criptográfica.

Por que a contaminação de benchmarks virou um problema maior

A contaminação de benchmarks não é uma preocupação nova em machine learning, mas se torna mais séria à medida que os modelos crescem, os dados de treinamento se expandem e a pressão competitiva aumenta. Sistemas proprietários de fronteira são treinados em volumes enormes de dados em escala da internet e em dados curados. Isso aumenta a chance de materiais semelhantes a benchmarks, ou variações muito próximas, já terem entrado no pipeline de treinamento.

Mesmo quando um benchmark não é incluído diretamente, o vazamento pode ocorrer por ajuste fino, ciclos de feedback humano, material sintético de treinamento ou otimização impulsionada por discussões públicas repetidas sobre os formatos de teste. Quando isso acontece, pontuações de destaque podem superestimar a capacidade no mundo real. Para observadores externos, a pergunta central passa a ser se o benchmark mede generalização ou repetição de treino.

A resposta proposta pelo Google é tanto processual quanto técnica: manter o teste cego para o desenvolvedor do modelo e manter o modelo opaco para o dono do teste. Isso não elimina todos os problemas de avaliação, mas ataca diretamente um dos mais corrosivos. Se o modelo não pode ver os prompts com antecedência, o fornecedor tem menos oportunidades de otimizar especificamente para aqueles itens.

O relatório também observa que avaliações externas sensíveis antes exigiam um compromisso. Os avaliadores podiam entregar os prompts e confiar que o fornecedor não os reteria nem faria mau uso deles, ou os fornecedores podiam compartilhar os pesos do modelo e aceitar a exposição associada. O esquema em dupla ocultação foi pensado para eliminar essa escolha.

Um problema de confiança da indústria, não apenas do Google

O significado mais amplo é que benchmarks de IA viraram uma questão de governança, e não apenas de ranking. As pontuações são cada vez mais usadas em lançamentos de produtos, compras corporativas, debates sobre segurança e discussões de políticas públicas. Se os testes por trás dessas alegações não forem confiáveis, grande parte da base pública de evidências sobre desempenho em IA se torna menos crível.

O artigo cita um exemplo recente envolvendo o atraso na avaliação ARC-AGI para o Fable 5 da Anthropic, em que restrições de retenção de dados complicaram o teste independente. Esse exemplo ilustra o atrito operacional que pode surgir quando modelos fortes e benchmarks externos confidenciais se encontram. Inferência com base no relatório fornecido: o Google está posicionando seu piloto como uma forma de tornar essas avaliações mais fáceis de conduzir sem obrigar nenhum dos lados a uma divulgação desconfortável.

Há também uma ambição de definir padrão aqui. O Google diz esperar que o esforço ajude a indústria a construir sistemas de IA mais confiáveis e mais amplamente aceitos. Essa afirmação deve ser lida com cuidado. Um piloto não é uma solução para todo o setor, e a confiança em benchmarks depende de mais coisas além do sigilo dos prompts. Qualidade do desenho do teste, rigor estatístico, reprodutibilidade, escopo do benchmark e independência do avaliador continuam importantes. Mas a proteção técnica em torno do processo de teste pode se tornar uma parte relevante da pilha.

O que observar a seguir

A pergunta mais importante daqui para frente é se esse método vai se expandir além de um único piloto. Se outros grandes desenvolvedores de modelos, institutos independentes e avaliadores governamentais adotarem mecanismos parecidos, a abordagem pode virar parte da supervisão normal de modelos de fronteira. Se continuar limitada a demonstrações pontuais, o impacto será mais restrito.

Outra questão em aberto é quais tipos de avaliação mais se beneficiam. O artigo sugere que cibersegurança e testes governamentais são candidatos especialmente fortes porque os próprios prompts podem ser sensíveis. Essa lógica também pode se estender a alguns cenários de biosegurança, segurança nacional ou red team comercial, embora o texto fornecido não especifique diretamente esses domínios.

Por enquanto, o principal avanço é claro: a Google DeepMind está tentando mover os benchmarks de IA de acordos baseados em confiança para confidencialidade imposta tecnicamente. Em um campo onde as alegações de desempenho são debatidas com a mesma intensidade que os próprios sistemas, isso é uma mudança notável. O piloto não resolve a discussão mais ampla sobre como a capacidade da IA deve ser medida, mas enfrenta uma lacuna básica de credibilidade. Se um benchmark existe para testar o que um modelo pode fazer, o modelo não deveria já conhecer a prova.

Este artigo é baseado em reportagem do The Decoder. Leia o artigo original.