O próximo gargalo da IA pode ser os dados, não o tamanho do modelo

Um ex-pesquisador da OpenAI está defendendo com veemência que a próxima grande corrida armamentista da IA vai se concentrar em dados de treinamento, e não apenas em escala. Segundo a reportagem do The Decoder, Andrew Ho deixou a OpenAI após oito meses para criar uma empresa focada em produzir conjuntos de dados especializados e de alta qualidade, motivado pela visão de que os grandes modelos de linguagem ainda generalizam mal em tarefas economicamente importantes.

A afirmação contraria uma das suposições mais persistentes da IA moderna: a de que modelos maiores, treinados com mais computação, continuarão ampliando sua competência em diferentes áreas. A posição de Ho é que isso não basta. Em sua visão, muitas formas valiosas de trabalho são contextuais demais, mal representadas demais ou difíceis demais de avaliar nos conjuntos de dados existentes para que o atual manual de escala consiga capturá-las de forma confiável.

Esse argumento importa porque desloca a atenção da competição visível entre os laboratórios de modelos de fronteira para o negócio menos glamouroso, mas cada vez mais estratégico, da criação de dados. Se Ho estiver certo, a próxima vantagem duradoura em IA pode vir de quem conseguir coletar, estruturar e validar exemplos específicos de tarefas em escala industrial.

Por que os conjuntos de dados atuais podem ser insuficientes

O relatório de origem diz que Ho acredita que o problema central é que a maioria das habilidades economicamente relevantes mal aparece nos corpora de treinamento existentes. Texto em escala da internet foi suficiente para criar chatbots competentes, assistentes de código e ferramentas de pesquisa, mas talvez não seja suficiente para ensinar modelos a realizar trabalho especializado com confiabilidade consistente.

A crítica de Ho é especialmente incisiva porque vem de dentro do ecossistema de modelos de fronteira, e não de um cético externo. Ele argumenta que, mesmo quando os humanos conseguem observar um “caminho dourado” em uma tarefa, é difícil saber se caminhos alternativos também são bons, ruins ou incompletos. Essa ambiguidade torna muitas habilidades do mundo real difíceis de codificar em ambientes de benchmark bem definidos.

Em outras palavras, o desafio não é simplesmente coletar mais texto. É construir conjuntos de dados que preservem contexto, resultados, casos extremos e sinais de qualidade em domínios nos quais erros são caros e o desempenho correto depende de conhecimento tácito. Esse é um problema de dados muito mais difícil do que simplesmente raspar a web pública.

Da ambição ampla em IA para a execução em domínios mais estreitos

A tese de Ho é reforçada no relatório por trabalhos do pesquisador de Cambridge Adam Hunt e pelo apoio de pesquisadores do Google DeepMind, que argumentam que os sistemas atuais estão se tornando mais especializados, e não mais universalmente capazes. A implicação é que alguns ganhos de destaque podem mascarar um quadro subjacente mais desigual: os modelos podem melhorar em áreas selecionadas enquanto estagnam ou enfraquecem em outras.

Essa distinção é importante para empresas que tentam implantar IA em laboratórios, fluxos de trabalho de saúde, análise científica ou outros ambientes de alto valor. Um modelo que impressiona em demonstrações, mas é inconsistente em ambientes reais, não é suficiente. Confiabilidade, repetibilidade e competência específica de domínio importam mais do que fluência ampla, porém superficial.

Se os desenvolvedores de modelos estiverem chegando a um limite na resolução criativa de problemas ou na transferência generalizada, então dados direcionados se tornam uma forma de avançar a capacidade onde isso realmente conta. Essa é, na prática, a aposta de Ho: não que a escala seja inútil, mas que seus retornos diminuem se não vier acompanhada de dados desenhados em torno de tarefas concretas.

Two paths of AI development: gradual, broad improvement across all tasks (top) versus extreme specialization where a few capabilities spike while core skills stagnate or shrink (bottom). | Image: via Adam Hun
Two paths of AI development: gradual, broad improvement across all tasks (top) versus extreme specialization where a few capabilities spike while core skills stagnate or shrink (bottom). | Image: via Adam Hun

Os primeiros alvos: bioinformática e trabalho rotineiro de laboratório

A empresa que Ho está lançando supostamente começa em duas áreas. Uma é a bioinformática, onde o artigo diz que até modelos atuais como o GPT-5.6 Sol conseguem apenas cerca de 30% de taxa de sucesso em análises científicas complexas relacionadas ao trabalho anterior de Ho na OpenAI. A segunda área é o trabalho rotineiro de laboratório, incluindo cenários em que pesquisadores enviam imagens de experimentos para sistemas de IA para avaliação.

Esses pontos de partida são reveladores. Ambos são domínios nos quais uma IA útil exige mais do que imitação de linguagem. A bioinformática muitas vezes envolve raciocínio em múltiplas etapas, convenções de domínio, contexto científico e alta sensibilidade a erros. Já os fluxos de laboratório podem depender de julgamento visual, compreensão procedimental e interpretação prática, e não de respostas de livro didático. São precisamente esses os ambientes em que dados genéricos ou de baixa qualidade podem fazer os modelos parecerem capazes em métricas agregadas, enquanto fracassam em usos decisivos.

O relatório diz que química, ciência dos materiais, saúde e trabalho de conhecimento mais amplo estão planejados a seguir. Esse roteiro sugere uma estratégia comercial construída em torno de setores em que erros têm custo e em que dados sob medida podem se tornar infraestrutura defensável.

Um desafio à economia dos laboratórios de fronteira

Ho também parece cético em relação às avaliações altíssimas atribuídas aos laboratórios de IA de fronteira. Como resumido pelo The Decoder, ele argumenta que empresas como OpenAI e Anthropic são cronicamente pouco lucrativas porque precisam continuar gastando pesadamente em novos modelos apenas para se manter à frente de rivais de menor custo, como Qwen ou Kimi. Independentemente de alguém aceitar ou não esse diagnóstico completo, ele aponta para uma tensão crescente no mercado.

Se o custo marginal da escala de fronteira continuar alto enquanto concorrentes abertos ou mais baratos reduzem a diferença, então a vantagem proprietária pode precisar vir de algo mais difícil de replicar do que o tamanho do modelo sozinho. Conjuntos de dados curados, fluxos de trabalho privados, resultados verificados e ciclos de feedback específicos de domínio atendem melhor a esse requisito do que a escala bruta. Eles levam mais tempo para construir, são mais difíceis de copiar e, muitas vezes, estão mais estreitamente ligados aos casos de uso dos clientes.

Isso não significa que os modelos de base deixem de importar. Significa que sua diferenciação dependerá cada vez mais da qualidade dos dados que os cercam. Nesse cenário, as empresas de dados não ficam a jusante dos laboratórios de modelos; tornam-se uma parte crítica da camada de capacidades.

O que um mercado de dados de US$ 100 bilhões sinalizaria

A estimativa de Ho de que os laboratórios de IA gastarão mais de US$ 100 bilhões em coleta de dados direcionada nos próximos anos é uma previsão ousada, mas a lógica estratégica é fácil de acompanhar. Se os dados públicos da web estiverem esgotados como fonte de ganhos fáceis, então o setor precisa de nova matéria-prima. Essa matéria-prima pode ser tarefas científicas anotadas, fluxos de trabalho empresariais validados, registros de laboratório multimodais ou outra experiência estruturada que os modelos atuais não veem o suficiente durante o treinamento.

Esse tipo de gasto também mudaria quem se beneficia do boom da IA. Em vez de concentrar valor principalmente em fabricantes de chips, hyperscalers e desenvolvedores de modelos de fronteira, um ciclo centrado em dados elevaria especialistas de domínio, sistemas de rotulagem, ferramentas de dados sintéticos, parcerias de dados corporativos e organizações capazes de medir qualidade em ambientes especializados.

A conclusão mais ampla é que a competição em IA pode estar entrando em uma fase menos visível, mas mais fundamental. O próximo salto pode não vir simplesmente de tornar os modelos maiores. Pode vir de ensiná-los melhor, com dados construídos para o trabalho bagunçado, contextual e de alto risco que ainda resiste à automação. Ho aposta que essa mudança não é um detalhe lateral. Ele aposta que ela se tornará um dos mercados definidores do próximo ciclo da IA.

Este artigo é baseado na reportagem do The Decoder. Leia o artigo original.

Originally published on the-decoder.com