下一项AI瓶颈可能是数据，而不是模型大小
一位前OpenAI研究人员正在有力主张，下一场重大的AI军备竞赛将围绕训练数据展开，而不仅仅是围绕扩展规模。根据The Decoder的报道，Andrew Ho在OpenAI工作八个月后离开，创办了一家专注于生产高质量、专业化数据集的公司，背后的观点是，大语言模型在经济重要任务上的泛化能力仍然很差。
这一说法挑战了现代AI中最持久的一个假设：更大的模型，只要用更多算力训练，就会继续在各个领域扩大能力。Ho的立场是，这还不够。在他看来，许多有价值的工作形式过于依赖上下文，或在现有数据集中代表性太弱，或在现有数据集中难以评分，因此今天的扩展路线图无法可靠地捕捉它们。
这一论点之所以重要，是因为它把注意力从前沿模型实验室之间可见的竞争，转向了不那么光鲜、却越来越具战略意义的数据生成业务。如果Ho是对的，那么AI的下一项持久优势，可能来自能够以工业规模收集、组织并验证任务特定样本的参与者。
为什么当前数据集可能不够用
原始报道指出，Ho认为核心问题在于，大多数具有经济意义的技能在现有训练语料中几乎没有得到体现。互联网规模的文本已经足以造出能用的聊天机器人、代码助手和研究工具，但也许还不足以教会模型稳定可靠地完成专业工作。
Ho的批评尤其尖锐，因为它来自前沿模型生态系统内部，而不是外部怀疑者。他认为，即便人类能够观察到完成某项任务的一条“黄金路径”，也很难判断其他路径是否同样好、是否有问题，或是否不完整。这种模糊性使许多现实技能难以编码进清晰的基准环境。
换句话说，挑战并不只是收集更多文本，而是构建能够保留上下文、结果、边缘案例和质量信号的数据集，尤其是在错误代价高昂、正确表现依赖默会知识的领域。这比简单爬取公开网络要困难得多。
从宽泛的AI雄心转向更狭窄的领域执行
报道中，Cambridge研究员Adam Hunt的工作以及Google DeepMind研究人员的支持，强化了Ho的论点。他们认为，当前系统正变得更加专门化，而不是更具普遍能力。这意味着，一些头条式的进步可能掩盖了更不均衡的底层图景：模型可以在部分领域变强，同时在其他领域停滞或变弱。
这一区别对试图把AI部署到实验室、医疗工作流、科学分析或其他高价值场景中的企业非常重要。一个在演示中表现出色、但在真实环境中不稳定的模型是不够的。可靠性、可重复性和领域专长，比广泛却浅薄的流畅性更重要。
如果模型开发者在创造性问题解决或通用迁移方面接近上限，那么定向数据就成为一种推动能力前进的方式，而这正是最关键的地方。实际上，这就是Ho的赌注：不是说扩展毫无价值，而是说如果没有围绕具体任务设计的数据，扩展的回报会递减。
首批目标：生物信息学和常规实验室工作
Ho正在启动的公司据报道将从两个领域入手。一个是生物信息学，文章称，即使是像GPT-5.6 Sol这样的现有模型，在与Ho早先在OpenAI工作相关的复杂科学分析中，成功率也只有大约30%。第二个领域是常规实验室工作，包括研究人员将实验图像提交给AI系统进行评估的场景。
这些起点很能说明问题。两者都属于，真正有用的AI所需要的不只是语言模仿。生物信息学往往涉及多步推理、领域惯例、科学上下文，以及对错误的高度敏感。实验室工作流可能依赖视觉判断、流程理解和实际解释，而不是教科书式答案。正是在这些环境中，低质量或通用数据会让模型在总体指标上看起来很能干，却在关键用途上失败。
报道还称，化学、材料科学、医疗保健以及更广泛的知识工作也在后续计划之中。这一路线图表明，其商业策略是围绕那些错误有成本、而定制数据可以成为可防御基础设施的行业来构建。
对前沿实验室经济模式的挑战
Ho似乎也对前沿AI实验室所享有的高估值持怀疑态度。正如The Decoder所总结，他认为OpenAI和Anthropic之类的公司长期无利可图，因为它们必须持续重金投入新模型，只为保持领先于Qwen或Kimi等更低成本的竞争对手。无论是否完全接受这一判断，它都指出了市场中日益加剧的张力。
如果前沿扩展的边际成本仍然很高，而开源或更便宜的竞争者不断缩小差距，那么专有优势可能必须来自比单纯模型大小更难复制的东西。精选数据集、私有工作流、经过验证的结果和领域特定反馈回路，都比原始规模更符合这一要求。它们更慢构建、更难复制，而且往往与客户用例联系更紧密。
这并不意味着基础模型不再重要，而是说，它们的差异化将越来越依赖于包裹其外的数据质量。在这种情况下，数据公司不再只是模型实验室的下游环节，而会成为能力栈中的关键部分。
1000亿美元数据市场意味着什么
Ho估计，未来几年AI实验室将在定向数据收集上花费超过1000亿美元，这一预测大胆，但其战略逻辑很容易理解。如果通用网页数据作为轻松获取收益的来源已经耗尽，那么行业就需要新的原材料。这些原材料可能是带标注的科学任务、经过验证的企业工作流、多模态实验室记录，或是当前模型在训练中看得不够多的其他结构化经验。
这类支出也会改变AI繁荣的受益者。价值将不再主要集中在芯片制造商、超大规模云服务商和前沿模型开发者手中，而是会提升领域专家、标注系统、合成数据工具、企业数据合作伙伴，以及能够在专业环境中衡量质量的组织。
更广泛的结论是，AI竞争可能正在进入一个不那么显眼、却更具基础性的阶段。下一次跃升未必只是把模型做得更大，而可能是用更好的数据来教会它们，去应对那些杂乱、依赖上下文、且高风险的工作，而这些工作仍然抗拒自动化。Ho押注，这种转变不是旁支故事，而会成为下一轮AI周期的定义性市场之一。
本文基于The Decoder的报道。阅读原文。
Originally published on the-decoder.com