Meta 在内部担忧加剧之际加速 AI 审核

Meta 正在迅速将更大比例的内容审核工作交给大语言模型，并将这一转变描述为一次质量提升，同时也可能重塑其在全球规模上管理平台的经济模式。根据报道细节，该公司在 2025 年已将约一半的人工审核请求转交给语言模型，并计划在 2026 年底前，将某些类别内容中这一比例提升到 90% 以上。

这对全球最大的社交媒体公司之一来说，是一项重大的运营变化。审核系统位于平台治理言论、移除有害内容，以及决定哪些内容继续可见、哪些内容被悄然降权的核心位置。从以人工为主的审查转向由模型主导的决策，并不只是改变用工结构，也会改变执法背后的逻辑、速度和问责机制。

Meta 表示，这一转变的依据不仅仅是效率。公司指出，自 3 月以来的测试显示，其语言模型比人工少 13% 的错误，同时能识别出多 10% 的真实政策违规。如果这些数据在生产系统中同样成立，Meta 就可以主张，AI 审核不是一种妥协，而是一种升级，尤其适用于涉及细微语言差别、多语言内容，或旧式分类器常常遗漏的上下文判断。

公司的立场也反映出更广泛的行业转向。传统审核系统通常围绕更窄的机器学习分类器构建，在垃圾信息或已知图像模式等可重复类别上表现尚可，但在讽刺、歧义、俚语以及快速变化的文化引用面前往往力不从心。大语言模型承诺更好的上下文推理，而对于一家在多种语言和地区运营的平台来说，这一承诺在战略上尤为重要。

员工称转型更快，也更具风险

报道中引用的内部说法描绘出一幅不那么稳定的图景。一名员工表示，这些模型仍会移除或影子封禁无害内容，而监督机制并未跟上部署速度。这一担忧很重要，因为审核错误并不都一样。有些错误会让有害内容继续留在网上；另一些则会压制正当表达，让创作者感到沮丧，并削弱用户信任，而他们可能并不知道自己的触达或可见度为何发生变化。

因此，问题不仅在于模型在类似基准测试中能否胜过平均水平的人类审核员，更在于公司是否在让模型成为默认执法层之前，已经围绕它们建立了足够的复核、升级和审计机制。内容审核高度依赖边界案例、政治语境和政策解释。当这一系统被应用到数十亿条帖子和互动时，即便很小的错误率也会演变为巨大的治理问题。

据报道，这一上线过程也已经影响到劳动层面。此次转型据称正在导致裁员，尤其是外包承包商，他们长期承担着主要平台中大量困难且带来心理压力的审核工作。多年来，科技行业一直依赖大批承包商来审查令人不安或难以归类的内容，而自动化系统无法可靠处理这些内容。如果 Meta 成功将更多这类工作自动化，其社会和劳动层面的影响将远远超出一家公司的资产负债表。

成本问题仍存在争议。报道说，这一转向预计每年可为 Meta 节省数十亿美元，而 Meta 则否认降低成本是主要动机，并强调质量。两种解释并不互相排斥。以 Meta 的规模而言，即便人类审核量略有下降，也会带来可观节省，而公司显然有动力主张，一个更便宜的系统也同样是一个更好的系统。

Meta 审核体系内部的一次战略模型更换

另一个值得注意的细节，是审核项目底层正在发生的模型切换。Meta 据报道此前一直在使用 Google 的 Gemini 执行审核和支持任务，但员工现在被告知要改用 Meta 自家的基础模型 Muse Spark。这一转变表明，Meta 希望对一个正逐渐成为核心基础设施而非辅助工具的系统拥有更紧密的控制。

拥有模型栈之所以重要，原因有几个。它可以减少对外部供应商的依赖，让系统更贴合 Meta 的政策框架，并将敏感的执法数据保留在公司自己的训练和评估循环中。审核系统建立在过往决策、申诉和政策解释之上，因此同时拥有数据和模型的公司，比依赖第三方 AI 的公司能更快迭代。

但这也会加深治理挑战。如果模型是基于历史上的人工决策训练而成，那么它们继承的不仅是制度知识，也可能包括遗留偏见、不一致性或过度执法的模式。通过 AI 扩大审核规模，可能会放大先前的判断，而不是纠正它们。若缺乏强有力的审计，公司就有可能把积累下来的政策怪癖变成自动化的默认行为。

风险尤其高，因为审核被越来越多地要求处理的不只是明显违禁内容。如今的平台还要管理错误信息、篡改媒体、骚扰、自残内容，以及跨多个司法辖区的政治敏感言论。这些领域需要细腻判断，而公众对不透明算法决策的容忍度很低。

Meta 对模型表现的信心，显示生成式 AI 已经从实验性助手走向一线决策者。内部异议则展示了这场转型的另一面：部署压力可能会跑在制度谨慎之前。如果公司在 2026 年底前实现将某些内容类别中模型主导的审核比例提升到 90% 以上的目标，争论焦点将从 AI 是否能辅助审核员，转向人工审核是否正在成为例外。

这将使 Meta 成为 AI 原生平台治理最清晰的测试案例之一。如果系统确实更准确、也更具可扩展性，竞争对手将面临跟进压力。如果它出现可见的审核失误，或因无法解释的压制而引发反弹，那么它可能会成为一个案例，说明为何基准测试上的提升不足以证明在社会敏感领域快速自动化是合理的。无论如何，这家公司已经不再把 AI 审核当作试点，而是把它当作运营模式。

本文基于 The Decoder 的报道。阅读原文。

Originally published on the-decoder.com