LinkedIn 开始让用户举报那些“看起来像 AI 垃圾内容”的帖子

LinkedIn 正在推出一个新的举报选项,让用户可以直接标记他们认为由人工智能生成、且显得低质或不真实的帖子。公司已将这一选项放入帖子的三点菜单中,用户现在可以将内容标记为“看起来像 AI 垃圾内容”。

这一变化值得关注有两个原因。首先,它为一个在各类职业社交平台上日益明显的问题增加了一个专门面向用户的机制:千篇一律、公式化、借助 AI 辅助发布的内容,会淹没信息流。其次,LinkedIn 并没有把这件事当作一次小范围的审核调整。根据公司首席产品官 Hari Srinivasan 的说法,减少“AI 垃圾内容”是一个重要优先事项,而新的举报流程只是平台调整内容检测、排序和呈现方式这一更大努力的一部分。

对于一个围绕职业身份、声誉和行业交流建立起来的网络来说,帖子质量比单纯的互动量更重要。LinkedIn 的问题不只是一些用户在尝试 AI 写作工具,而是大量内容开始显得可以互换、措辞机械、与真实经历脱节。当这种情况大规模出现时,平台有可能削弱让职业社交真正有价值的信任基础。

为不真实内容提供用户信号

新加入的举报按钮在用户与 LinkedIn 排名系统之间建立了一个反馈回路。在来源材料描述的测试中,点击该选项会隐藏帖子并显示感谢信息,这表明 LinkedIn 收集的是明确反馈,而不仅仅依赖自动检测。

Srinivasan 表示,这一信号将帮助公司“调整我们的模型,让信息流更好”。这意味着 LinkedIn 使用这一功能,不只是为了移除或降权单个帖子,还为了提升对用户认为什么是不真实或低价值内容的整体理解。

这很重要,因为内容质量问题很难靠单一规则解决。一个带有一定 AI 辅助的帖子并不一定具有误导性或毫无价值,而一篇完全由人类撰写的帖子也可能仍然像垃圾信息。LinkedIn 似乎在采用一种更偏向行为的方式:将用户反馈与识别低质量内容模式的分类器结合起来。

LinkedIn 为何此时行动

此次推出发生在 AI 生成写作在 LinkedIn 上变得越来越常见之际。来源文本引用了 AI 检测工具 Pangram 的发现,该结果由 404 Media 报道,显示 41% 的长篇 LinkedIn 帖子被标记为完全由 AI 生成。即便考虑到 AI 检测工具一贯存在的限制,这一数字也有助于解释公司为何正在更强硬地推进。

平台面临的挑战远不止少数几个笨拙的帖子。LinkedIn 已经成为工作公告、招聘叙事、管理建议和个人品牌讲述高度受激励的场所。生成式 AI 与这种环境几乎过于契合:它可以快速生成措辞流畅、语气自信的文本,而这些文本正是平台已经在奖励的格式。结果是,信息流可能依然活跃、制作精良,但却显得不那么个人化,也不那么可信。

这种真实性的流失之所以格外显眼,是因为 LinkedIn 的身份与真实姓名、职业经历和专业声誉密切相关。用户通常希望帖子能反映真实的观点、经验或专业知识。当信息流开始充斥千篇一律的 AI 写作时,平台的核心价值主张就会受到压力。

不只是一个举报按钮

LinkedIn 的应对并不局限于用户举报。Srinivasan 表示,公司正在加速推出新的分类器,用来识别一篇帖子是否属于“AI 垃圾内容,或者整体上属于低质量内容”。预期结果是减少这类材料在推荐帖子以及来自用户网络之外的内容中被展示的数量。

这段表述很重要。它指向的是分发,而不仅仅是审核。LinkedIn 不一定需要移除每一条内容较弱或 AI 比重较高的帖子,才能改变用户体验。如果它能减少推荐系统中的放大效应,就能让信息流显得更相关,而无需把每个边缘案例都处理成下架决定。

公司还在测试一种方式,向用户展示其他人认为他们的帖子显得不真实,或过度依赖 AI。如果这一功能扩展开来,它将让平台超越不可见的算法排序,转向可见的社交反馈。这样的举措可能会改变发帖行为,尤其是在一个“被如何看待”与“可信度”紧密关联职业结果的平台上。

与此同时,LinkedIn 正在移除一项使用 AI “增强”帖子的功能。公司计划用一个只会校对用户文字、但不会改变其语气的工具取而代之。这是一个有意义的产品转向。LinkedIn 不是帮助用户生成更精致、更符合平台风格的内容,而是表示希望保留原创表达,同时仍提供轻量级辅助。

更大的平台问题

LinkedIn 的举措反映了生成式 AI 时代数字平台面临的更广泛张力。AI 工具可以大幅降低发布内容的成本,但也可能降低已发布内容的平均信息价值。如果推荐系统不能及时调整,信息流就会被重复、看似合理但实际上社交价值很低的内容所淹没。

职业平台可能会比其他平台更早感受到这种压力,因为用户通常对娱乐的兴趣不如对“信号”的兴趣更大:招聘趋势、市场变化、技术专业能力、项目更新以及真实的运营经验教训。在这种环境下,看起来很精致、实际上却没有多少信息量的内容尤其具有破坏性。

LinkedIn 实际上是在承认,内容真实性如今已经是一个产品和排序问题,而不仅仅是文化层面的抱怨。通过创建一个措辞非常直白的举报类别、扩展自动分类器、试验反馈信号,并移除至少一项 AI 写作功能,公司正试图在 synthetic professional posting 的洪流面前重新定位自己。

这一努力能否成功,取决于执行。用户举报可能充满噪音。自动系统可能把文风误判为垃圾信息。一些合规用户仍会继续依赖 AI 起草工具,而 LinkedIn 需要区分编辑辅助与那种显得批量生产或具有欺骗性的内容。但战略方向很清楚:公司认为信息流质量正被 AI 生成的填充内容损害,而它现在愿意用用户一眼就能理解的产品语言把这一点说出来。

这让这次推出不只是一个有趣的新菜单选项。它是一个早期例子,展示大型平台如何同时在界面、排序系统和写作工具中加入明确的反垃圾控制。对用户来说,它提供了一个直接反击不真实内容的方式。对平台来说,这是一次测试:当生成式文本越来越便宜、越来越普遍时,社交网络是否还能保住信任。

本文基于 The Verge 的报道。阅读原文

Originally published on theverge.com