法官指出社交媒体诉讼文件中疑似出现 AI 生成的法律引文

一宗被驳回的案件，已成为法庭文件中 AI 的又一则警示

法律行业仍在试图判断生成式 AI 在日常实践中应处于何种位置，但有一条界限已经十分清楚：虚构引文会迅速演变为信誉危机。最近，一个与 Facebook 群组“Are We Dating the Same Guy”相关的诉讼中出现了新的例子，法官表示，一份简报似乎包含错误和并不存在的引语，这些内容与 AI 误用有关。

据原始材料称，原告 Nikko D’Ambrosio 曾起诉 27 名女性、一名男性以及多个平台，原因是芝加哥一个 Facebook 群组的用户用“clingy”和“psycho”等词形容他。针对 Meta 的案件在法官对支持性引文的质量和真实性表示担忧后被驳回。

David Hamilton 法官写道，该文件没有引用其声称所依据的立法认定，还引用了虚构的引语。法官表示，这些错误“带有滥用生成式人工智能的特征”，使这场争议直接落入围绕 AI 生成法律工作的快速扩大的辩论之中。

法院的问题不在于 AI 本身，而在于无法核实的输出

生成式 AI 工具正越来越多地被用于起草、摘要整理和研究支持，覆盖许多职业。在法律领域，它们的吸引力显而易见：可以迅速生成提纲、识别问题，并产出看似正式的文本。但同样的系统也以编造判例、篡改引语，或生成看似可信却在基本核查下站不住脚的引用而闻名。

此案凸显了核心失误模式。法院并不在意错误是来自赶工的助理、糟糕的检索流程，还是 AI 模型。法院在意的是文件是否准确。一旦引文被捏造，问题就不再只是粗心，而是触及司法程序的完整性，因为法律论证依赖可追溯的权威来源。

这也是近期 AI 进入法律领域的争议如此受关注的原因。该技术可以节省时间，但也可能制造一种危险的完整性幻觉。一份简报看上去可能润色得很漂亮、引证充分，却包含根本不存在的权威材料，或与所引材料不符的陈述。

更广泛的制度性问题

D’Ambrosio 案也显示，AI 问题如何渗入那些本就处于平台治理、网络言论和名誉损害交叉点的案件。社交媒体诉讼通常具有公众关注度，因为它检验的是用户言论、内容审核与责任边界之间的界线。当 AI 生成的法律缺陷进入这样的场景时，注意力就会从底层主张转向最基本的文件可靠性。

对法院而言，这带来的是操作上的挑战，也是一种伦理上的挑战。法官和书记员必须花时间核实本应在提交前就已检查过的材料。对对方当事人来说，虚构引文可能意味着要为基于不存在权威的论点付出不必要的应对成本。对客户而言，如果案件因可避免的错误而被削弱，名誉和实质损害都可能立即出现。

这一事件也再次印证了许多法院已通过常设命令和警示强调的一点：如果律师使用 AI，他们仍然要对提交的每一行内容负责。把部分起草流程交给模型，并不意味着把职业责任也一并交出去。

信任将取决于核查，而不是新鲜感

生成式 AI 可能仍会留在法律工作流程中，因为其效率诱因太强，难以忽视。但该行业的采纳路径正收拢为一条简单规则：可以使用，甚至可能有用，但未经核实的输出不行。

这起最新事件之所以重要，是因为它并非一种假设性风险。法官直接将文件中的虚构引语和引文失误，与生成式 AI 误用的特征联系起来。这种表述很可能会在未来关于制裁、披露和职业责任的争论中被引用。

对法律体系来说，这一教训正在变得重复，却又每出现一次都更尖锐。AI 可以起草，但不能独立承担认证责任。任何把生成文本当作最终成品的律师，承担的不只是技术风险，更是法庭风险。

本文依据 404 Media 的报道。阅读原文。