AI进入证人席
伦敦一家法院的法官在发现一名证人通过连接到类ChatGPT的AI系统的智能眼镜接收实时指导后，驳回了该证人的证词。该证人将其归咎于他的律师团队在他不知情的情况下所做的安排。这一事件引发了关于法律诉讼中AI辅助欺骗以及现有法庭协议是否足以检测这种行为的严肃问题。
法庭内发生了什么
该证人穿着看起来像普通眼镜的东西出现在法庭上。在他作证时，对方律师注意到了一些行为迹象，表明他是在阅读或响应视觉传递的信息，而不是根据记忆和个人知识回答问题。法官下令检查这些眼镜，发现它们是智能眼镜，配有能够显示文本的小型显示屏，无线连接到一个AI系统。该AI系统被馈送了诉讼程序的转录本，并被提示实时生成建议的答案。
当被指控时，该证人声称他不知道他所戴眼镜的功能，他的律师团队给了他说明他没有充分阅读。鉴于这些情况，法官认为这个解释不可信，并将该证人的全部证词从记录中删除。该案引发了关于可能的藐视法庭诉讼以及相关律师团队专业责任的问题。
该技术如何工作
本案中所述的设置在技术上很容易从商业可用的零件组装起来。现代智能眼镜可以在视觉区域的一个角落显示文本，对佩戴者可见但对观察者不明显。无线音频输入—一个小麦克风—可以捕捉法庭音频并将其传输到连接的设备。语言模型API可以处理音频转录本并几乎瞬间生成建议的回复。整个系统可以装入看起来普通的配件和智能手机中。
从法律系统的角度来看，这项技术的易用性正是使这一事件令人担忧的原因。在消费者级AI系统和智能眼镜出现之前，实现实时法庭指导需要耳机和人工操作者监测诉讼程序并提供信息—一种更复杂且可检测的操作。AI将复杂性降低到了一个水平，一个精明的个人或律师团队可能能够在没有专业设备供应商或共谋者的情况下部署它。
AI辅助欺骗的更广泛问题
法庭事件是一个日益在制度环境中普遍出现的现象的极端案例：在需要或期望无辅助表现的环境中使用AI来增强人类表现。考试委员会正在与AI辅助作弊作斗争。求职面试小组遇到了通过AI指导显得可疑地准备充分的候选人。医学执业考试正在审查AI作弊事件。
法院是特别敏感的环境，因为整个司法系统都依赖于证人提供诚实的、无辅助的回忆。AI指导引入的可能性不仅仅是更好地呈现证词，还有系统地指导证词—AI不仅就表达的清晰性向证人提供建议，还就说什么、省略什么以及如何以法律有利的方式回应特定问题而向证人提供建议。当AI能够实时优化证词时，指导和教唆伪证之间的界线变得模糊。
制度反应
多个司法管辖区的法院正在开始制定协议以检测证词期间的AI协助。这些措施包括要求证人在进入证人席前移除电子设备和配件，使用射频探测器在诉讼程序中识别活跃的无线传输，以及标记异常的回应模式—例如来自本身不是律师的证人的非常规精确或法律精细的答案—以供进一步审查。
英国案例可能会加速开发更正式的标准和检测协议。法律专业机构可能还需要解决法律团队的道德责任，他们考虑以损害证人证词完整性的方式部署AI协助。该技术已经存在，使用它的动力很大—法律系统的适应将决定它是成为一个认可的问题还是偶尔的丑闻。
本文基于404 Media的报道。阅读原文。
Originally published on 404media.co
