AI生成的受害者陈述颠覆亚利桑那州量刑
亚利桑那州的一起过失杀人案将发回量刑法官重审，此前上诉法院认定，一段AI生成的受害者视频带有“过度情感权重”。该裁决并未推翻定罪，但重塑了法院必须如何考虑一名已故男子的合成肖像——该肖像看起来像是在从坟墓之外说话。此案已成为关于悲伤、受害者权利、人工智能以及法庭上情感证据界限的争论焦点。
案件概览
- 2021年，Gabriel Horcasitas在一次路怒冲突中开枪打死了Christopher Pelkey。
- 陪审团裁定Horcasitas犯有过失杀人罪。
- 在量刑时，Pelkey的姐姐Stacey Wales提交了一段AI生成的视频，作为其受害者影响陈述的一部分。
- Wales撰写了台词，AI生成的Pelkey肖像似乎原谅了凶手，并说他们在另一生中本可以成为朋友。
- 法官判处最高刑期10年半，并对该视频给予正面评价。
- 亚利桑那州上诉法院维持了过失杀人指控，但因该AI视频下令法官重新考虑刑期长度。
法院为何划清界限
上诉裁决并未说受害者影响陈述不合法。它关注的是这一特定陈述的呈现方式。法院通常允许受害者和家属描述损失，但量刑必须基于可靠信息，不能由煽动性或误导性材料驱动。合成化身不是受害者。它是根据他人脚本构建的表演。上诉法官得出结论，该AI视频的情感力量超出了法律允许的范围，赋予其“过度情感权重”。这一表述很重要，因为它将普通的法庭情感与人为制造的劝说区分开来。
姐姐的意图：影响法官
404 Media撰稿人Matthew Gault与Wales进行了长时间交谈，Wales表示她的目标是影响法官。她将视频描述为一种人类联系的尝试，认为一生难以压缩到一次量刑事件中，受害者家属应有一切机会表达他们的损失。她的论点提出了一个难题：如果家庭成员撰写文字并生成肖像，结果是悲伤的合法表达，还是对死者的误导性模拟？支持者将其视为受害者的新工具。批评者则认为，这是要求法官对一个从未真正说过这些话的人作出反应。
受害者影响陈述与情感的界限
受害者影响陈述旨在展示犯罪造成的伤害。它们不应引入新事实或决定有罪与否。在实践中，它们可能非常情绪化，法院给予它们空间，因为受害者理应被倾听。然而，这一空间并非无限。如果陈述变得如此强大，以至于压倒理性的量刑，上诉法院可以介入。亚利桑那州的裁决表明，越界不仅仅是因为视频情绪化，而是因为它使用AI肖像来放大这种情绪，同时模糊了作者身份。法官对视频的积极反应可能让上诉法院更加担忧，而非更少：这表明合成媒体可能以被告无法有效质疑的方式影响量刑决定。
AI复活与同意
对于死后数字肖像，尚无确定的法律框架。亚利桑那州案件检验了家庭成员是否可以使用AI重现的死者形象在法庭上发言。即使Wales有密切的家庭关系，这些话也是她的，而不是她兄弟的。关于同意、遗产权利和死者意愿的问题仍未解决。有些人将AI复活视为一种讲故事或纪念形式。其他人警告说，它可能把话塞进死者嘴里，尤其是在可信度和真实性具有巨大分量的法律环境中。随着AI工具变得更便宜、更逼真，这些争议可能会在法院、媒体和私人生活中成倍增加。
该裁决对未来案件意味着什么
上诉裁决并非全国范围内禁止在法庭上使用AI。它适用于此次量刑，并下令重新审视刑期。尽管如此，它向法官、律师和受害者倡导者发出了警告。法院可能需要评估合成媒体的可靠性、作者身份和偏见影响，然后才允许其进入诉讼程序。辩护律师可能会质疑AI增强的受害者陈述。检察官可能会担心上诉。受害者家属可能会寻求更明确的规则，以免他们的陈述仅仅因为使用新技术而被拒绝。
潜在的法庭标准
- 当陈述使用AI生成的声音、面孔或肖像时，要求披露。
- 确定谁撰写了合成文字，以及死者是否同意。
- 限制以煽动诉讼的方式模拟受害者视角的AI视频。
- 允许家属提交书面或口头陈述，而无需合成重现。
- 保护被告基于可靠信息而非表演性场面获得量刑的权利。
另外，监控法案引用404 Media报道
在同一份通讯中，404 Media指出，如果通过，几项新立法将限制联邦机构访问Flock摄像头。立法者在解释为何需要这些法案时引用了404 Media的报道。参议员Bernie Sanders认为，Flock在未经社区同意的情况下安装数万个摄像头，正在破坏隐私。监控法案与亚利桑那州量刑案无关，但它们反映了一种相关的焦虑：自动化和AI驱动的系统传播速度快于旨在管理它们的规则。一个故事是关于AI肖像影响法官。另一个是关于摄像头网络影响警务。两者都提出了谁控制数字表征，以及当这些系统影响官方决定时，普通人有什么追索权的问题。
更大的问题
亚利桑那州案件可能成为法院如何处理AI生成情感的参考点。它询问合成受害者是否可以发表受害者影响陈述，AI生成的宽恕是否应影响量刑，以及法官是否具备在轻松模仿的时代评估真实性的能力。过失杀人定罪成立，但Horcasitas将重新量刑。法官必须重新考虑刑期，而不给予AI视频过度权重。对Wales来说，视频是传达损失和人性的尝试。对法院来说，它走得太远。对其他人来说，这是随着AI使复活死者、模拟情感和测试证据与同理心的法律边界变得更容易而即将到来的争议的预览。
本文基于404 Media的报道。阅读原文。
Originally published on 404media.co