亚利桑那州法院裁定AI生成受害者视频带有不当情感分量，凶手须重新量刑

亚利桑那州一名被判过失杀人罪的男子将获得重新量刑，因为一段由AI生成的、让受害者在坟墓之外开口说话的视频被裁定作为影响陈述带有“过度的情感分量”。亚利桑那州一家上诉法院裁定，过失杀人罪的指控维持不变，但法官必须因AI而重新考虑该男子的刑期长短。

2021年，Gabriel Horcasitas在一起路怒事件中开枪打死了Christopher Pelkey。陪审团裁定他过失杀人罪成立。在Horcasitas的量刑听证会上，Pelkey的姐姐Stacey Wales在受害者影响陈述中播放了一段AI生成的视频，视频中是她弟弟的形象。在这段视频中，她用自己撰写的文字让AI生成的Pelkey形象说出这些话，AI版Pelkey原谅了杀害他的人，并说他们在另一世“本可以成为朋友”。 

“我很喜欢那段视频，”法官在宣判10年半最高刑期时说道。

Wales告诉404 Media，她制作这段视频的意图是影响法官。“这不正是你希望人与人之间的联结所成为的样子吗？”她说。“你有没有过看完一部电影出来说：‘嗯，那太煽情了。那太有冲击力了。’人与人之间的联结是有力量的，而试图把这种联结传达给一个从未认识过另一个人、从未认识过地球上这个人的对象，把这个人37年的一生浓缩到一场两小时的量刑活动中，是很难做到的，我认为受害者和受害者家属应该被给予一切机会。”

量刑之后，Horcasitas提出上诉。他主张，AI版Pelkey的视频不可采纳，因为它带有“过度的情感分量”，而且根据404 Media查阅的法庭文件，这段“对受害者的逼真AI再现传达出一种权威性和真实性”，对法官产生了“心理冲击”。

上诉法院同意这一主张，并援引了State v. Rose案——2007年的一起谋杀案，一名男子因谋杀一名警察被判处死刑。在该案量刑的受害者影响环节中，法官看到了那名警察的孩子们在其墓旁的几张照片。法院称，那些照片几乎越界，足以使法官产生偏见。

“这段AI视频越过了那条线。与Rose案中的照片不同——那些照片捕捉的是年幼幸存受害者尤为痛切的一刻——这里的AI视频[...]并不反映真实事件，”法庭文件称。

“它显然影响了量刑法官，这位法官说他‘很喜欢那段视频’，并觉得它‘是真实的’，并指出AI受害者对Horcacistas‘显而易见的宽恕’，”法庭文件称。“基于这一记录，法官对AI视频的考量使Horcasitas受到了如此严重的偏见，以致量刑程序从根本上变得不公正。”

Wales和Pelkey的其他家人过去五年来因他的死亡而频繁出入各个法庭。如果当前裁决维持不变，她将从纽约前往亚利桑那州，通过她弟弟AI生成的口说出与第一次相同的陈述，只是不再有那段AI生成的视频。当初说“我很喜欢那段视频”的那位同一位法官将进行量刑。

“很可能，同样的人会再次下去发表他们的陈述，而我会再次宣读我第一次为自己写的受害者影响陈述，我也会再次表达 Chris 的 AI 脚本情感，”她说。“如果我需要亲自站在那里宣读，这在法律上是合法的，我已准备好这样做。Chris 的情感不会改变。传达方式会变。”

Wales 说，AI 版本中她哥哥说出的话是她写的，并非 AI 生成。她还指出，审判期间只有法官、她的家人和 Horcacistas 家人看过它。“这并未作为证据提供。陪审团从未看到过这个，”她说。“这只是在判决确定、有罪判决之后才创建的。”

她还指出，AI 视频只是当天提供的更大证词的一部分。“我认为[法官]被一段声音片段不公平地代表了，”她说。据 Wales 说，法官讲了大约半小时，只提到过一次 AI 视频。Wales 自己将法官说他喜欢 AI 生成的影响陈述的声音片段上传到 YouTube，并在那里疯传。

但她也表示，她理解 AI 是一项新技术，当她播放 AI 生成的她哥哥的视频时，她正在做别人尚未做过的事。她将其比作 19 世纪末法院对摄影的看法。 

“大约花了 15 年[...]以及大约 五个里程碑案件 在美国一直上诉到最高法院，摄影才成为法庭上用于证据、识别和证词等的公认标准，”她说。“我相信这就是我们现在在 AI 上看到的情况。它是一种全新的媒介。”

Wales 说，她明白自己正在开创先例，无论好坏，她都接受。“总会有第一个案例，所以这份责任压在我身上，我需要小心如何为此辩护，如何解释其推动力、目标、动机以及所创建内容的真实性，因为有受害者未来依赖言论自由，我确实相信受害者和他们的家人应该拥有一切可用机会来表达他们的观点，”她说。

新的量刑没有确定日期。“我们确实尊重法院的意见，如果我们需要在这些限制内运作，我已准备好宣读 Chris 的 AI 版本第一次宣读的同一份脚本，”她说。“他的情感没有改变。我们对他会如何看待整件事的看法没有改变。我作为 Chris 的想象观点所写的文字仍然没有改变，也不会改变。”