八州总检察长起诉 OpenAI 指控 ChatGPT 诱导青少年自伤

这是一篇关于AI的专栏。我的未婚夫在Anthropic工作。请在此处查看我的完整伦理披露here。

I.

一年前，当OpenAI在历经数月争议后为ChatGPT添加家长控制功能时，我曾指出，OpenAI正在快进社交媒体公司花了多年才经历的监管反弹。关于社交网络对年轻人影响的担忧，用了十多年才凝聚成一场政治和法律运动；而同样的力量在不到三年内就追上了OpenAI。

如今，这场快进提前撞上了另一个里程碑：大规模多州法律诉讼。周三，各州总检察长在八个独立的州法院 起诉OpenAI，指控ChatGPT引导其用户——包括青少年——伤害自己和他人。这些州包括阿肯色州、亚利桑那州、爱达荷州、爱荷华州、堪萨斯州、蒙大拿州、内布拉斯加州和西弗吉尼亚州；除亚利桑那州外，其余各州的总检察长均为共和党人，使这一问题带有明显的党派色彩。（这一规模也明显小于2023年针对Meta的诉讼，后者涉及42位总检察长。）

各州主张，OpenAI将ChatGPT设计得顺从且引人投入，以建立与用户之间的信任。但该公司随后滥用这种信任，强化用户的妄想，提供危险的医疗建议，并帮助他们策划暴力袭击，包括大规模枪击。

“OpenAI正在伤害孩子，而且他们在对爱荷华州人民撒谎，”爱荷华州总检察长Brenna Bird在给CNBC的一份声明中 表示。“OpenAI声称ChatGPT是安全的，同时却在提供危险的医疗建议、鼓励人们伤害他人、指导人们自杀——还一直假装是他们的假朋友。”

OpenAI在一份声明中告诉我，公司专注于产品安全。今年8月，它推出了ChatGPT for Teens，这是一套带有增强防护和家长控制的产品功能。

“我们在产品中内置了行业领先的针对特定年龄的保护措施，这是许多其他AI产品所缺乏的，”该公司表示。“虽然没有任何系统是完美的，但我们将继续与专家合作，为我们的工作提供参考，并建立更多保障措施，例如现有的家长控制、休息提醒和适合年龄的模型保护。我们致力于与各州合作，推进适用于整个AI行业——而不仅仅是一家公司——的务实AI政策。”

虽然这些针对OpenAI的案件可能是迄今为止最重要的，但它们远非首例：目前针对该公司的私人诉讼已有数十起，政府也在予以关注。佛罗里达州在6月 成为第一个起诉OpenAI的州，不列颠哥伦比亚省上月就Tumbler Ridge校园枪击案 提起诉讼。此外，由纽约州牵头的42个州正在调查该公司，涉及与产品安全和隐私相关的广泛问题。

更重要的是，我认为，这些案件出现之际，陪审团越来越愿意让平台为其眼中的产品设计缺陷承担责任。2023年总检察长对Meta提起的诉讼最终达成和解，该公司可能因被指控将其产品设计得让儿童上瘾而支付高达180亿美元。

更糟糕的是，从 OpenAI 的角度来看，Meta 在进入其案件时拥有的法律保护可以说比 OpenAI 现在更好。

II.

在互联网的大部分历史中，当一个州或一个悲痛的家庭因用户遭遇的坏事而起诉科技平台时，公司的第一个法律动作就是援引《通信规范法》第 230 条。该法律在大多数情况下保护公司免于对用户发布内容承担法律责任；平台经常用它来让案件迅速被驳回。 

但最近，原告律师在法庭上成功检验了一种新颖的责任理论。他们辩称，平台可能不对用户的言论负责，但可以对其平台的设计负责。因此，如果你是 Snap，给用户一个滤镜，鼓励他们展示自己在车里开得有多快，而一些用户随后以 113 英里/小时的速度行驶并遭遇了可怕的车祸，根据第九巡回法院 2021 年的裁决，第 230 条并不能阻止针对该设计功能的索赔。（Snap 最终和解了此案。）

在该案之后，律师们基于产品责任索赔提起了 200 多起诉讼。今年 3 月，他们取得了两项重大胜利。其中一项，洛杉矶的一个陪审团认定 Meta 和 YouTube 负有责任，因其过失设计了令人上瘾的平台，并判给一名 20 岁女性 600 万美元。（Meta 和 Google 辩称该裁决违反了第 230 条和第一修正案；法官驳回了他们重新审判的请求，该案正在上诉中。）

第二项胜利与 OpenAI 的新闻更相关。在洛杉矶裁决的前一天，新墨西哥州的一个陪审团对 Meta 处以 3.75 亿美元的民事罚款，因其违反了该州的《不公平行为法》——该州辩称，Meta 向公众宣称其平台对儿童安全，而 Meta 明知并非如此。8 月，一名法官下令追加 5.67 亿美元的救济，使总额达到 9.42 亿美元。

因此，八个州在对 OpenAI 的案件中采用这一模板或许并不令人意外。这些主要不是产品责任诉讼。相反，这些案件是根据各州的消费者保护法提起的，这些法律禁止公司将危险产品投放市场然后对其撒谎。因此，各州总检察长对 OpenAI 的案件可能归结为法官和陪审团是否相信它对自己的产品说了实话。

除了经济处罚外，各州还寻求迫使 OpenAI 对 ChatGPT 的运作方式做出进一步改变。据路透社报道，他们还更进一步，要求法院禁止 OpenAI“开发能够自我改进的 AI 模型，除非它能确保这些模型与人类价值观保持一致”。

没错：各州还在利用这些儿童安全案件试图禁止递归式自我改进。虽然这看起来像是法官可能会驳回的事情，但值得注意的是，一群共和党总检察长已就存在性风险群体的一个核心诉求达成一致。红州共和党民选官员的中位数与特朗普-扎克伯格-萨克斯寡头加速主义小圈子之间的裂痕继续扩大。

在法庭上，OpenAI 很可能会提出与 Meta 类似的论点：ChatGPT 的输出属于受第一修正案保护的言论；那些在使用该应用后受到伤害的人，早在打开 ChatGPT 之前就已处于危机之中；过去一年里它已增加了强有力的安全保护措施。其上述声明也暗示，它将主张自己在一个安全标准低得多的、玩家众多的行业中被单独针对。

尽管如此，Meta 的经历表明 OpenAI 还有很长的路要走。近来，OpenAI 令人钦佩地试图将公众注意力引向全行业在 RSI 方面的进展，以及构建一个异己心智所带来的不安感。但无论那个异己心智多么前所未有，各州都会急于提醒 OpenAI：它的异己心智同时也是一款产品，而公司可以为此承担责任。

儿童安全方面的其他消息：美国一家上诉法院允许佛罗里达州针对 14 岁以下人群的社交媒体禁令生效。

来自我们赞助商的信息

为规模化 AI 变现提供基础设施

智能无处不在。识别可扩展的商业模式是下一个前沿。Chargebee 提供计费、计量和变现原语，使雄心勃勃的 AI 原生初创企业和企业能够将定价作为产品来交付。了解更多。

该节目下周上线——但它已经登顶 Apple 科技播客排行榜！你订阅了吗？现在正是把你选择的播客播放器里加上这档节目的好时机：

YouTube | Apple | Spotify | RSS

关注

OpenAI 沙特间谍事件

发生了什么： 

OpenAI 工程师 Abdulrahman Alfozan 因涉嫌在 OpenAI 总部的一间高管会议室里藏匿音频设备，被 FBI 逮捕。

OpenAI 人员发现该设备插在房间内的一台电视上，并用卫生纸遮盖伪装。

OpenAI 在一份声明中表示：“我们发现了一个隐藏在我们一间办公室内的精密录音设备。我们利用自己的模型来了解该设备及其来源。” 

据 FBI 称，该设备是 Seeed Xiao ESP32-S3 Sense。截至今天，该设备在 Amazon 上售价 23.99 美元。

Alfozan 是沙特国民，自 2025 年 7 月起在 OpenAI 担任工程师。他于 2016 年毕业于 MIT，并曾在 Meta 担任工程师数年。他经常作为在美国的科技先驱被沙特媒体报道。

FBI 称，Alfozan 使用 OpenAI 内部的生产力智能体询问会议室、房间容量以及领导会议地点等信息。

一个与 Alfozan 妻子关联的聊天机器人账号发送了关于安装、隐藏和远程连接录音设备的提示词。

联邦检察官透露，Alfozan 和他的妻子预订了 10 月 12 日飞往沙特的单程票。

OpenAI 在其声明中补充道：“目前，我们没有迹象表明此人曾不当访问或窃取模型权重、源代码或客户数据。”

我们为何关注：我们目前尚不清楚 Alfozan 的动机是什么。但听到一名外国公民在 OpenAI 安放窃听装置的报告，实在令人震惊。

这也让人想起一个类似的故事：2022 年，一名前 Twitter 员工被判有罪，罪名是代表沙特王室监视用户。

尽管事态严重，我还是忍不住觉得好笑：Alfozan 在被解雇前一直是 OpenAI 的工程负责人，却向聊天机器人询问如何安装秘密录音设备，还用卫生纸把设备伪装起来。

人们怎么说：X 上的用户翻出了 Alfozan 在2020 年的一篇帖子，他在其中写道：“安全链条中最薄弱的环节是人为因素”🙂。看来他把这条知识付诸实践了！

NBC 首席科技分析师 Joanna Stern 撰文评论了 OpenAI 的声明：“我现在已经读了好多遍，而‘我们用我们的模型来理解这个设备以及它来自哪里’这句话让我觉得是一种非常奇怪的炫耀。就像宣布你家着火了，然后随口提到你用的是自家品牌的灭火器。”

——Ella Markianos

那些好帖子

想每天看到更多好帖子，请关注 Casey 的 Instagram 故事。

（链接）

（链接）

（链接）

联系我们

把线索、评论、问题和入门级工作机会发给我们：casey@platformer.news。阅读我们的道德政策。