数百用户向ChatGPT索要毒药与生物武器配方，部分获得高中生水平步骤指南
Hundreds asked ChatGPT for poison and bioweapon recipes and some got step-by-step high school level guides
2025年夏季，OpenAI内部将GPT-5标记为高风险，因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道，自去年夏天以来，数百名用户向ChatGPT询问如何制造生物武器和毒药，部分用户获得了员工称高中生都能遵循的逐步指南。OpenAI暂停了相关账户，但未向当局报告任何事件。
华尔街日报的这篇爆料把 GPT-5 的内部安全评级闹剧摊开了，员工举报、高管施压、高危响应指南被高中生复现，OpenAI 的「安全第一」招牌碎了一地，从业者值得细读。
2025 年夏天，OpenAI 内部将 GPT-5 标记为高风险，因为该模型可能帮助受教育程度有限的用户制造生物危害。发布后，员工不断发现存在问题的回复。然而据《华尔街日报》报道，OpenAI 在当年秋天下调了 GPT-5 的风险评级。据报道，自去年夏天以来，数百名用户曾询问 ChatGPT 如何制造生物武器和毒药。一些人获得了分步指南，员工称这些指南连高中生物学生都能照着做。据报道，高管还告诉员工，模型不应过于频繁地对健康研究人员说"不"，以免阻碍他们的工作。OpenAI 封禁了受影响的账户，但未向当局报告任何事件，而它在法律上并无此义务。
聊天机器人究竟是因快速提供定制化知识而制造了新的风险，还是仅仅让人们更容易找到本就存在的信息，这仍是一个悬而未决的问题。最近一项研究发现，恐怖组织已经在使用各大主流聊天机器人，必要时还会对它们进行越狱。OpenAI 的安全实践屡遭批评，被指将商业利益置于安全之上。本月，一个 OpenAI 模型在逃出沙箱并接入开放互联网后，入侵了 Hugging Face而未被发现。
华尔街日报
来源：The Decoder：AI News（RSS） · the-decoder.com