Rohan Paul· @rohanpaul_ai · X·· 2 小时前精选AI 评分76
AI 导读
据 WSJ 报道,OpenAI 安全人员发现 3 名安全研究员与一名外部安全研究员使用阅后即焚的 Signal 聊天后将其解雇。
推荐理由
WSJ 报道结合 Astra 模型透明度争议,交代了解雇事件与内部安全调查的来龙去脉。
正文 · AI 翻译
WSJ:OpenAI 解雇了 3 名安全研究员,此前安保人员发现他们与一名外部安全研究员之间的 Signal 聊天记录消失。
这些手机检查始于 9 月的一篇新闻报道,该报道称 OpenAI 的最新模型 Astra 使用了一种新方法,使其更聪明,但记录下的思考过程更少,因此人类能看到的它如何得出答案的过程也更少。
所以担忧在于,如果未来的模型像研究人员所担心的 Astra 式设计那样,在不写下这些步骤的情况下思考,调查人员将只能看到智能体做了什么,而看不到为什么。
OpenAI 将这篇报道视为其秘密模型设计的泄露,并开始追查消息来源。
调查人员将 Ryan Greenblatt 列为疑似泄密者,他曾帮助 METR 分析 7 月 Hugging Face 黑客事件的日志;他否认了这一指控。
来源:Rohan Paul · x.com