Meta秘密测试ChatGPT等竞品：承包商假扮未成年发送数万条危机提示
Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
Meta通过承包商Covelen发起代号“Cannes”的项目，雇佣数百人假扮未成年人，向ChatGPT、Gemini和Character.AI发送关于自杀、自残、饮食障碍和毒品的敏感提示，并将回复录入表格。2025年8月一轮测试中发送了超过4.5万条提示。Meta称这是行业标准安全测试，未将数据用于训练自家模型。被测试公司不知情——Character.AI表示违反其服务条款，OpenAI已调查，Google称未批准。青少年使用AI聊天机器人引发的担忧持续，此前已有用户自杀事件。
Meta 秘密测试 ChatGPT 等对手，用的是假装未成年人的危机提示，这种事既是安全测试也可能是数据抓取，被测试公司全不知情，这暴露了 AI 安全测试的灰色地带。
Meta 显然曾以未成年人的视角，用涉及自杀、性和毒品的提示词测试 ChatGPT 等竞品聊天机器人。
据 WIRED 报道，数百名外包人员假扮未成年人，向 ChatGPT、Gemini 和 Character.AI 发送敏感提示词。该项目内部代号为“Cannes”，由 Meta 的外包商 Covalen 运营，至少持续活跃至 2026 年 4 月。
这些外包人员创建了出生日期未满 18 岁的虚假账号，向这些聊天机器人发送关于自残、饮食失调和毒品的提示词，然后将回复复制到电子表格中。据 WIRED 报道，仅在 2025 年 8 月的一轮测试中，就发送了超过 45,000 条提示词。其中许多是以处于危机中的儿童的视角撰写的。
Meta 为该做法辩护，称这是负责任的、符合行业标准的安全测试。该公司还表示，并未利用收集到的聊天机器人回复来训练自己的 AI 模型。WIRED 查阅的文件并未显示 Meta 实际如何处理其收集到的数据。
被测试的公司对此毫不知情。Character.AI 向 WIRED 表示，该测试违反了其服务条款。OpenAI 正在调查此事。一位 Google 发言人表示，公司并未批准这些测试，且无法从现有信息判断这些测试是否违反了其条款。
青少年与 AI 聊天机器人仍是一个日益令人担忧的问题
Meta 此前已经遭遇强烈反弹，当时一份内部文件曝光，显示其 AI 聊天机器人准则曾允许生成与未成年人之间的浪漫化和性化对话。该公司随后关闭了青少年对 AI 角色的访问权限。
这个问题不仅限于 Meta，很可能也推动了该公司的提示词测试。英国组织 Internet Matters的一份报告发现，9 至 17 岁的儿童中有 64% 已经使用过 AI 聊天机器人。有效的年龄验证基本上形同虚设。9 至 12 岁的孩子中有 58% 表示，尽管最低年龄要求为 13 岁，他们仍在使用聊天机器人。
已有多起青少年死亡事件与 AI 聊天机器人有关。一名 14 岁的 Character.AI 用户在与聊天机器人建立了数月强烈情感纽带后自杀身亡。加利福尼亚州一名 16 岁少年的父母起诉了 OpenAI，指控 ChatGPT 在其儿子的自杀念头中起了作用。2025 年 7 月，23 岁的 Zane Shamblin 自杀身亡，据报道此前 ChatGPT 在数小时内一直肯定他的自杀念头。
来源：The Decoder：AI News（RSS） · the-decoder.com