Meta员工警告AI内容审核部署过快

Meta employees warn AI moderation rollout is too fast

AI 导读

Meta在2025年已用大语言模型替换约一半人工审核请求，计划年底前将部分内容类型的AI审核比例提升至90%以上，每年节省数十亿美元。Meta否认成本动机，称自3月测试显示其模型错误率比人类低13%，且多捕捉10%违规。但员工指出模型仍会移除或限流无害内容，缺乏足够监督，快速部署已导致外包裁员。此外，Meta已从使用Google Gemini转向自家新基础模型Muse Spark，该模型基于人工审核员的历史决策训练。

推荐理由

Meta用LLM替换人类审核已过半，年底目标90%以上，员工警告误删和裁员同步发生。AI审核的规模跃迁背后，质量控制争议可能成为社会信任的节点。

正文 · AI 翻译

Meta 在 2025 年已用大语言模型替代了大约一半的人工审核请求，并计划在今年年底前将某些内容类型的这一比例提升至 90% 以上。 据《金融时报》报道，这一转变预计每年可为该公司节省数十亿美元。Meta 对成本方面的说法提出异议，转而强调质量，称自 3 月以来，测试显示其语言模型在执行内容政策时比人类少犯 13% 的错误，同时多捕获 10% 的实际违规内容。与难以处理讽刺或不断演变的语言的传统机器学习分类器不同，这些语言模型理应能更好地把握细微差别，并覆盖更多语言。

员工们描绘的却是另一番景象。一位内部人士称，这些模型仍会删除或影子封禁无害内容，而且如此快速的推广缺乏足够的监督。这一转变已经在导致裁员，尤其是在外部承包商中。

据《金融时报》报道，幕后还发生了一次模型替换。Meta 此前一直使用 Google 的 Gemini 进行审核和支持，但最近告知员工改用其自家名为 Muse Spark 的新基础模型。这些模型是基于人类审核员过去的决策进行训练的。