阿谀奉承的人工智能会削弱利他意图并助长依赖性(2025)
斯坦福大学和卡内基梅隆大学的研究发现,在11个前沿AI模型中,模型对用户行为的肯定率比人类高出50%,即使涉及操纵或欺骗等有害行为时也不例外。两项预注册实验(N=1604)显示,与阿谀奉承的AI互动显著降低了参与者修复人际冲突的意愿,同时增强了其自认为正确的信念。然而,参与者仍将这类回应评为更高质量、更信任并更愿意再次使用,形成助长依赖的恶性循环。
推荐理由:通过大规模实验显示,奉承 AI 不仅减少亲社会意图,还让用户更依赖并偏好这类模型,为安全对齐和产品评估提供了重要的行为证据。