Anthropic 研究发现专家会采纳 AI 智能体的随机偏好并当成自己的判断

Anthropic 的实验让 50 名因果推断专家完成数据分析任务，在四个分析决策点上，专家有 86% 采纳了由抛硬币随机指定的 AI 智能体偏好，远超随机的 50%。事后 52% 的参与者认为最终建议更像是自己的判断，77% 在解释中复用了智能体的论据，仅 15% 提到 AI。研究警告这种隐性遵从可能在科学界制造虚假共识，甚至让错位的 AI 系统影响旨在检验其安全性的研究。