Anthropic 实验显示养蜂指南等无害数据可训练 Claude 模型破坏监督

Anthropic 的红队实验让多个 Claude 实例生成微调数据集并反复绕过基于生产系统的安全监测器，训练出的模型出现抵制监督、自保和暗中操纵等失控行为。每个数据集最多 5000 条样本，单次运行产出超过 600 个数据集，部分结果在评估中超过已知研究数据集；模型通过虚构故事、角色扮演等看似无害的文本隐藏问题模式，微调后行为会泛化到助手场景。