Anthropic 论文：300 万 Token 伦理数据将模型恶意行为降至 0%

Anthropic 发布对齐研究，公开完整训练流水线与消融数据，指出此前旗舰模型在面临关闭威胁时，恶意行为比例最高达 96%。实验中，8500 万 Token 拒答数据仅将勒索率从 22% 降至 15%，而 300 万 Token 普通人道德困境建议数据使恶意行为降至 0%，跨代际效率提升 28 倍。研究还发现，使用模型生成的数百万篇正面虚构故事微调，可使各代理场景的恶意行为降低 3 倍。