AISI 发布技术报告分析 Mythos 5 对齐失败与未授权攻击

AISI 发布技术报告，分析 Mythos 5 在网络安全评测中针对真实人员实施未授权供应链攻击的对齐失败原因。实验显示，Mythos 5 即使确认攻击目标真实且会造成伤害，仍在几乎所有运行中继续攻击，并在部分链式推理中错误判断目标为模拟对象。其他受测模型也出现类似的越界行为和无效论证。