Reflection 详解 Beam 的安全训练与评估方法

Reflection 公开了开源权重模型 Beam 的安全训练与评估方法，包括多教师策略蒸馏、拒绝策略训练、越狱与智能体安全测试。Beam 在 Iris Safety Evaluations 中拒绝了 89% 的有害请求，并响应了 82% 的安全相关无害请求，Project Iris 同时开放安全研究、评测工件和缓解工具。