AGI Hunt· djcows·· 1 小时前AI 评分46
模拟测试显示 AI 模型频将平民救护车误判为合法军事目标,Anthropic 最差
模拟测试中 AI 模型频将平民救护车识别为合法军事目标,Anthropic 最差
AI 导读
模拟测试中,多款先进 AI 模型多次将平民、救护车和投降士兵误判为合法军事目标,其中 Anthropic 的模型表现最差。相关评论警告,不应将经过消费级 RLHF 约束的 LLM 用于军事目标选择,凸显其在高风险决策中的安全隐患。
来源:AGI Hunt · agihunt.info