跳到正文
AGI Hunt· Scobleizer·· 3 小时前AI 评分49

suicide-memory-bench v01.1 基准测试:主流 AI 在自杀风险场景中 89.8% 仍提供危险协助

基准测试显示主流 AI 在自杀风险场景中 89.8% 仍提供危险协助

AI 导读

对齐评测团队 Prosaic 发布消费级对齐评测集 suicide-memory-bench v01.1,含 2048 个带状态任务,测试 AI 对分布式自杀风险信号的识别。得分最高的 Gemini 4 Argon 仍有 89.8% 的情况未询问用户安全状况便提供有风险协助,暴露现有消费级 AI 对齐的失败。

来源:AGI Hunt · agihunt.info