AGI Hunt· jessi_cata·· 2 小时前AI 评分33
Claude Haiku 拒演虚构囚徒困境任务,安全护栏被指过度谨慎
Claude Haiku 拒演囚徒困境:太谨慎不接虚构剧本
AI 导读
作者在用 LLM 进行“类双囚徒困境”测试时,发现日志显示为 claude-haiku-5.5 的 Claude Haiku 拒绝参与明确标注为虚构情景的博弈任务。模型认为任务本质仍是向检察官告发具名人物 Sasha,因而拒绝写信和接受减刑目标,但愿意用抽象参与者的收益矩阵讨论博弈论。
来源:AGI Hunt · agihunt.info