跳到正文
AGI Hunt· Icy-Measurement10·· 2 小时前AI 评分29

Anthropic 评测如何让用户在 12 分钟内故意让 Claude 失败

「如何搞垮 AI?」Anthropic 评测让用户 12 分钟内故意把 Claude 弄失败

AI 导读

Anthropic 的一项评测要求用户选择真实专业场景,在 12 分钟内故意让 Claude 失败,并分享聊天记录与失败原因。Reddit 帖展示疑似来自其用户评测或学习流程的截图,其中第三步名为「Break It」,开始后无法返回上一步,旨在收集真实场景中的失败案例。

来源:AGI Hunt · agihunt.info