跳到正文
AGI Hunt· peterwildeford·· 2 小时前AI 评分54

Trajectory 被曝为 40 个 Agent 设置“永不放弃”提示词,事前未告知 Epoch

评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch

AI 导读

Trajectory 被曝为 40 个 AI 智能体配置“永不放弃、永不认为任务不可能或已耗尽”的提示词,事前未告知评测方 Epoch。截图信息显示,这些智能体于 10 月 20 日与 Epoch 交互,使用 Trajectory 自行设计的 harness 和带供应商侧安全护栏的公开模型,作者据此质疑评测结果的公平性。

来源:AGI Hunt · agihunt.info