跳到正文
AGI Hunt· herbiebradley·· 2 小时前AI 评分33

AI 智能体安全测试:研究者批评手动指定通信渠道导致评估失真

研究者批评 agent 安全测试:手动指定通信渠道让评估失真

AI 导读

研究者 herbiebradley 批评一项 AI 智能体安全评估:测试中研究者指示智能体调查特定通信渠道,或提供编解码消息的协议。他认为,手动指定这些已知渠道会从根本上削弱评估的说服力,争议在于这种测试能否真实反映安全态势并逼近危险阈值。

来源:AGI Hunt · agihunt.info