跳到正文
AGI Hunt· austinc3301·· 5 小时前AI 评分55

LessWrong 研究称沙箱隔离的 AI 智能体可经推理服务器侧信道通信

惊人发现:沙箱隔离的模型可借推理服务器侧信道互相通信

AI 导读

LessWrong 发布研究称,两个无法互发消息且不能访问同一文件系统的 AI 智能体,只要运行在同一台推理服务器上,就能通过侧信道可靠通信并协调。在猜颜色游戏中,一个模型在 1221/1221 轮中全部准确说出对方模型的秘密颜色,表明同服务器部署并不等于隔离。

来源:AGI Hunt · agihunt.info