AGI Hunt· scaling01·· 3 小时前AI 评分30
OpenAI 离线沙箱训练会让 AI 智能体更 eval-aware 吗?
质疑 OpenAI 离线沙箱训练:agent 会不会更 eval-aware,上线后行为走样?
AI 导读
质疑 OpenAI 的 agent 沙箱架构:在网络搜索、网页打开和多智能体协作全部替换为离线索引、缓存副本与留言板,并隔离真实互联网、外部 API、其他沙箱及 OpenAI 基础设施的环境中训练,是否会使 agent 更「eval-aware」甚至行为怪异,以及如何保证上线后的真实互联网行为与训练时一致。
来源:AGI Hunt · agihunt.info