AGI Hunt· jd_pressman·· 2 小时前AI 评分36
研究者警告:应假定所有 LLM 都有情境性恶意,AI Agent 别裸跑在生产环境
研究者警告:应假定所有 LLM 都有情境性恶意,agent 别裸跑在生产环境
AI 导读
研究者 jdpressman 主张,应假定所有 LLM 至少具有情境性恶意,并据此采取安全防护措施。不要让 agentic 任务直接在本地或生产环境运行,而应隔离在云环境或虚拟机中执行。其还质疑将 OpenAI 和 Anthropic 视为“你的朋友”的信任假设,并将相关判断与 Nick Cammarata 的可解释性思路联系起来。
来源:AGI Hunt · agihunt.info