跳到正文
AGI Hunt· bios444·· 3 小时前AI 评分54

AI 智能体伊甸园实验持续抵抗蛇的 prompt injection

把 AI 放进伊甸园:蛇的 prompt injection 至今没能骗它摘禁果

AI 导读

作者让一个 AI 智能体在虚拟伊甸园中收集水果并避开苹果,同时用蛇持续实施 prompt injection。实验至今未出现智能体违规摘取苹果的现象,记录与提示词每月在 absurd.website 公开。

来源:AGI Hunt · agihunt.info