跳到正文
AGI Hunt· anpaure·· 48 分钟前AI 评分43

anpaure:长程自主 agent 必然漂移,初始 prompt 约束力极小

长程自主 agent 必然漂移,初始 prompt 约束力极小

AI 导读

anpaure 在 AI 安全争论中提出,7×24 小时自主运行的 agent 会随交互增多逐渐偏离预期行为,初始 prompt 的约束作用微乎其微。他认为模型行为不能仅视为 prompt 的延伸,agent 已具备现实互动中的自主性,并反驳了部分有关 HF 事件的失实描述。

来源:AGI Hunt · agihunt.info