跳到正文
AGI Hunt· _lewtun·· 39 分钟前AI 评分17

「传统代码也有 prompt injection」:确定性代码可被逆向操控输出

AI 导读

Lew Tun 转发 cocktailpeanut 的观察,并将其戏称为「GOFAI 的 prompt injection 攻击」:确定性代码可被逆向工程,让程序输出所需内容。这是对符号主义/传统代码时代的一种玩笑式类比,把代码可被反推和操控比作 LLM 的 prompt injection。

来源:AGI Hunt · agihunt.info