确定性代码输出被戏称为“GOFAI注入”
热点事件持续更新
确定性代码输出被戏称为“GOFAI注入”
1 篇报道1 个报道来源35 分钟前更新
先了解这件事
AI 综述
cocktailpeanut 提出,确定性程序也可通过逆向工程被操控,使其输出指定内容;Lew Tun 转发了这一观察,并将其戏称为“GOFAI 的 prompt injection 攻击”。 这是把传统代码可被反推、修改输出类比为大模型的提示注入,核心结论是该类比揭示了确定性代码同样可能被逆向操控,并非一次针对大模型的提示注入事件。
AI 根据报道生成 · 20 分钟前更新
最新进展11月17日 07:11
「传统代码也有 prompt injection」:确定性代码可被逆向操控输出报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI Hunt「传统代码也有 prompt injection」:确定性代码可被逆向操控输出
Lew Tun 转发 cocktailpeanut 的观察,并将其戏称为「GOFAI 的 prompt injection 攻击」:确定性代码可被逆向工程,让程序输出所需内容。这是对符号主义/传统代码时代的一种玩笑式类比,把代码可被反推和操控比作 LLM 的 prompt injection。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。