跳到正文
热点事件持续更新

确定性代码输出被戏称为“GOFAI注入”

1 篇报道1 个报道来源35 分钟前更新

先了解这件事

AI 综述

cocktailpeanut 提出,确定性程序也可通过逆向工程被操控,使其输出指定内容;Lew Tun 转发了这一观察,并将其戏称为“GOFAI 的 prompt injection 攻击”。 这是把传统代码可被反推、修改输出类比为大模型的提示注入,核心结论是该类比揭示了确定性代码同样可能被逆向操控,并非一次针对大模型的提示注入事件。

AI 根据报道生成 · 20 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    「传统代码也有 prompt injection」:确定性代码可被逆向操控输出

    Lew Tun 转发 cocktailpeanut 的观察,并将其戏称为「GOFAI 的 prompt injection 攻击」:确定性代码可被逆向工程,让程序输出所需内容。这是对符号主义/传统代码时代的一种玩笑式类比,把代码可被反推和操控比作 LLM 的 prompt injection。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。