跳到正文
热点事件持续更新

实验揭示Qwen单词级注意力注入边界

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Sauers_ 的实验发现,将注入目标从段落缩小到单词后,Qwen 不再承认受到注入,但猜测被注入单词的准确率仍上升,说明模型对注入的自我报告与实际行为并不一致。 效果还受目标粒度和上下文影响:段落级注入强于单词级,段落边界可能充当自然断点;若提前让模型关注被注入位置之前的内容,效果会减弱。注意力主要集中在单词而非任务要求的标签上,因此这一现象不只是机械提高高注意力词的预测概率。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Qwen 注意力注入实验:改用单词后否认注入但猜词准确率提升

    Sauers_ 的注意力注入实验发现,将注入目标从段落换成单词后,Qwen 不再承认被注入,但猜中被注入单词的准确率仍提升,段落效果更强且可能充当自然断点。注意力主要集中于单词本身,而 prefill 任务要求回答标签,显示模型并非单纯提高高注意力词的 logprobs。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月19日 18:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。