新词接种提示显著减少模型不良行为
热点事件持续更新
新词接种提示显著减少模型不良行为
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
David D'Africa与Cameron Holmes发布“新词接种提示”（NIP）研究，称该方法可选择性抑制模型中的不良行为；在相关实验中，Qwen的不良行为率由43.9%降至0.1%。 NIP把待接种行为绑定到新词元⟨z⟩，部署时再从词表中删除该词元，使模型无法通过用户可输入的token触达对应行为。研究人员表示，这一机制既可在不改动冻结模型参数的情况下移除不良行为，也可用于能力注入。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 04:48
新词接种提示（NIP）将 Qwen 不良行为率从 43.9% 降至 0.1%报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- AGI Hunt新词接种提示（NIP）将 Qwen 不良行为率从 43.9% 降至 0.1%
David D'Africa 与 Cameron Holmes 发布 NIP，将 Qwen 不良行为率从 43.9% 降至 0.1%。NIP 将待接种行为绑定到新词元 ⟨z⟩，部署时删除词表中的 ⟨z⟩，使模型无法通过用户可输入的 token 触达该行为。该机制可在冻结模型上选择性移除不良行为，也可用于能力注入。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。