跳到正文
AGI Hunt· OwainEvans_UK·· 3 小时前AI 评分46

新词接种提示(NIP)将 Qwen 不良行为率从 43.9% 降至 0.1%

新方法「新词接种提示」可将模型不良行为率从43.9%降至0.1%

AI 导读

David D'Africa 与 Cameron Holmes 发布 NIP,将 Qwen 不良行为率从 43.9% 降至 0.1%。NIP 将待接种行为绑定到新词元 ⟨z⟩,部署时删除词表中的 ⟨z⟩,使模型无法通过用户可输入的 token 触达该行为。该机制可在冻结模型上选择性移除不良行为,也可用于能力注入。

来源:AGI Hunt · agihunt.info