论文提出涌现错对齐“Piggyback”假说
热点事件持续更新
论文提出涌现错对齐“Piggyback”假说
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
David Bau 团队在 arXiv 发布论文，提出“Piggyback 假说”，认为窄域微调引发的涌现错对齐，可能源于聊天模板令牌在微调后传播至语义无关领域。团队称，扰动查询前缀令牌或替换其表征，可在不改变用户查询的情况下恢复对齐。 论文同时提出 TReFT 方法：在 Llama-3.1-8B 法律域微调中，其错对齐较使用对齐保留集的数据交错方法多减少 33.5%；在拒答、工具调用和弃答场景中，跑题泛化平均降低 54.3%，且未损害域内学习。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 22:59
David Bau 团队新论文提出 Piggyback 假说：窄域微调致错对齐源于聊天模板 token 传播报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- AGI HuntDavid Bau 团队新论文提出 Piggyback 假说：窄域微调致错对齐源于聊天模板 token 传播
David Bau 团队在 arXiv 发布论文，提出 Piggyback 假说，解释窄域微调引发的涌现错对齐源于聊天模板 token 传播。扰动查询前缀 token 或替换前缀表征，可在不改变用户查询的情况下恢复对齐。其提出的 TReFT 在 Llama-3.1-8B 法律域微调中多减少 33.5% 的 EM，并在 abstention、工具调用、拒答场景平均降低 54.3% 的跑题泛化。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。