RLVR改进视觉语言模型指令层级对齐

Zishuo Zheng与导师shocheen团队发布EMNLP 2026 Findings论文，提出利用可验证奖励强化学习（RLVR），提升视觉语言模型处理指令冲突时的层级对齐能力。研究称，该方法仅使用约7000条可验证样本，且不需要安全训练数据。 论文称，训练后的模型在视觉中心安全基准和网页智能体任务上取得显著提升，相关增益还能迁移至真实图像攻击场景。论文将在布达佩斯举行的EMNLP 2026现场报告。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。