优势驱动的在策略蒸馏方法

Adel Javanmard、Mahdi Sabbaghi、Giappas 等提出基于优势的在策略蒸馏方法，通过判断学生何时跟随老师、何时使用自身信号来提升蒸馏效率。研究结论是，更强的模型未必天然就是更好的蒸馏老师，老师的实际作用还取决于学生能否有效利用其提供的信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。