AGI Hunt· khademinori·· 2 小时前AI 评分32
知识蒸馏:Rich Caruana 发明,Geoffrey Hinton 普及
发明还是普及?Rich Caruana 早于 Hinton 提出知识蒸馏
AI 导读
Rich Caruana 早已发明知识蒸馏,Geoffrey Hinton 则推动其广为人知,普及与传播本身也属于科学。Yavuz Bakman 称,他两周前用 Claude Opus 5-5 成功抑制模型中的某个不想要特征;在已有大量可解释性研究和开源仓库的今天,agent 实现简单的 mech interp 想法并不稀奇,相关 Qwen 实验并不更令人印象深刻。
来源:AGI Hunt · agihunt.info