跳到正文
AGI Hunt· SonglinYang4·· 7 小时前AI 评分23

NDIF 提问:层写入分块混合时,J-Lens 类解读方法还适用吗

AI 导读

NDIF 提出一个开放研究问题:当模型按每 6 层一组的块写入、且各层读取自身学到的混合组合时,基于 residual stream 的 logit lens(J-Lens)等传统解读方法是否仍然适用。研究还关注如何为这类架构开发新的透镜方法,但正文未给出结论。

来源:AGI Hunt · agihunt.info