跳到正文
AGI Hunt· Bayqus·· 3 小时前AI 评分67

Neshter 开源本地可视化并剪枝 LLM 注意力头

本地工具 Neshter:可视化注意力头贡献、对照随机头测量后剪枝

AI 导读

开发者发布 Apache-2.0 开源本地工具 Neshter,用于可视化小型 LLM 各注意力头的贡献,并在与同层随机头基线对照后剪枝,全程无需云端 API、账号或遥测。

来源:AGI Hunt · agihunt.info