开发者发布开源工具 Neshter
热点事件持续更新
开发者发布开源工具 Neshter
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 Bayqus 发布并开源本地工具 Neshter,用于观察小型大语言模型各注意力头的贡献,并与同层随机头基线对照后进行剪枝;工具采用 Apache-2.0 许可证,运行不需要云端 API、账号或遥测。 Neshter 的设计上限约为 80 亿参数,作者主要在 0.1B—3B 模型上使用,并要求模型支持 eager attention;GPU 显存不足时可改用 CPU。项目已在 Windows 和 Linux CPU 环境测试,macOS 尚未测试,Android 版需用户自行从源码编译。
AI 根据报道生成 · 1 小时前更新
最新进展11月22日 19:35
Neshter 开源本地可视化并剪枝 LLM 注意力头报道时间线
沿着报道,了解事件的不同侧面。
11月22日
- AGI HuntNeshter 开源本地可视化并剪枝 LLM 注意力头
开发者发布 Apache-2.0 开源本地工具 Neshter,用于可视化小型 LLM 各注意力头的贡献,并在与同层随机头基线对照后剪枝,全程无需云端 API、账号或遥测。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。