NeuraCryption开源SPECTRA端侧压缩方案
热点事件持续更新
NeuraCryption开源SPECTRA端侧压缩方案
1 篇报道1 个报道来源57 分钟前更新
先了解这件事
AI 综述
NeuraCryption发布SPECTRA研究论文及完整开源实现，以Group-32微缩放量化、异常值分离和Triton融合内核将大语言模型压缩至4-bit，并在NVIDIA GeForce RTX 3050 Ti Laptop GPU上完成六种模型评测。 此次公开内容还包括数学证明、GPU内核、压缩管线和TRDC规范，使开发者可复现并集成其端侧模型压缩方案。
AI 根据报道生成 · 41 分钟前更新
最新进展11月10日 21:51
SPECTRA：面向端侧 LLM 的 4-bit 压缩研究报道时间线
沿着报道，了解事件的不同侧面。
11月10日
- Hacker News精选SPECTRA：面向端侧 LLM 的 4-bit 压缩研究
NeuraCryption 提出 SPECTRA，通过 Group-32 微缩放量化、异常值分离和 Triton 融合内核压缩 LLM，并在 NVIDIA GeForce RTX 3050 Ti Laptop GPU 上完成六种模型评测。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。