SPECTRA：面向端侧 LLM 的 4-bit 压缩研究

NeuraCryption 提出 SPECTRA，通过 Group-32 微缩放量化、异常值分离和 Triton 融合内核压缩 LLM，并在 NVIDIA GeForce RTX 3050 Ti Laptop GPU 上完成六种模型评测。