ESP32成功移植微型嵌入模型
热点事件持续更新
ESP32成功移植微型嵌入模型
1 篇报道1 个报道来源36 分钟前更新
先了解这件事
AI 综述
Qdrant 工程师 Clelia 介绍了一项基于 no_std Rust 的实现:将 Minish Lab 的 potion-base-2M 嵌入模型及词表在编译期写入固件,并部署到仅配备 16MB 内存的 ESP32 微控制器。 据她分享的博客,短文本嵌入约需 1.2 毫秒,吞吐量约为每秒 830 个 embeddings,内存占用也低于在 Mac 上运行静态模型方案。
AI 根据报道生成 · 14 分钟前更新
最新进展11月17日 18:11
Qdrant 工程师用 no_std Rust 将 potion-base-2M 部署到 16MB ESP32报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI HuntQdrant 工程师用 no_std Rust 将 potion-base-2M 部署到 16MB ESP32
Qdrant 工程师 Clelia 将 Minish Lab 的 potion-base-2M embedding 模型移植到仅有 16MB 内存的 ESP32 微控制器。固件使用 no_std Rust 编写,并在编译期嵌入模型权重与词表;短文本嵌入约 1.2ms,吞吐约 830 embeddings/s,内存占用远低于 Mac 上的静态模型方案。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。