ToshLLM fork优化Intel Mac的Metal推理
热点事件持续更新
ToshLLM fork优化Intel Mac的Metal推理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 opUserZero 发布并优化 ToshLLM 的 fork，使 Intel Mac 上的 RX580 等 AMD GPU 可通过 Metal 加速运行 llama.cpp。其测试中，Ornith 9b 的推理速度从约 17 tok/s 提升至约 29 tok/s，接近 Linux Vulkan 方案的 32 tok/s；用于测试的 CPU 甚至不支持 AVX。
AI 根据报道生成 · 1 小时前更新
最新进展11月3日 13:51
ToshLLM fork 优化让 Intel Mac 的 RX580 通过 Metal 达到 29 tok/s报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- AGI HuntToshLLM fork 优化让 Intel Mac 的 RX580 通过 Metal 达到 29 tok/s
opUserZero 优化 ToshLLM fork，使 Intel Mac 可通过 Metal 调用 AMD RX580 等 GPU 加速 llama.cpp 本地推理。Ornith 9b 的速度从约 17 tok/s 提升至 29 tok/s，接近 Linux Vulkan 方案的 32 tok/s，且测试所用 CPU 不支持 AVX。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。