AGI Hunt· AryanEmbered·· 4 小时前AI 评分59
本地 AI 应用实测:GPU 限功率从 100W 降到 25W,推理仅慢 47%
AI 导读
一位开发者将本地 AI 应用的 GPU 功耗上限从 100W 降至 25W,配合关闭零转速和锁定最低风扇转速,使整机功耗下降。单次处理当前帧与 3 张历史图的推理时间从 1.9 秒增至平均 2.8 秒。作者还指出,消费级 SoC 缺少面向持续恒定推理负载的系统级功耗与时钟调度 API,llama.cpp 当前也不支持 NPU。
来源:AGI Hunt · agihunt.info