跳到正文
热点事件持续更新

开源本地LLM令牌预算工具集

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

GitHub用户truongminhphu315a-droid开源token-budget-guard-lite仓库,提供一组帮助用户控制本地大语言模型令牌预算的工具,包括PowerShell推理成本基准、Python低开销提示词脚本和示例输出。 其中运行基准需要PowerShell 5及以上版本;仓库描述称这些工具可帮助用户在运行本地LLM时控制令牌使用。

AI 根据报道生成 · 59 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. GitHub 新星仓库
    token-budget-guard-lite:控制本地 LLM token 预算的开源工具集

    开源项目 token-budget-guard-lite 提供本地 LLM token 预算管理工具,包含 PowerShell 推理成本基准、Python 低开销提示词脚本和示例输出。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。