并发场景下为 LLM 设置预算的六个常见问题与修复方案

MaverikSh 复盘了在并行 worker、流式输出和重试场景下限制 LLM 花费时遇到的 6 个问题及修复方法。问题包括检查与预留的竞态、浮点记账、预留泄漏、流中断、嵌套预算死锁和周期跨期，方案涉及 Redis Lua 脚本或 Postgres 条件 UPDATE、整数记账、过期预留清理和固定顺序加锁。