RTX 4070 Ti SUPER本地编码智能体优化实践

ievkz介绍了一套基于RTX 4070 Ti SUPER的本地LLM编码智能体工作流，称其推理速度达到125 token/s。其使用Tiel-Coder-35B-A3B或Cyber-Tiel-Coder，并借助MTP、MoE架构及优化Jinja聊天模板提升速度、减少推理token。 为适应约65535 token的小上下文，作者建议用仅需约1500 token系统提示的Pi编码智能体，并通过/new先生成plan.md再修改代码，以降低大改动挤占上下文的风险。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。