AGI Hunt· Mordimer86·· 2 小时前AI 评分20
Rustingstrata 搭配 DSH 报 195k token 超限,同环境 llama.cpp 正常
Rustingstrata 接 DSH 报 195k token 超限,同环境 llama.cpp 却正常
AI 导读
Reddit 用户反馈 Rustingstrata 搭配 DSH 时,简单问题触发 195156 token 的巨大 prompt,API 返回 400 错误,超过 163840 token 限制。同一 workspace、相同上下文长度设置下,llama-server 却能正常工作;发帖者推测可能是 prompt 定义超长,并征询是否有人遇到相同情况。
来源:AGI Hunt · agihunt.info