从 token 到 RAG：图解聊天机器人回复前的 3 秒

这篇 Reddit 长帖从零拆解真实客服聊天机器人的构建流程，说明用户消息发出到收到回复之间的处理环节。模型会读取整段对话历史并受 context window 限制，数据经切块和 embedding 存入向量数据库，再检索语义最近的 3-5 个 chunk 生成回答。文中还解释了 System prompt、工具调用以及上线前用数百个问题评测准确率和防诱导的做法。