AGI Hunt· GasProfessional5544·2026-11-03 06:22· 3 小时前AI 评分62

「上下文漂移」搞垮生产部署：第 10 轮对话后模型无视系统提示词

「上下文漂移」搞垮生产部署:第 10 轮对话后模型无视系统提示词

AI 导读

作者复盘了一次面向客户的 LLM 部署事故，约第 10 轮对话后，模型开始违反明确禁止回答的要求，且问题由用户投诉发现，而非监控或 eval。

来源：AGI Hunt · agihunt.info

部署工程教程实践 #教程/实践 #部署/工程 #RAG