AGI Hunt· ClickOk5811·· 3 小时前AI 评分67
LLM 调用重试方法区分三类失败并采用不同处理策略
「重试一下」藏着三类 LLM 调用失败,只有一类靠重试能解决
AI 导读
文章将 LLM 调用失败分为传输或提供商错误、输出格式错误、格式正确但内容错误三类,主张只有第一类适合直接重试。传输错误可采用指数退避、抖动并尊重 Retry-After 头;输出格式错误应按 schema 校验并把错误附回 prompt;内容错误则需要规则校验、事实源对照、独立检查或人工审核。
来源:AGI Hunt · agihunt.info