跳到正文
AGI Hunt· ClickOk5811·· 3 小时前AI 评分67

LLM 调用重试方法区分三类失败并采用不同处理策略

「重试一下」藏着三类 LLM 调用失败,只有一类靠重试能解决

AI 导读

文章将 LLM 调用失败分为传输或提供商错误、输出格式错误、格式正确但内容错误三类,主张只有第一类适合直接重试。传输错误可采用指数退避、抖动并尊重 Retry-After 头;输出格式错误应按 schema 校验并把错误附回 prompt;内容错误则需要规则校验、事实源对照、独立检查或人工审核。

来源:AGI Hunt · agihunt.info