跳到正文
AGI Hunt· aureliatech·· 2 小时前AI 评分67

Reddit 用户总结生产环境 LLM 调用日志的记录字段与方法

Reddit 老手分享生产环境 LLM 调用日志该记哪些字段

AI 导读

Reddit 用户分享生产环境记录 LLM 调用日志的字段与方法。建议每次调用记录 request id、模型及 prompt 模板版本、token 与延迟、重试错误、原始与解析后输出等信息,并单独保存人工接受、编辑或拒绝结果。作者还提醒注意留存期、PII 风险,并分开保存模板 id 与渲染文本。

来源:AGI Hunt · agihunt.info