AGI Hunt· vasilisvj·· 2 小时前AI 评分38
用 200 年文献学审视 LLM:模型没有「证据到此为止」的标记
用 200 年文献学审视 LLM:模型没有「证据到此为止」的标记
AI 导读
从古典文献学审视 LLM,模型在上下文缺失时会流畅填补空白,却缺乏区分原话、转述、证据与推断的内部标记。作者认为,这种缺陷源于输出格式与训练信号,而非单纯幻觉问题;RAG、引用溯源和置信度校准只是外围补救,关键在于让证据状态成为推理过程的一等公民。
来源:AGI Hunt · agihunt.info