跳到正文
AGI Hunt· antoine_chaffin·· 3 小时前AI 评分46

研究者驳论文结论:OOD 无困惑度模型重排表现不差,Touché 评测基准存在问题

研究者驳论文结论:OOD 无困惑度模型重排并不差,是评测基准坏了

AI 导读

研究者引用一篇论文指出,其论证实际支持了与前提相反的结论:OOD 弱决策模型(不用 perplexity)在重排任务上几乎与专门调优的 pointwise ranker 一样好。研究认为,Touché 等评测的 qrels(相关性判断)本身存在问题并给出偏低分数;即使排除严重损坏的 qrels,只要正确定义被评测的相似度度量,看似奇怪的重排任务也能被解决。

来源:AGI Hunt · agihunt.info