跳到正文
AGI Hunt· romitheguru·· 1 小时前AI 评分47

AGORA 论文:用 IRT 免标注加权 LLM 评委,小样本下反超 Dawid-Skene

AGORA 论文:用 IRT 免标注加权 LLM 评委,小样本下反超 Dawid-Skene

AI 导读

AGORA 论文利用 IRT 将评测项映射到同一潜在质量尺度,并以敏感度参数和有序评分阈值刻画评委可靠性,无需人工标注即可学习信任权重。三个基准显示,大评测集上其表现与 Dawid-Skene 持平或更优,评测集缩小到几百条时优势扩大,并提供可试用实现。

来源:AGI Hunt · agihunt.info