AGI Hunt· ravi_iitm·· 3 小时前AI 评分50
EMNLP 海报研究:LLM-as-a-Judge 的评分 rubric 存在可被利用的伪影
AI 导读
IIT Madras 团队在 EMNLP 2026 展示海报论文,指出基于 rubric 的 LLM 评审可能拟合措辞而非真实质量。仅提供 rubric 即可预测 LLM judge 的裁决;输出扰动下一致率约 62.3%,rubric 扰动下仅 9.68% 保持一致。研究建议构建稳健 rubric、谨慎设计基准,并用更强 rubric 与鲁棒指标补充 LLM judge。
来源:AGI Hunt · agihunt.info