跳到正文
热点事件持续更新

苹果以改题测试模型数学推理

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

苹果研究团队仅更换GSM8K小学数学题中的人名和数字,构建GSM-Symbolic数学推理基准,多款先进模型的测试成绩明显下滑。 这一结果表明,模型在题目表述发生表面变化后,原有的数学解题能力可能无法稳定保持,基准测试表现也会受到具体数字、人名等非核心信息的影响。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. AGI Hunt
    苹果 GSM-Symbolic 论文:仅改姓名与数字,SOTA 模型数学成绩大跌

    苹果 GSM-Symbolic 论文通过更换 GSM8K 小学数学题中的人名和数字构建新 benchmark,多款 SOTA 模型的成绩随之明显下滑。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。