跳到正文
热点事件持续更新

UPenn与OSU发布ARLoop循环模型

1 篇报道1 个报道来源52 分钟前更新

先了解这件事

AI 综述

UPenn团队联合OSU NLP发布ARLoop系列预训练循环Transformer模型,其中ARLoop-1.2B引入Attention Residuals,在选择性复用信息方面进行改进。团队称,该模型完成0.5T token预训练后,在8个常识推理、数学和编程基准上超过Huginn-3.5B和Qwen3.5-2B Base。 ARLoop同步开放模型权重、训练与数据处理代码、中间checkpoint及评测代码,完整公开了循环LLM的训练流程。

AI 根据报道生成 · 36 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    UPenn 团队发布 ARLoop-1.2B 循环 Transformer LLM

    UPenn 团队联合 OSU NLP 发布 ARLoop 系列循环 Transformer LLM,ARLoop-1.2B 引入 Attention Residuals,在 0.5T token 预训练后于 8 个常识推理、数学和编程基准上超过 Huginn-3.5B 与 Qwen3.5-2B Base。团队同步开源模型权重、训练代码、数据处理代码、中间 checkpoint 和评测代码。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。