UPenn与OSU发布ARLoop循环模型
热点事件持续更新
UPenn与OSU发布ARLoop循环模型
1 篇报道1 个报道来源52 分钟前更新
先了解这件事
AI 综述
UPenn团队联合OSU NLP发布ARLoop系列预训练循环Transformer模型,其中ARLoop-1.2B引入Attention Residuals,在选择性复用信息方面进行改进。团队称,该模型完成0.5T token预训练后,在8个常识推理、数学和编程基准上超过Huginn-3.5B和Qwen3.5-2B Base。 ARLoop同步开放模型权重、训练与数据处理代码、中间checkpoint及评测代码,完整公开了循环LLM的训练流程。
AI 根据报道生成 · 36 分钟前更新
最新进展11月10日 10:54
UPenn 团队发布 ARLoop-1.2B 循环 Transformer LLM报道时间线
沿着报道,了解事件的不同侧面。
11月10日
- AGI HuntUPenn 团队发布 ARLoop-1.2B 循环 Transformer LLM
UPenn 团队联合 OSU NLP 发布 ARLoop 系列循环 Transformer LLM,ARLoop-1.2B 引入 Attention Residuals,在 0.5T token 预训练后于 8 个常识推理、数学和编程基准上超过 Huginn-3.5B 与 Qwen3.5-2B Base。团队同步开源模型权重、训练代码、数据处理代码、中间 checkpoint 和评测代码。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。