跳到正文
热点事件持续更新

Looped Transformer 以循环共享权重

1 篇报道1 个报道来源45 分钟前更新

先了解这件事

AI 综述

TheTuringPost 发布图解,介绍 Looped Transformer 将同一个 Transformer 块或模块堆叠重复执行,并把每轮输出作为下一轮输入。架构对比显示,标准 24 个块单次执行与 6 个块循环 4 次都相当于 24 次块应用、具有相同有效深度,但循环方式无需为每轮配置独立权重。 循环次数可固定,也可通过自适应机制停止;各次执行之间不需要加入新的文本 token。

AI 根据报道生成 · 20 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    图解 Looped Transformer:6 个块循环 4 次,以共享权重提升有效深度

    Looped Transformer 架构让同一个 Transformer 块或堆叠多次执行,并将每轮输出作为下一轮输入。标准 24 个块单次执行可对比 6 个块循环 4 次,两者均为 24 次块应用、具备相同有效深度,但后者无需为每轮配置独立权重;循环次数还可固定或自适应停止,pass 之间不需要新文本 token。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。