跳到正文
热点事件持续更新

OpenAI早期探索统一多模态自回归建模

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

OpenAI 多年前曾讨论用大型自回归 Transformer 直接对文本、像素和声音建模,并在黑板上列出这种统一方案的利弊及算力曲线。burnytech 近日重提这张旧照片,称如今统一多模态建模已成为主流路线,因而引发恍如隔世的怀旧感慨。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    OpenAI 早期统一多模态建模讨论引怀旧:用大自回归 Transformer 直接建模文本、像素与声音

    burnytech 重提 OpenAI 多年前用大自回归 Transformer 直接建模 P(text, pixels, sound) 的黑板照片,图中列出利弊并画出 compute 曲线。统一建模多种模态如今已成为主流路线,这张旧照由此勾起“恍如隔世”的怀旧感慨。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。