AGI Hunt· burny_tech·· 3 小时前AI 评分25
OpenAI 早期统一多模态建模讨论引怀旧:用大自回归 Transformer 直接建模文本、像素与声音
「用一个大自回归 Transformer 直接建模文本像素声音」旧黑板照引怀旧
AI 导读
burnytech 重提 OpenAI 多年前用大自回归 Transformer 直接建模 P(text, pixels, sound) 的黑板照片,图中列出利弊并画出 compute 曲线。统一建模多种模态如今已成为主流路线,这张旧照由此勾起“恍如隔世”的怀旧感慨。
来源:AGI Hunt · agihunt.info