跳到正文
AGI Hunt· johnhewtt·· 48 分钟前AI 评分25

研究者与 Neel Nanda 辩论单个方向的多语义问题

一个方向四种行为?研究者与 Neel Nanda 辩论单向量多语义问题

AI 导读

研究者与 Neel Nanda 就单个方向 v 能否承载多种行为展开辩论:研究者称该方向可通过四个范数分别对应法语、代码风格和谄媚等四种行为。Nanda 依据 LRH 认为 v 可能由稀疏的单语义方向组合而成;研究者反驳称,这四个范数的分解无法在各行为间保持独立,问题比简单 polysemantic 更微妙。

来源:AGI Hunt · agihunt.info