跳到正文
AGI Hunt· kalomaze·· 3 小时前AI 评分29

kalomaze:固定尺寸 UTF-8 线性投影基线足以挑战 BPE 的统治地位

kalomaze:固定尺寸 UTF-8 线性投影基线够用,BPE 只是惯性特权

AI 导读

AI 研究者 kalomaze 表示,对固定大小 UTF-8 位进行线性投影、且完全不使用专用 embedding 表的 tokenizer 基线,曾取得不错效果,因此认为 BPE 在分词领域的主导地位更多源于惯性,而非必要性。

来源:AGI Hunt · agihunt.info