跳到正文
AGI Hunt· FrnkNlsn·· 2 小时前AI 评分44

Johnson-Lindenstrauss 引理:随机投影可低失真降维做 k-means

AI 导读

Johnson-Lindenstrauss 引理可将 R^d 中任意 n 个点嵌入 k=O((1/ε²)·log n) 维空间,并将点对距离失真控制在 (1±ε) 以内。随机投影矩阵 A 的系数取标准正态分布,再按 k/d 缩放。基于这一方法,高维 embedding 可先降至 O(log n) 维,再进行 k-means 聚类,在几乎不损失结构的同时降低计算成本。

来源:AGI Hunt · agihunt.info