跳到正文
AGI Hunt· yuxiangw_cs·· 3 小时前AI 评分40

Yu-Xiang Wang 与 Sunil Madhow 论文证明:随机采样的 ReLU 网络也能自适应泛化

新论文证明:再笨的优化器随机采样,ReLU 网络也能自适应泛化

AI 导读

Yu-Xiang Wang 与 Sunil Madhow 的 arXiv 论文证明,均匀随机采样 ReLU 网络参数仍能实现自适应泛化。结果显示,其速率达到 Õ(wdWD/n),不受完整 W×D 假设类 VC 维限制。论文以“deep lifting”构造近似等价参数,将体积与 witness 稳定性关联,并为非参数类提供泛化保证。

来源:AGI Hunt · agihunt.info