NanoGPT 速度跑纪录从 39.9 秒降至 6.7 秒

Herman Brunborg 将 NanoGPT Speedrun 纪录从 39.9 秒优化到 6.7 秒，降幅 83.2%。这一降幅超过 2025 年以来所有纪录降幅之和（-81.4%）。其核心方案是针对网络中大量罕见且重复出现、语言模型来不及记忆的内容，采用检索增强的 n-gram 提示；Hashimoto 还指出，这一进展来自人类借助 AI，而非自动化研究（autoresearch）。