Percy Liang 转发 Ahmed 研究：用 scaling laws 量化合成数据改写的算力收益

Percy Liang 转发的 Ahmed 研究线程利用 scaling laws，系统量化合成数据改写所需的算力，以及基于改写数据训练的模型能否超越执行改写的模型本身。研究聚焦合成数据改写在提升预训练数据质量、缓解数据短缺中的投入与收益权衡。