业内观点：预训练将持续演进，数据审查仍需人工介入

从业者 himanshustwts 判断，预训练不会停滞，新架构与训练配方将持续更新。由于数据过滤和分阶段处理规模巨大，数据审查仍离不开「human in the loop」的人工介入。