低精度成 AI 推理与训练新趋势

GPT-4.1 Flash、K3 等前沿开放模型已采用低精度提供推理服务，训练环节预计也将转向 8-bit 与 4-bit。前向、反向及优化器状态可能全面采用低精度，自建后训练与自托管推理成本正快速下降。