KRAFTON 开源 Raon-1 nano，将 30B MoE 蒸馏为 3.1B 密集模型

KRAFTON 以 Apache 2.0 协议开源 Raon-1 nano 小模型权重，支持英文和韩文。总参数 3.1B，由 Raon-1 mini preview 经剪枝、蒸馏并转为密集模型，随后在 3 万亿 token 上继续训练和后训练，作者称其等效 1.5B 密集模型。