AGI Hunt· teortaxesTex·· 2 小时前AI 评分52
研究员称中国模型身份污染或源于 Claude 蒸馏训练
中国模型「我是 Claude」自我污染难除,研究员称需弃用受染 checkpoint
AI 导读
研究员评论称,部分中国模型自称由 Anthropic 打造,其身份污染可能源于使用 Claude 输出进行蒸馏训练。他分析称,乐观情况下可通过 ablation 消除该问题,悲观情况下厂商可能需要放弃蒸馏路线并弃用受污染的历史 checkpoint。
来源:AGI Hunt · agihunt.info