Llama 405B 基座模型原生模拟 o1 思维链，展现分布外上下文学习能力

实验显示，Llama 405B 基座模型在被喂入 128 页 o1 思维链（CoT）作为上下文后，无需微调即可模拟 o1 的推理风格并输出结果。该表现说明，基座模型天然具备分布外上下文学习（OOD ICL）能力，能够学习未见过的推理模式。