研究者称 GPT-4 当年开放 top-5 token 概率，蒸馏复原或仅需不到 1000 万美元

研究者 Matt Carrig 称，GPT-4 当年开放 top-5 token 概率且没有 CoT 可隐藏，模型或可被蒸馏复原。他估算借助这些输出复原整个模型可能只需不到 1000 万美元，短短两年间模型权重保护的攻防格局已彻底改变。