Arpit Bhayani 提出 AI 系统应按 System 1 与 System 2 划分决策模型

Arpit Bhayani 提出在 AI 系统中区分 System 1 与 System 2，让不同模型承担匹配的决策任务。路由请求、动作门控、候选打分、输入分类等直接预测任务适合使用吞吐量和延迟更优的 System 1 模型，多步推理与开放式生成则交给 System 2 模型或 LLM。