2026 年 LLM 应用、Agent 与训练系统评测入门框架

文章将 pipeline 评测拆分为三类：多步 LLM 应用评估端到端结果及非确定性步骤，Agent 进一步评估轨迹、工具调用、handoff 和最终状态，训练与推理系统还需测试吞吐、延迟、可靠性和成本。