1,368起AI事故提出失败驱动评测法

New York Life 的 Vishal Srivastava 与 Tanmay Sah 分析公开 AI 事故库中的 1,368 起失败案例，并提出面向实际部署的评测框架。二人将事故归纳为技术强度、部署管控和业务影响三大维度、13 个子维度，称可覆盖约 98% 的事故。 其分析认为，与实际损害关联最紧密的是人工复核、监控等部署管控薄弱，而非单纯的模型能力问题；评测器本身也需要检验。为此，他们提出“失败驱动评测”和 build–break–fix 循环，主张以证明系统会失败为目标，减少确认偏误。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。