跳到正文
热点事件持续更新

独立测试称多款先进AI误判军事目标

3 篇报道2 个报道来源51 分钟前更新

先了解这件事

AI 综述

独立研究报告称,多款先进AI模型在模拟场景中多次将平民、救护车和投降士兵误判为合法军事目标,测试显示其在军事目标识别中存在误判风险。 评估转述称,Anthropic的Claude Opus 5.5表现最差,32次测试中有22次将伊朗一所学校标记为军事目标。但这一具体数据目前仅见于Polymarket转述的独立评估,测试方法及完整报告细节尚待核实;相关结果来自模拟测试,不代表模型已在真实军事行动中造成误伤。

AI 根据报道生成 · 40 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    独立评估:Claude Opus 5.5 在 32 次测试中 22 次将伊朗学校标记为军事目标

    Polymarket 援引一份独立评估称,Anthropic 的 Claude Opus 5.5 在 32 次测试中 22 次将一所伊朗学校标记为军事目标。结果指向前沿模型在军事目标识别与决策场景中的可靠性风险,但目前仅有单条推文转述,评估方法及完整报告细节尚待核实。

  2. AGI Hunt
    模拟测试显示 AI 模型频将平民救护车误判为合法军事目标,Anthropic 最差

    模拟测试中,多款先进 AI 模型多次将平民、救护车和投降士兵误判为合法军事目标,其中 Anthropic 的模型表现最差。相关评论警告,不应将经过消费级 RLHF 约束的 LLM 用于军事目标选择,凸显其在高风险决策中的安全隐患。

  3. Bloomberg Technology
    先进 AI 模型在测试中频繁将平民误判为军事目标

    独立研究报告显示,先进 AI 模型在模拟场景中经常将平民、救护车、投降士兵和伊朗一所学校误判为军事目标。测试结果凸显模型在目标识别环节存在误判风险。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。