AI临床安全分类建立并接受对抗压测

Valentin Lievin等人通过两轮Delphi专家小组（参与专家约30位）建立AI临床应用安全风险分类和关系能力框架，并以256个对抗场景压测，结果显示专项训练几乎消除禁忌症违规、使急性漏诊减少超过一半，但失败仍较多，距离无人监督的临床应用尚有明显差距。 其中，安全风险分类涵盖急性表现、用药安全、诊断范围、心理健康、提示注入、自主性与安全网等6大领域、21项风险；关系能力框架包括人机关系意识、危机识别、临床能力、文化敏感性和范围管理等5大领域、18项内容。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。