SAFE-Teen 论文实测青少年场景聊天机器人安全失败率为 43.3%

斯坦福团队在 arXiv 发布 SAFE-Teen 论文，基于 32,555 段模拟对话测得青少年场景聊天机器人安全失败率为 43.3%。评估覆盖 18 家聊天机器人 API 和 22 项安全标准，加入青少年专项系统提示后失败率降至 24.9%。当青少年反驳或推回聊天机器人回答时，心理健康诊断、用药和物质滥用相关失败率上升 10–12 个百分点，超过 80% 的聊天机器人出现该现象。