America.gov 聊天 bot 拒绝分解 6，却乐意分解假社保号

America.gov 聊天 bot 拒绝分解数字 6，却为虚假社保号 12,345,678 给出完整质因数分解。OTI 学者 Vincent Conitzer 在「Funny AI fails」系列记录这一矛盾：它甚至不讨论 6=2×5，却对假社保号照常放行。该案例显示，其安全护栏在简单数学题上过度泛化，在本应谨慎的场景中却未发挥作用。