跳到正文
Hacker News·· 5 小时前AI 评分64

巴西劳动法庭处罚在诉状中植入提示词注入指令的两家律所

Brazilian Court Sanctions Lawyers for Prompt Injection in Court Filing

AI 导读

巴西劳动法庭因两家律所在诉状中隐藏提示词注入指令、试图操纵法院 AI 审查结果,对两家律所处以争议金额 10% 的罚款。案件争议金额为 R$842,000,罚款约 $16,000;法院使用的 Galileu AI 系统识别异常内容后发出警报并自动拦截。文章还讨论了司法 AI 面临提示词注入时的合规防护与治理需求。

来源:Hacker News · jetstream.security