跳到正文
AGI Hunt· evisoft·· 4 小时前AI 评分69

巴西法院处罚利用白字 prompt 操纵司法 AI 的两家律所

全球首例:巴西律师在诉状藏白字 prompt 注释操纵法院 AI 被罚款

AI 导读

巴西帕拉州第三劳动法院罚款并训诫两家律师事务所,因其诉状用白底白字隐藏针对法院 AI 审阅系统的 prompt injection 指令。巴西国家司法委员会在全国使用生成式 AI 工具 Galileu 审阅诉讼文书,本案系统检测到不可见文字。法院认为律师意图促成肤浅回应或有偏见的判决草稿,报道将其称为可能出现的全球首例故意操纵法院 AI 系统的司法裁决。

来源:AGI Hunt · agihunt.info