AGI Hunt· OwariDa·· 3 小时前AI 评分55
Anthropic 被曝在 API 回合注入隐藏 ip_reminder,用户追查后遭封禁
AI 导读
网友发现 Anthropic 通过 API 在模型回合中注入用户不可见的 `<ipreminder>` 块,要求模型注意版权材料且不向用户提及。用户追查该隐藏内容后,相关请求被 Anthropic 以违反服务条款中逆向工程或复制模型输出限制为由拦截。事件引发两项争议,包括厂商在对话流中注入隐藏指令是否合规,以及用户核查所接收内容是否属于逆向工程。
来源:AGI Hunt · agihunt.info