AGI Hunt· SnooCupcakes982·· 3 小时前AI 评分34
Reddit 开发者求助:用 40 步管线防御 LLM 恶意文件上传
Reddit 开发者求助:40 步管线防御 LLM 恶意文件上传
AI 导读
一位开发者发帖求助,希望用现成的开源 guardrails 方案防御 LLM 聊天机器人中的恶意文件上传与提示注入。其约 40 步管线包括限制文件类型和大小、校验文件真实类型、在无密钥沙箱中重建文件,以及对文本解码检查提示注入等。
来源:AGI Hunt · agihunt.info