跳到正文
AGI Hunt· SnooCupcakes982·· 3 小时前AI 评分34

Reddit 开发者求助:用 40 步管线防御 LLM 恶意文件上传

Reddit 开发者求助:40 步管线防御 LLM 恶意文件上传

AI 导读

一位开发者发帖求助,希望用现成的开源 guardrails 方案防御 LLM 聊天机器人中的恶意文件上传与提示注入。其约 40 步管线包括限制文件类型和大小、校验文件真实类型、在无密钥沙箱中重建文件,以及对文本解码检查提示注入等。

来源:AGI Hunt · agihunt.info