跳到正文
AGI Hunt· Venom943·· 3 小时前AI 评分56

开发者启动百个 AI 安全开源工具计划,首作 DirectGuard 拦截提示词注入

开发者发起百个 AI 安全开源工具计划,首作 DirectGuard 拦截提示词注入

AI 导读

Reddit 用户 Venom943 发起长期工程挑战,计划构建覆盖 AI/LLM 主要漏洞的 100 个开源安全工具。首作 DirectGuard 使用预编译正则表达式和启发式关键词评分,在恶意覆写向量进入主模型上下文前进行亚毫秒级拦截。项目已以 venomx943-pixel/AI-Security-Projects 名义在 GitHub 开源。

来源:AGI Hunt · agihunt.info