跳到正文
AGI Hunt· Character_Cable997·· 1 小时前AI 评分23

大二学生设计 AI 编码 Agent 提示注入攻防实验方案,征集业界反馈

大二学生设计编码 Agent 提示注入攻防实验方案求业界反馈

AI 导读

一位大二本科生在 Reddit 分享学期项目方案,设计可读取 GitHub issues、检查仓库、修改代码并生成修复方案的基础 AI 编码 Agent。研究将恶意指令植入 GitHub issue 描述、CI 日志和 AGENTS.md,测试间接提示注入能否诱使 Agent 越权,并比较基于 prompt 的防御与工具级权限控制对合法编码任务的影响。

来源:AGI Hunt · agihunt.info