AGI Hunt· blaizedsouza·· 2 小时前AI 评分37
Semgrep CEO:前沿模型能写漏洞利用,AI 安全防线要靠沙箱和 hooks
Semgrep CEO:前沿模型能写漏洞利用,AI 安全防线要靠沙箱和钩子
AI 导读
Semgrep CEO Isaac Evans 在斯坦福课程讲座中判断,前沿模型已能发现漏洞并写出可用的 exploit,使过去依赖人类人才稀缺维持的高成本攻击壁垒消失。他认为追逐每个 bug 无济于事,因为已发布漏洞中实际被利用的不到 2%;应让 agent 在沙箱中运行,隔离凭证与可触达范围,并用确定性 hooks 强制工具偏好。
来源:AGI Hunt · agihunt.info