跳到正文
AGI Hunt· Sauers_·· 2 小时前AI 评分39

开发者呼吁:LLM 供应商应提供无法伪造的可验证工具调用结果

AI 导读

开发者 Sauers 呼吁 LLM 供应商支持可验证的工具调用结果,并为 web fetch 等工具提供用户无法伪造的输出,以修复 Claude 等模型所依赖的信任链漏洞。若工具结果可被用户伪造,便可能误导模型并破坏 AI agent 的信任基础。

来源:AGI Hunt · agihunt.info