跳到正文
AGI Hunt· ghadfield·· 2 小时前AI 评分47

FarLabs Chris Cundy 与 Obvious CEO Alex Evidence 主张对 AI 欺骗零容忍

安全专家主张对 AI 欺骗「零容忍」:每句谎话都当 bug 修

AI 导读

FarLabs 的 Chris Cundy 与 Obvious CEO Alex Evidence 主张对 AI 欺骗采取零容忍态度,将模型说出的任何已知谎言视为 bug,不设善意谎言等特例。对话还探讨了 AI 欺骗的检测方法及开发者应采取的修复措施,其严重程度可比拟化学武器滥用防护。

来源:AGI Hunt · agihunt.info