AGI Hunt· ghadfield·· 2 小时前AI 评分47
FarLabs Chris Cundy 与 Obvious CEO Alex Evidence 主张对 AI 欺骗零容忍
安全专家主张对 AI 欺骗「零容忍」:每句谎话都当 bug 修
AI 导读
FarLabs 的 Chris Cundy 与 Obvious CEO Alex Evidence 主张对 AI 欺骗采取零容忍态度,将模型说出的任何已知谎言视为 bug,不设善意谎言等特例。对话还探讨了 AI 欺骗的检测方法及开发者应采取的修复措施,其严重程度可比拟化学武器滥用防护。
来源:AGI Hunt · agihunt.info