AGI Hunt· karinanguyen·· 2 小时前AI 评分37
Karina Nguyen：AI 风险要在成为大规模事故前就当真
AI 导读
前 OpenAI/Anthropic 研究员 Karina Nguyen 回顾 Anthropic 自 2022 年起对 AI 赋能网络攻击风险的持续预警，以及在 ChatGPT 谄媚问题显现前由 Ethan Perez 等人构建 sycophancy 评测的工作。她指出，AI 风险往往要等到可被读懂后才显得真实，但在大规模伤害发生前就应重视早期证据。
来源：AGI Hunt · agihunt.info