Karina Nguyen警示提前重视AI风险
热点事件持续更新
Karina Nguyen警示提前重视AI风险
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
前OpenAI和Anthropic研究员Karina Nguyen警示，AI风险往往要到损害大规模发生后才会被充分认识，因此不能等到事故出现才重视早期证据。 她回顾了Anthropic自2022年起对AI被用于网络攻击的持续预警，以及Ethan Perez等人在ChatGPT谄媚问题显现前开展的相关评测，认为这些工作说明应在大规模伤害前认真对待早期风险信号。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 02:12
Karina Nguyen：AI 风险要在成为大规模事故前就当真报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- AGI HuntKarina Nguyen：AI 风险要在成为大规模事故前就当真
前 OpenAI/Anthropic 研究员 Karina Nguyen 回顾 Anthropic 自 2022 年起对 AI 赋能网络攻击风险的持续预警，以及在 ChatGPT 谄媚问题显现前由 Ethan Perez 等人构建 sycophancy 评测的工作。她指出，AI 风险往往要等到可被读懂后才显得真实，但在大规模伤害发生前就应重视早期证据。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。