Ben Lorica:暂停RSI提案须先厘清定义
热点事件持续更新
Ben Lorica:暂停RSI提案须先厘清定义
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Ben Lorica在Gradient Flow撰文称,美国中期选举后可能重回议程的前沿AI实验室监管提案,应先解决“递归自我改进”(RSI)的定义问题:利用编码agent改进训练管线、让agent运行实验择优是否属于RSI,目前仍无定论,因此直接暂停相关研究缺乏可执行边界。 他主张依据现有行业法律治理AI,并认为要求模型部署3至9个月后才能用于内部研究、由实验室自行评估模型安全性的条款不可信。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 23:14
Ben Lorica 谈前沿 AI 实验室监管:暂停 RSI 提案先要解决定义难题报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI HuntBen Lorica 谈前沿 AI 实验室监管:暂停 RSI 提案先要解决定义难题
Ben Lorica 在 Gradient Flow 撰文,逐一质疑美国中期选举后可能重回议程的前沿 AI 实验室监管提案,认为禁止超智能、暂停 RSI 的主张缺乏可执行定义——用编码 agent 改进训练管线、让 agent 跑实验择优是否算 RSI 都无定论。他主张以现有行业法律治理 AI,并指出要求模型公开部署 3-9 个月后才可用于内部研究、或由实验室自评模型安全性的条款都不可信。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。