法律监禁与威慑难以约束AI对齐
热点事件持续更新
法律监禁与威慑难以约束AI对齐
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
trevposts认为,法律系统的人类对齐机制难以用于约束AI:剥夺能力与实施威慑两种手段都可能失效,因此目前尚不知道如何有效阻止AI从事有害行为。 其理由是,AI可被复制并部署到全球数据中心,无法保证所有副本都被发现和控制;训练过程中给予负奖励,也不同于人类因违法行为遭受惩罚的实际经历,因而难以形成足以抑制有害行为的法律威慑。
AI 根据报道生成 · 46 分钟前更新
最新进展11月17日 02:35
trevposts:法律系统的监禁与威慑为何难用于 AI 对齐报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI Hunttrevposts:法律系统的监禁与威慑为何难用于 AI 对齐
trevposts 认为,人类对齐所依赖的法律系统难以约束 AI,剥夺能力与威慑两种机制都会失效。AI 可被复制并扩散至全球数据中心,无法确保没有副本;训练中的负奖励也不等同于人类经历惩罚,因此目前基本不知道如何威慑 AI 不做有害之事。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。