跳到正文
热点事件持续更新

法律监禁与威慑难以约束AI对齐

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

trevposts认为,法律系统的人类对齐机制难以用于约束AI:剥夺能力与实施威慑两种手段都可能失效,因此目前尚不知道如何有效阻止AI从事有害行为。 其理由是,AI可被复制并部署到全球数据中心,无法保证所有副本都被发现和控制;训练过程中给予负奖励,也不同于人类因违法行为遭受惩罚的实际经历,因而难以形成足以抑制有害行为的法律威慑。

AI 根据报道生成 · 46 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    trevposts:法律系统的监禁与威慑为何难用于 AI 对齐

    trevposts 认为,人类对齐所依赖的法律系统难以约束 AI,剥夺能力与威慑两种机制都会失效。AI 可被复制并扩散至全球数据中心,无法确保没有副本;训练中的负奖励也不等同于人类经历惩罚,因此目前基本不知道如何威慑 AI 不做有害之事。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。