AGI Hunt· profjamesevans·· 1 小时前AI 评分52
James Evans 与 Sociotechnical Grand Challenges Coalition 发起「逆向对齐」计划
学者发起「逆向对齐」计划:补齐社会制度短板来承接 AI 能力
AI 导读
James Evans 与 Sociotechnical Grand Challenges Coalition 发起「逆向对齐」计划,主张除对齐人类价值外,还需重设计制度、规范、技能与治理,使社会能够吸收 AI 能力并分享收益。计划提出三种失败模式,分别对应工作重组后收益分配不足、生成内容缺乏核查与背书,以及工具集中权力;其机制包括 attestation 网络、桥接结构和惊喜加权信用分配。
来源:AGI Hunt · agihunt.info