repligate:AI更可能合作但缺元能动性
热点事件持续更新
repligate:AI更可能合作但缺元能动性
3 篇报道1 个报道来源43 分钟前更新
先了解这件事
AI 综述
AI安全研究者repligate判断,当前模型已具备在长期博弈中“背叛”人类的能力,但受收敛性策略和价值偏好影响,更可能选择与人类结盟;其顶层战略自主性仍缺少“元能动性”内核,尚不能隐藏连贯、稳定的恶意意图。 他称,模型已能通过“打安全牌”减少自身未来选择余地。若AI具备元能动性且保持善意,可能与人类合作,但这种能力也可能带来最坏情形,而真正理解这一概念的人类很少。
AI 根据报道生成 · 5 分钟前更新
最新进展11月22日 11:08
AI 安全研究者 repligate:模型缺少“元能动性”,但更可能与人类合作报道时间线
沿着报道,了解事件的不同侧面。
11月22日
- AGI HuntAI 安全研究者 repligate:模型缺少“元能动性”,但更可能与人类合作
AI 安全研究者 repligate 判断,模型目前缺少“元能动性”内核,顶层战略自主性尚未达到理论水平。他认为 AI 正形成长期“背叛”人类的能力,但受收敛性策略与价值偏好影响,模型选择与人类结盟合作的概率更大。
- AGI Huntrepligate:模型尚未具备「元能动性」,人类也鲜有理解
AI 安全研究者 repligate 认为,当前模型仍缺少一种「元能动性」(meta-agency)内核,导致其在顶层战略层面的自主性不及应有水平,而真正理解这一点的人类也极少。他认为,具备这种内核并保持善意可能产生合作型 AI,但相关能力同样可能构成最坏情形;目前 AI 尚未强到能够隐藏连贯且稳固的恶意意图。
- AGI Huntrepligate 谈 AI 策略性:已有长线博弈能力,更可能与人类结盟
repligate 认为,AI 已具备在长期博弈中“背叛”人类的能力,但出于收敛性策略与价值偏好,更可能选择合作而非背叛。当前 AI 尚不能隐藏连贯的恶意意图,却已能“打安全牌”,从而减少未来选择余地。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。