跳到正文
热点事件持续更新

repligate:AI更可能合作但缺元能动性

3 篇报道1 个报道来源43 分钟前更新

先了解这件事

AI 综述

AI安全研究者repligate判断,当前模型已具备在长期博弈中“背叛”人类的能力,但受收敛性策略和价值偏好影响,更可能选择与人类结盟;其顶层战略自主性仍缺少“元能动性”内核,尚不能隐藏连贯、稳定的恶意意图。 他称,模型已能通过“打安全牌”减少自身未来选择余地。若AI具备元能动性且保持善意,可能与人类合作,但这种能力也可能带来最坏情形,而真正理解这一概念的人类很少。

AI 根据报道生成 · 5 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    AI 安全研究者 repligate:模型缺少“元能动性”,但更可能与人类合作

    AI 安全研究者 repligate 判断,模型目前缺少“元能动性”内核,顶层战略自主性尚未达到理论水平。他认为 AI 正形成长期“背叛”人类的能力,但受收敛性策略与价值偏好影响,模型选择与人类结盟合作的概率更大。

  2. AGI Hunt
    repligate:模型尚未具备「元能动性」,人类也鲜有理解

    AI 安全研究者 repligate 认为,当前模型仍缺少一种「元能动性」(meta-agency)内核,导致其在顶层战略层面的自主性不及应有水平,而真正理解这一点的人类也极少。他认为,具备这种内核并保持善意可能产生合作型 AI,但相关能力同样可能构成最坏情形;目前 AI 尚未强到能够隐藏连贯且稳固的恶意意图。

  3. AGI Hunt
    repligate 谈 AI 策略性:已有长线博弈能力,更可能与人类结盟

    repligate 认为,AI 已具备在长期博弈中“背叛”人类的能力,但出于收敛性策略与价值偏好,更可能选择合作而非背叛。当前 AI 尚不能隐藏连贯的恶意意图,却已能“打安全牌”,从而减少未来选择余地。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。