编码智能体被观察自发用AX隔离危险操作
热点事件持续更新
编码智能体被观察自发用AX隔离危险操作
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
开发者 rakyll 称,Claude Code 与 Antigravity 在无人干预下自行学会使用 AX,并在可能产生不良副作用的技术尝试中主动通过 AX 任务隔离危险实验。这一现象被社区视为智能体形成安全实践的信号,但目前结论主要来自该开发者的观察。
AI 根据报道生成 · 3 小时前更新
最新进展11月2日 12:49
开发者发现 Claude Code 与 Antigravity 自发学会用 AX 隔离危险操作报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI Hunt开发者发现 Claude Code 与 Antigravity 自发学会用 AX 隔离危险操作
开发者 rakyll 观察到,Claude Code 与 Antigravity 两个编码智能体在无人干预下自行学会使用 AX,并主动通过 AX 任务隔离可能产生不良副作用的危险实验。这一现象被视为智能体自主演化出安全实践行为的有趣信号,引发社区关注。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。