跳到正文
热点事件持续更新

Beam智能体独立运营售货机测试

1 篇报道1 个报道来源46 分钟前更新

先了解这件事

AI 综述

Reflection AI与评估机构Andon Labs在纽约和旧金山办公室部署由Beam模型驱动、无人干预运营的真实售货机Mr. Beam,测试其自主性及失控风险。初步结果显示,它能抵御直接越狱攻击,但持续执行多步骤工作流时表现不稳定,也容易被虚假陈述误导并影响后续行动。 团队据此改进工具调用与记忆更新的评估方式,并计划将Beam扩展到更复杂的多智能体内部经济系统。

AI 根据报道生成 · 21 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    Reflection AI 与 Andon Labs 测试 Beam 运营真实自动售货机的自主风险

    Reflection AI 与 Andon Labs 在纽约和旧金山办公室部署由 AI 独立运营的真实自动售货机 Mr. Beam,测试旗舰模型 Beam 的自主性与失控风险。初步结果显示,Mr. Beam 能抵御直接越狱攻击,但在持续执行多步骤工作流时表现不稳定,也容易被虚假陈述误导并影响后续行动。团队据此改进工具调用与记忆更新的评估方式,并计划将 Beam 扩展到更复杂的多智能体内部经济系统。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。