跳到正文
热点事件持续更新

研究者用去审查模型自攻自身基础设施

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

安全研究者 danlovesproofs 分享了用 abliterated(去审查)模型攻击自己基础设施两天的结果,称主要风险来自应用代码之外的基础设施侧门,而非模型本身。 其发现的典型问题包括权限过大的 Coder 测试环境,以及拥有不必要 tailnet 访问权限的 CI runner;作者称,这些问题在被发现后容易缓解。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    danlovesproofs 用 abliterated 模型自攻两天:最大风险在基础设施侧门

    安全研究者 danlovesproofs 花两天用 abliterated 模型攻击自己的基础设施,发现最大风险来自应用代码之外的基础设施侧门。典型问题包括权限过大的 Coder 测试环境,以及拥有不必要 tailnet 访问权限的 CI runner;作者称这些问题一旦意识到就很容易缓解。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。