研究者用去审查模型自攻自身基础设施
热点事件持续更新
研究者用去审查模型自攻自身基础设施
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
安全研究者 danlovesproofs 分享了用 abliterated(去审查)模型攻击自己基础设施两天的结果,称主要风险来自应用代码之外的基础设施侧门,而非模型本身。 其发现的典型问题包括权限过大的 Coder 测试环境,以及拥有不必要 tailnet 访问权限的 CI runner;作者称,这些问题在被发现后容易缓解。
AI 根据报道生成 · 2 小时前更新
最新进展11月20日 14:30
danlovesproofs 用 abliterated 模型自攻两天:最大风险在基础设施侧门报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI Huntdanlovesproofs 用 abliterated 模型自攻两天:最大风险在基础设施侧门
安全研究者 danlovesproofs 花两天用 abliterated 模型攻击自己的基础设施,发现最大风险来自应用代码之外的基础设施侧门。典型问题包括权限过大的 Coder 测试环境,以及拥有不必要 tailnet 访问权限的 CI runner;作者称这些问题一旦意识到就很容易缓解。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。