Anthropic公开自动红队系统Anvil
热点事件持续更新
Anthropic公开自动红队系统Anvil
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Anthropic公开自动化红队系统Anvil，用于提前发现针对其模型安全护栏的强越狱攻击；Anthropic称，在生物武器、网络安全和模型蒸馏等测试中，Anvil寻找越狱样本的速度和能力均超过全部人类红队。 Anthropic表示，该系统比人类赏金机制更快发现高强度越狱样本，可帮助其团队提前测试并改进安全护栏；这一比较结果目前来自Anthropic自身公布的测试。
AI 根据报道生成 · 36 分钟前更新
最新进展11月13日 02:38
Anthropic 公开自动化红队系统 Anvil，越狱挖掘能力超过人类赏金报道时间线
沿着报道，了解事件的不同侧面。
11月13日
- AGI HuntAnthropic 公开自动化红队系统 Anvil，越狱挖掘能力超过人类赏金
Anthropic 公开自动化红队系统 Anvil，用于提前发现针对安全护栏的强越狱攻击。在生物武器、网络安全、蒸馏等测试中，Anvil 寻找越狱样本的速度和能力均超过全部人类红队，比人类赏金更快更狠，可帮助团队尽早测试并改进安全护栏。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。