Anthropic 公开自动化红队系统 Anvil，越狱挖掘能力超过人类赏金

Anthropic 公开自动化红队系统 Anvil，用于提前发现针对安全护栏的强越狱攻击。在生物武器、网络安全、蒸馏等测试中，Anvil 寻找越狱样本的速度和能力均超过全部人类红队，比人类赏金更快更狠，可帮助团队尽早测试并改进安全护栏。