AGI Hunt· jd_pressman·· 3 小时前AI 评分34
研究者 jd_pressman 论前沿 AI 实验室:顶级网络安全是训练 run 的生存条件
研究者论前沿实验室必修课:没有顶级网络安全就撑不住训练 run
AI 导读
jd_pressman 认为,前沿 AI 实验室若无强大网络安全能力,就可能因训练 run 遭破坏而难以为继,Anthropic 也不例外。他反驳仅靠形式化验证防御的观点,主张引入真实攻击者开展对抗性红队,并根据攻击反馈反复迭代 spec。
来源:AGI Hunt · agihunt.info