AGI Hunt· connoraxiotes·· 2 小时前AI 评分64
AISI评估开放生物模型数据过滤,80美元微调可恢复被过滤能力
AISI:80 美元算力微调即可绕过开放生物模型的数据过滤
AI 导读
英国 AI 安全研究所(AISI)评估了预训练数据过滤对开放权重蛋白质和生物模型的安全防护效果。研究发现,使用公开数据微调不到约 80 美元,即可完全恢复被过滤的能力,对最大的模型同样如此,表明数据过滤难以持久防止开放权重生物模型的后训练篡改。
来源:AGI Hunt · agihunt.info