AISI称数据过滤可被低成本微调绕过

1. 05:09
   AGI Hunt

   AISI评估开放生物模型数据过滤，80美元微调可恢复被过滤能力

   英国 AI 安全研究所（AISI）评估了预训练数据过滤对开放权重蛋白质和生物模型的安全防护效果。研究发现，使用公开数据微调不到约 80 美元，即可完全恢复被过滤的能力，对最大的模型同样如此，表明数据过滤难以持久防止开放权重生物模型的后训练篡改。

1. 07:00
   AIHOT

   英国 AISI 研究 ESM-2 预训练数据过滤的效果与可恢复性

   英国 AISI 团队发现，预训练数据过滤可削弱 ESM-2 蛋白质模型的病毒蛋白能力，同时基本保留非病毒蛋白能力。实验覆盖 8M 至 3B 参数模型，使用被过滤的病毒蛋白数据继续微调即可恢复相关性能，最大模型仅需约 80 美元 H100 算力，因此过滤措施仍需配合数据访问控制。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。