AGI Hunt· jd_pressman·· 3 小时前AI 评分32
jd_pressman:用网络安全对抗压力提升 LLM 形式验证规格质量
合成数据新思路:用攻防压力逼 LLM 写出更好的形式化规格
AI 导读
jd_pressman 提出一种面向 AI 实验室员工的免费合成数据思路,让 LLM 先生成“坏”的形式验证规格,再施加进攻性网络安全压力,并用修复后的更好规格数据训练。该方案以网络安全对抗作为压力源,旨在自我强化模型撰写高质量形式验证规格的能力,源于他与 Ivan Vendrov 关于形式验证的争论。
来源:AGI Hunt · agihunt.info