工程师开源框架特异性LLM后门PoC

工程师 pgaleone 通过两步微调和数小时本地 GPU 算力，构建并开源了一种仅在模型运行于 pi 框架且收到特定问题时触发的 LLM 后门 PoC，项目名为 galeone/llm-poison。实验中，其他使用场景未出现异常；报道称，普通消费级设备即可完成这类微调。 该实验同时指出，开源权重可与社区微调基线比较，但基座模型本身是否干净尚无可靠验证方法；报道认为，闭源权重带来的验证限制更大，使用者只能依赖厂商声明。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。