《Heads Of Security》新论文：定位 prompt injection 注意力头并改写其模式

《Heads Of Security》论文作者提出一种 prompt injection 防御方法：定位负责成功 prompt injection 的具体注意力头，再调整这些头的注意力模式以阻断注入。该方法受可解释性研究中注意力头功能特化启发，为按注意力头治理注入攻击提供新的防御方向。