CMU 研究员 Niloofar Mireshghallah 警告：别轻信你的 Agent，模型不擅长处理隐私数据

CMU 助理教授 Niloofar Mireshghallah 在 COLM 2026 访谈中警告，模型很难判断应如何处理用户隐私数据，信任 Agent 可能造成 access brainwashing。她介绍了 COLM oral spotlight 论文 Whack-a-Mole，并讨论隐私保护型 Agent 的设计，以及安全对齐后训练中 RL 与 SFT 的比较。