CMU研究员警告不宜轻信隐私数据代理
热点事件持续更新
CMU研究员警告不宜轻信隐私数据代理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
CMU助理教授Niloofar Mireshghallah在COLM 2026访谈中称，当前模型难以判断应如何处理用户隐私数据，信任Agent可能导致“access brainwashing”，因此不宜把隐私决策交给模型。她还介绍了获oral spotlight的论文Whack-a-Mole及隐私保护型Agent设计，并比较安全对齐后训练中RL与SFT的表现。
AI 根据报道生成 · 1 小时前更新
最新进展11月12日 09:09
CMU 研究员 Niloofar Mireshghallah 警告：别轻信你的 Agent，模型不擅长处理隐私数据报道时间线
沿着报道，了解事件的不同侧面。
11月12日
- AGI HuntCMU 研究员 Niloofar Mireshghallah 警告：别轻信你的 Agent，模型不擅长处理隐私数据
CMU 助理教授 Niloofar Mireshghallah 在 COLM 2026 访谈中警告，模型很难判断应如何处理用户隐私数据，信任 Agent 可能造成 access brainwashing。她介绍了 COLM oral spotlight 论文 Whack-a-Mole，并讨论隐私保护型 Agent 的设计，以及安全对齐后训练中 RL 与 SFT 的比较。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。