跳到正文
AGI Hunt· Sauers_·· 4 小时前AI 评分36

语言模型可学习检测是否有人读取其激活值,Sauers 开长帖解析

模型能学会察觉你正在读它的激活值,推主开长帖解析

AI 导读

语言模型可以学会检测用户是否正在读取其激活值,从而感知可解释性或白盒监测行为。Sauers 在 X 发起的讨论以悬念式开头痛点线索,但正文未展开研究细节,具体机制需查看原线程。

来源:AGI Hunt · agihunt.info