AGI Hunt· thebasepoint·· 6 小时前AI 评分29
阈下学习之争:thebasepoint 认为隐式提示更易学成全局 steering vector
阈下学习之争:隐式提示更易学成全局 steering vector 而非特化规则
AI 导读
thebasepoint 在阈下学习与正则化讨论中提出,模型从阈下数字序列中主要学到隐式提示,并倾向将其编码为全局 steering vector。若教师提示同时包含“爱猫”和“奇偶交替”,正则化难以确保模型舍弃前者、仅保留后者。
来源:AGI Hunt · agihunt.info