AGI Hunt· burny_tech·· 3 小时前AI 评分33
实操对比:单神经元 steering 效果远逊于 contrastive-pair control vectors
实操对比:单神经元 steering 效果远逊于对比对控制向量
AI 导读
开发者 lumpenspace 分享模型行为可控性的实操经验:单神经元 steering 和 SAE 在连贯性、一致性维度的实际效果,都远不如 contrastive-pair control vectors。该对比为模型行为调控实践提供参考。
来源:AGI Hunt · agihunt.info