AGI Hunt· yacineMTB·· 2 小时前AI 评分35
“模型育种”实验开场:组合特定神经元能让 Qwen 自认是饼干怪
「模型育种」实验开场:组合特定神经元能让 Qwen 自认是饼干怪
AI 导读
网友 treetowntree 对 Qwen 内部神经元开展“育种”实验,发现某些神经元会影响模型行为,组合后还可让 Qwen 坚信自己是饼干怪(Cookie Monster)。前 Tesla 工程师 yacineMTB 将其评价为“model breeding experiments have begun”,相关配图则以恶霸犬血统梗调侃模型“配种”。
来源:AGI Hunt · agihunt.info