AGI Hunt· Sauers_·· 3 小时前AI 评分35
Anthropic 可解释性演示:激活 tiny 神经元后模型自称 small
Anthropic 可解释性演示翻车:激活"tiny 神经元"后 AI 念叨自己很小
AI 导读
Anthropic 展示了一组神经元激活实验输出,激活“tiny neuron”后,模型开始自称 small,并配文“I'm here to help you get smaller”。再叠加 cat、soldier、pirate、wizard、DJ 等不同神经元,模型输出会融合出“small 的猫咪”“small 的魔法生物”等组合人设。
来源:AGI Hunt · agihunt.info