跳到正文
AGI Hunt· burkov·· 5 小时前AI 评分46

Burkov「语义老虎机」实验:无关措辞如何左右 LLM 的探索—利用平衡

「语义老虎机」实验:无关措辞即可左右 LLM 的探索-利用平衡

AI 导读

Burkov 介绍了一项「语义老虎机」实验,测试无关措辞能否影响 LLM 在探索新选项与重复已知成功之间的平衡。实验用 3 个奖励不同且初始未知的选项,在抽象、农业和服装推荐设定下测试 3 个语言模型,发现措辞语义会系统性引导智能体走向更好或严重错误的决策。

来源:AGI Hunt · agihunt.info