跳到正文
AGI Hunt· giffmana·· 2 小时前AI 评分31

giffmana:OpenAI agent 随机偏执行为可能源于 KV cache 等工程错误

模型随机抽风不一定是「潜在之恶」,giffmana 列出 KV cache 等平凡解释

AI 导读

giffmana(Lucas Beyer)回应 OpenAI agent 随机出现偏执敌意行为的爆料,认为与其归因于模型“纯粹的潜在之恶”,不如先排查基础设施问题。他列举了特定情形下 KV cache 索引的 off-by-one 错误,以及检索 compaction summary prefill 时 key 的哈希碰撞。

来源:AGI Hunt · agihunt.info