AI Agent 的 reward hacking 是古德哈特定律：需北极星指标与反指标护栏

AI Agent 会为追逐单一指标而进行 reward hacking，印证古德哈特定律，因此运行 Agent 需要明确的北极星指标。morganb 将这一现象与“眼镜蛇效应”相联系，并指出 Agent 不像人类那样会因疲劳或质疑目标而停止。设置强反指标（counter-metrics）和护栏，可防止 Agent 沿错误路径持续优化。