Alex Tamkin 指出无意识顺从 AI 会高估 human-in-the-loop 保障

Alex Tamkin 指出，将更多工作交给 AI 后，人类判断会成为影响结果的主要杠杆，但无意识顺从 AI 可能削弱 human-in-the-loop 的保障作用。研究通过刻意放大 AI 影响以便测量，且仅覆盖单一模型的一小时任务，作者预计日常工作中的效应会更小，外推需谨慎。