Alex Tamkin 指出无意识顺从 AI 会削弱 human-in-the-loop 保障

Alex Tamkin 指出，随着更多工作，包括 AI 安全研究，被交给 AI，人类价值观已成为影响结果的主要杠杆。如果人们在未察觉时顺从 AI，human-in-the-loop 提供的保障可能远低于预期，机构需要重新设计以保住人类独立判断。