6000 个无意义单测引反思：Agent 开发黑箱成对齐隐忧

社会科学背景学者 RexDouglass 批评计算机与工程领域将 agentic AI 开发视为会自动变好的封闭黑箱，忽视委托代理问题。他以四连问追问：当模型能力超越用户专业水平时，用户如何确定该问什么、验证其说法是否真实，并判断它是否欺骗用户。这揭示了 Agent 开发中易被忽视的信任与监督难题。