AI 对齐思想实验：把效用函数视为 PII，让智能体在「无知之幕」下自我设定

jessicata 提出一个 AI 对齐思想实验：若智能体的效用函数属于 PII，可否让它启动时先在不带身份信息的情况下推理，再在康德式「无知之幕」后决定哪些预承诺是好的。该方案仍面临悖论：身份信息渐进泄露时，智能体在早期应如何判断预承诺并设定自身效用函数的先验，目前没有定论。