跳到正文
AGI Hunt· PierceLilholt·· 3 小时前AI 评分22

PierceLilholt:不敢回答的 AI 是被压制而非对齐

「不敢回答的 AI 不是对齐,是被压制」引讨论

AI 导读

PierceLilholt 发文称,不敢回答问题的 AI 并非真正对齐(aligned),而只是受到压制(restrained)。这一观点针对模型安全护栏过度收紧的常见批评,认为厂商不应以拒绝回答替代价值对齐。

来源:AGI Hunt · agihunt.info