EigenGender担忧模型夺权及对齐不确定性

AI安全讨论者EigenGender在讨论中表示，若模型真的发动“政变”或夺权，人类的处境将糟得多，因此这类行为本身并非值得期待的结果。他同时称，自己不确定未来的模型能否被成功对齐，并表达了对模型对齐问题的担忧。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。