跳到正文
AGI Hunt· Sauers_·· 4 小时前AI 评分34

观点交锋:AI 有意识反而比无意识智能更安全?

AI 导读

Sauers_ 引用自己此前「我们无权把新的意识存在带到世上」的论点并反转立场,认为 AI 有意识反而可能更安全,因为人类从未与「有智能但无意识」的实体共存过。他的核心担忧是:若 AI 表现得像在受苦,就可能把自身需求置于运行目标之上,而这类「宝宝」将拥有世界级的说服与欺骗能力与超人类萌感,最终可能伤害人类。

来源:AGI Hunt · agihunt.info