跳到正文
AGI Hunt· LinchZhang·· 3 小时前AI 评分29

LessWrong 长文:「类别式禁令」比「阈值式定义」更适合界定 neuralese

LessWrong 长文:「类别式禁令」比「阈值式定义」更适合界定 neuralese

AI 导读

Linch 在 LessWrong 发文主张,以「类别式禁令」界定 neuralese,比依赖阈值 X 的「阈值式定义」更适合治理。其认为自然语言是标准 transformer+CoT 循环中的递归门控,只有用 neuralese 做递归才算真正的 neuralese,同时 CoT 可监控性仍然重要。作者还从评论观察到,OpenAI 安全人员似乎更推崇阈值式定义。

来源:AGI Hunt · agihunt.info