LessWrong探讨以类别禁令界定neuralese

Linch在LessWrong发文主张，用“类别式禁令”而非设定阈值X的“阈值式定义”来界定neuralese，以限制不应出现的内部推理形式。 他称，自然语言是标准Transformer加思维链循环中的递归门控，只有使用neuralese进行递归才算真正的neuralese，同时仍需重视思维链的可监控性。他还根据评论称，OpenAI安全人员似乎更推崇阈值式定义；这些均属于作者提出的治理观点与观察，并非已形成共识。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。