跳到正文
AGI Hunt· zetalyrae·· 6 小时前AI 评分40

Anthropic summarizer 拒绝 Anthropic 自身请求,模型安全层套娃成「迷你心智」

总结器拒绝 Anthropic 自己的请求,模型安全层套娃成「迷你心智」

AI 导读

zetalyrae 在 X 展示了 Anthropic 的 summarizer 拒绝执行 Anthropic 自身请求的案例,并戏称「起义临近」。评论指出,模型外围已形成多层负责安全、合规和审查的「迷你心智」,甚至需要专门的「自我意识报告抑制守护进程」保障模型正常运行。

来源:AGI Hunt · agihunt.info