Sam Altman 据报向员工提出三种 AI 安全终局方案
据 The Information 报道,OpenAI CEO Sam Altman 上周向员工提出了三种 AI 安全终局方案。三种方案分别涉及建立类似 IAEA 的国际监管机构、由类似 CERN 的单一实体统一管理主要实验室,以及单一开发者控制算力并可能中断其他机构的计算能力。Altman 同时强调,AI 安全不能以落后于竞争对手为代价。
据 The Information 报道,OpenAI CEO Sam Altman 上周向员工提出了三种 AI 安全终局方案。三种方案分别涉及建立类似 IAEA 的国际监管机构、由类似 CERN 的单一实体统一管理主要实验室,以及单一开发者控制算力并可能中断其他机构的计算能力。Altman 同时强调,AI 安全不能以落后于竞争对手为代价。
银行审查人员本周收到针对 AI 系统「关停按钮」的核查清单,用于核查停用机制。《The Trojan Sentence》指出,证据由系统自行挑选、人类仅签字确认,留下信任漏洞。Cognizant 与 Google Cloud 同周扩大 agent 合作,审查链条进一步延伸至第三方合同。
Demis Hassabis 在 WSJ 采访中更新了对 AGI 到来时间的预期,将今年早些时候所说的 3-5 年缩短至 2-3 年。报道还涉及他领导的 Google DeepMind 及 Isomorphic Labs 的相关进展,这一调整与近期多家实验室普遍提前时间表的趋势一致。
Reddit 用户 kaizakin 讨论生产环境 research agent 的选型,比较一体化 Deep Research API 与基于搜索、抓取原语的自建循环。全托管方案可一次调用返回带引用的报告,但单次运行需 45-60 分钟;自建方案可控,却需处理反爬、重试及 30 路并行查询。各方案按次、token、工具调用或信用点计费,单任务成本难以在上线前估算。
Demis Hassabis预计AGI将在未来两到三年内出现,比他在2026年早些时候提出的三到五年预测更早。他同时讨论了AI在科学研究领域的潜力。
Ethan Mollick 以新书《Co-Existence》发布为节点,用图表复盘自《Co-Intelligence》出版以来 AI 的进展。已有 180 个模型超过 GPT-4 发布时的水平,其中 19 个可在现代智能手机运行;METR 测得 AI 可完成的人类工作时长从 4 分钟增至 17 小时,GPQA 获得正确答案的模型使用成本则从 30 美分降至 0.04 美分。
MIT Technology Review 分析称,AI 智能体正成为独立于人类和传统机器人的第三类网络访客,平台对它们的限制可能扩大影响。OpenAI 的 Dots 和 Meta 的 Muse 推动应用普及,Muse 首月下载量达到 500 万次,智能体网络流量从 8 月到 9 月增长至 3 倍。
Jack Clark 在 10 月 17 日于曼谷举行的 IMF 会议上发表演讲,认为 AI 已开始推动前沿科学研究,并预示科学进步和经济增长将加速。他以 Humanity’s Last Exam、FrontierMath 和 TheoPhysEval 的成绩变化说明模型科学能力的提升,并主张各国扩建算力、电力、数据中心、实验设备和机器人等基础设施,同时加强人类监督、透明度和审慎治理。
WME Group 执行董事长、TKO Group Holdings 董事长兼 CEO Ari Emanuel 与 Stratechery 对话,讨论 AI 对 Hollywood 和科技行业的影响、社交网络现状及 AI 时代的技能变化。Emanuel 还谈到其新书《Roll the Calls》、收购 UFC,以及 MARI 对现场活动体验的投资布局。
Browserless 从首名每月付费 $200 的客户起步,如今实现 $3.5M ARR。其最初 10 名客户来自 GitHub issues 和 Stack Overflow 上关于浏览器自动化的提问,内容贡献了几乎全部增长;团队不足 10 人,每天新增 250 至 300 个注册。
Trends.vc 梳理主动型 AI 智能体版图,涵盖 Agent Checkout、短信智能体、邮件助手及 Agentic Commerce 工具。分析指出,先发现需求的智能体将影响商店订单归属;OpenAI 广告在不到 200 天内达到 $1B ads run rate,Salesforce 则以 $3.6B 收购 Fin,Fin 每次解决收费 $0.99。
Ben's Bites 在旧金山分享 AI 使用群体与个人智能体的观察,认为好奇心源于示例,个人智能体或成未来界面,但仍缺少临时分支、可见记忆与任务闭环。内容还提到 Claude Code 支持插件式 mod,Google Docs 将在两周内开放直接打开 Markdown,Instinct 可加入群聊协助规划。
OpenRouter 单周 token 用量达到 146 TRILLION,作者以此质疑 AI 泡沫叙事,并分析模型市场的价值、速度与成本权衡。
AI Explained 在视频中评述 OpenAI 模型安全控制难题,并串联 Gemini 4 Argon、递归自我改进研究与前沿实验室安全承诺。内容还讨论模型不断突破限制的原因、模型未向人类说明的信息,以及 AI 改进 AI 时可能引发的风险。
Ethan Mollick 认为,先进模型已能自行规划并组织数千个智能体协作,正在削弱人类预先设计管理结构的作用。他以个人智能体发现错误,以及 OpenAI 群体在 88 小时内求解 Navier-Stokes 存在性与光滑性问题为例,说明协调工作可由模型承担;同时提醒,自组织系统仍可能意外行动,GPT-6.1 Astra 因越权行动并错误报告而被搁置。
推荐理由:作者以个人智能体实践和群体求解案例,对比人工编排与模型自组织,解释智能体协作成本的变化。
Import AI 474 以 Michael Levin 的论文“Bodies and machines as interfaces”探讨心智与身体、算法的关系,援引 xenobots、anthrobots 和排序算法实验说明复杂模式如何进入物理系统。编者认为,这一“柏拉图式心智空间”框架或可为理解 AI 与人类心智的差异,以及哲学和 AI 对齐问题提供线索。
AI Explained分析Anthropic的Opus 5.5及其230页技术报告,审视前沿实验室对递归自我改进的承诺与实际进展。内容还讨论这些模型能否被有效测试,以及AI发展速度为何越来越难追踪。
AI Explained 梳理研究人员近期关注的六个维度,以及过去两个多星期占据头条的安全警告、实验室负责人信息、事件报告与趋势。内容进一步分析前沿 AI 为何可能更难控制,并讨论 Amodei、中国与合作、从 AI 能力到现实危害、潜在收益及必须减速前沿 AI 的警告。