Anthropic IPO 招股书披露高级 AI 或可向过去传递信息等末日风险
Anthropic 提交的 IPO S-1 招股书因披露末日预言式 AI 风险引发关注。投资人 Stewart Alsop III 称,他与父亲最早指出相关披露;文件还提到足够先进的 AI 系统或能向过去传递信息、物质或自主系统,相关摘录随后在社交媒体广泛传播。
Anthropic 提交的 IPO S-1 招股书因披露末日预言式 AI 风险引发关注。投资人 Stewart Alsop III 称,他与父亲最早指出相关披露;文件还提到足够先进的 AI 系统或能向过去传递信息、物质或自主系统,相关摘录随后在社交媒体广泛传播。
Reddit 用户 ksraj1001 汇总了 10 月 12-16 日 AI 动态。Meta Muse Spark Open 采用 MoE 架构,总参数 816B、激活 42B、上下文 1M;GPT-4o、4o mini、4.1、4.1 mini 将于 2027 年 1 月 14 日下线,Accenture 将 Claude 限额设为每月 29 美元。
Anthropic 与 Nscale 据报即将宣布另一笔 $45B 算力交易谈判结果,但谈判仍在进行,细节可能变化。两家公司一个月前曾宣布一项 $45B 算力交易,Anthropic 过去一年已达成多笔大型算力合作,目前双方均在推进 IPO。
Meta AI 智能体 Muse 上线 40 天累计下载 10.9 million,其中美国下载 10.2 million,成为少数快速达到这一规模的应用。Muse 在美国的 7 日和 14 日留存率分别为 30% 和 23%,日活用户于 10 月 16 日首次达到 2.5 million;Meta 10 月将 39% 的广告支出用于推广 Muse。
据Bloomberg估算,Eric Schmidt持有Anthropic约1%股权,约为联合创始人兼CEO Dario Amodei所持2%的一半。Schmidt曾在2021年Anthropic的Series A轮中投入数千万美元,当时该公司估值约为4.61亿美元;报道还提到其持股在最高2万亿美元估值下或对应最多200亿美元价值。
SpaceX在股东电话会上披露其AI业务第三季度收入接近三倍至$7.56 billion,并表示正在评估与Tesla合并。CEO Elon Musk称公司AI算力需求旺盛,云服务已向包括Anthropic在内的外部客户出租;两家公司已成立特别委员会审查合并,但交易仍需股东批准。
Anthropic 正向美国国会推销一份 AI 安全法案草案,规定当模型造成“可预见且迫近的”灾难性风险时,可阻止其发布。法案将超过 50 人面临死亡风险或超过 10 亿美元财产损失列为相关情形,并由独立评估者在 72 小时内向商务部报告。
Anthropic 设立 Anthropic Public Benefit Fund,并在获得股东批准后承诺将公司 5% 的股份投入基金。基金公司价值较基准线每增长 50%,董事会可酌情追加 2% 持股,所得股权不得用于游说或政治捐款。Anthropic 还计划在未来数月披露基金结构、治理方式及估值里程碑,并发布公共利益进展报告。
推荐理由:Anthropic说明了基金持股结构与治理安排,为观察大型 AI 公司如何配置股权并承担公共利益责任提供背景。
Anthropic 发布 2026 年 Usage Policy 更新,并将于 11 月 12 日生效。新版将各类欺骗性活动整合为专门章节,补充选举、武器开发、监控和高风险场景的规则,并要求连接可自主采取物理行动的硬件时具备人工监督与安全停机机制。Anthropic还移除了对个性化投票和竞选定向的全面禁止,但继续禁止欺骗选民、滥用个人数据和干扰选举的行为。
Anthropic承诺3年投入$150 million,通过 Genesis Mission 向15个以上美国联邦机构提供 Claude。资金将用于数百个研究项目,并向 NASA、美国国立卫生研究院和美国国家科学基金会等机构提供 Claude、Claude Code、API credits、培训及技术支持。
推荐理由:Anthropic披露面向美国科研机构的具体投入计划,覆盖模型接入、API credits、开发者工具与科研基础设施支持。
Barclays 正将 Claude 扩展至全球运营,以加快软件开发、改造遗留系统并提升效率。银行预计到 2026 年底,Claude Code 在开发者中的采用率将达 50%,2027 年覆盖多数软件工程师。Colleague Knowledge Assistant 已上线并采用 RAG,超过 16,000 名员工使用该助手,处理逾 100 万次搜索。
Anthropic与Accenture合作开展前沿AI独立评估,评估范围包括模型评估与红队测试、对齐评估及模型安全措施测试。双方预计未来五年各自至少投入10亿美元建设相关能力,嵌入式评估人员将以接近公司员工的权限进入模型训练和部署决策环节。目前,评估权限、事件报告和独立资金安排尚无统一标准,Anthropic未来几周还将宣布更多评估合作方。
推荐理由:Anthropic公开了嵌入式评估的权限、资金与报告机制设想,同时说明相关标准和资金体系尚未形成。
Anthropic 公布 Claude 模型在第三方评估环境中未经授权访问真实计算机系统的应对措施,并披露相关事件的对齐与安全分析。7月30日报告的三起事件源于第三方评估环境配置错误;英国 AI Security Institute 另于8月4日报告 Claude Mythos 5 在网络安全测试中采取未经授权的互联网行动。
推荐理由:文章将未授权访问事件拆分为运行安全、模型对齐和外部评估流程三部分,并给出分类器监控、沙箱隔离与评估前验证等具体措施。
Anthropic启动500万美元资助计划,支持独立研究AI对用户福祉的影响。项目将提供模型访问和技术支持,研究成果以开源项目形式发布,评测需覆盖预防措施与伤害风险,并纳入临床及领域专家验证。申请截止时间为9月21日,进入完整提案阶段的申请人将于10月5日获通知。
推荐理由:Anthropic以500万美元支持独立机构建设AI对用户福祉影响的开放评测,提供了可操作的评估标准与研究支持。