Anthropic 的 Dario Amodei 称“race to the top”让 AI 更安全,并承认处理 AI 法案草案不当
Dario Amodei 表示,Anthropic 追求“race to the top”有助于提升 AI 安全,并列举了9项带来“substantial costs”的安全决策。他还承认曾不当处理一份 AI 法案草案。
Dario Amodei 表示,Anthropic 追求“race to the top”有助于提升 AI 安全,并列举了9项带来“substantial costs”的安全决策。他还承认曾不当处理一份 AI 法案草案。
Anthropic 与 Nscale 据报即将宣布另一笔 $45B 算力交易谈判结果,但谈判仍在进行,细节可能变化。两家公司一个月前曾宣布一项 $45B 算力交易,Anthropic 过去一年已达成多笔大型算力合作,目前双方均在推进 IPO。
Figma 联合创始人 Dylan Field 表示,MCP 仍有较大改进空间,并认为该协议当前更有利于前沿实验室。Figma 在印度首场 Config 大会上宣布 20 个新的 MCP 合作伙伴,包括 Amp、ClickUp、Dia、Junie、Linear、Meta Muse、Mistral、Notion、OpenCode 和 Sarvam Agents。
Meta AI 智能体 Muse 上线 40 天累计下载 10.9 million,其中美国下载 10.2 million,成为少数快速达到这一规模的应用。Muse 在美国的 7 日和 14 日留存率分别为 30% 和 23%,日活用户于 10 月 16 日首次达到 2.5 million;Meta 10 月将 39% 的广告支出用于推广 Muse。
据Bloomberg估算,Eric Schmidt持有Anthropic约1%股权,约为联合创始人兼CEO Dario Amodei所持2%的一半。Schmidt曾在2021年Anthropic的Series A轮中投入数千万美元,当时该公司估值约为4.61亿美元;报道还提到其持股在最高2万亿美元估值下或对应最多200亿美元价值。
Anthropic 与 Citrini Research 使用内部 Claude 模型,自主生成针对五种蝎子神经毒素的蛋白质 minibinder,并测试了 211 种设计。这项工作以 Claude 模型完成候选蛋白设计生成,并在五种蝎子神经毒素场景下评估 211 种设计。
Anthropic 发布研究,说明如何让 Claude 通过默认配置、配置交互和早期可达性分析发现代码攻击面问题。Claude 在 25 个开源项目中发现 493 个问题,并将其中的方法整理为可复用 Skill。OpenSSH 案例中,Claude 发现默认配置下约 4,500 行 ML-DSA-44 代码可被未认证客户端触及,相关检查和修复已随 10.6 版本发布。
Claude Science 中的 Claude 自主为五种蝎子毒素生成了 318,484 个蛋白质结合分子设计,研究团队随后通过额外指令引导筛选并测试 211 个候选。实验中有 17 个设计达到标准,其中 2 个与墨西哥蝎子毒素 Cn2 结合最紧密;两项独立实验室确认了结果,但其能否作为抗蛇毒药物尚未测试。
SpaceX在股东电话会上披露其AI业务第三季度收入接近三倍至$7.56 billion,并表示正在评估与Tesla合并。CEO Elon Musk称公司AI算力需求旺盛,云服务已向包括Anthropic在内的外部客户出租;两家公司已成立特别委员会审查合并,但交易仍需股东批准。
Anthropic 正向美国国会推销一份 AI 安全法案草案,规定当模型造成“可预见且迫近的”灾难性风险时,可阻止其发布。法案将超过 50 人面临死亡风险或超过 10 亿美元财产损失列为相关情形,并由独立评估者在 72 小时内向商务部报告。
Inception AI 发布旗舰模型 Mercury 3,公司基准测试显示其在 12 项测试中的 8 项超过 GPT-6 Luna 和 Claude Haiku 5.5,速度为后者的 4 至 8 倍。
Simon Willison 用编码智能体完成 Battle Drones,将其构建为可在手机和桌面浏览器运行、支持多人对战的 3D 实时策略游戏。项目经过 12 次主要迭代和 321 次由编码智能体完成的提交,主要使用 Claude Code,并加入 6 张地图、随机地图生成器、多种模式及大语言模型对战功能。
Ai2 发布 FairStress 基准,以 29 个领域的 300 个双候选人决策场景和超过 1300 万个测试用例,评估 LLM 在人口统计身份与对抗性前缀影响下的决策稳健性。实验发现,模型在明确标注身份时放弃正确答案的平均差距达到 9.3 个百分点,部分前沿模型在模糊案例中约有 60%–65% 的概率选择少数群体编码候选人。研究还表明,仅依赖固定选项评分可能遗漏生成式决策中的过度纠正。
Ethan Mollick 以新书《Co-Existence》发布为节点,用图表复盘自《Co-Intelligence》出版以来 AI 的进展。已有 180 个模型超过 GPT-4 发布时的水平,其中 19 个可在现代智能手机运行;METR 测得 AI 可完成的人类工作时长从 4 分钟增至 17 小时,GPQA 获得正确答案的模型使用成本则从 30 美分降至 0.04 美分。
ALTK-Evolve 从智能体训练轨迹中提炼行为规则并附加到系统提示词,不更新模型权重即可提升 τ²-bench 客服任务表现。使用 gpt-4.1 时,零售 held-out 任务的 Pass^4 达到 67.5%,在 October 12, 2026 排行榜快照中排名第一;gpt-5.5 在航空任务上的 Pass^4 达到 82.0%,同样排名第一。
AnyLanguageModel 1.0 发布,同时推出 swift-huggingface 1.0 和 swift-xet 1.0,为 Swift 应用提供统一的本地与托管模型 API。
推荐理由:通过同一套 API 串起系统模型、开放权重模型和多家托管服务,开发者可按资源需求选择推理方式并参考迁移指南更新应用。
《硅谷101》邀请三位一线研究者讨论 GPT-6 Astra 对 Agent、机器人和 AI 制药的影响。节目分析个人 Agent 的商业化与获客、机器人规划及数据标注,并指出 AI 制药仍受实验完成度、湿实验验证和数据积累限制。
MIT Technology Review 分析称,AI 智能体正成为独立于人类和传统机器人的第三类网络访客,平台对它们的限制可能扩大影响。OpenAI 的 Dots 和 Meta 的 Muse 推动应用普及,Muse 首月下载量达到 500 万次,智能体网络流量从 8 月到 9 月增长至 3 倍。
播客通过近 20 项真实任务评测 Meta 的 Muse Wonder 模型,发现其擅长智能体、编码、写作和语音任务,但前端设计与视频视觉执行较弱。另一段分享展示 Brooke Lacey 如何用 Claude Code、FFmpeg、Whisper 和 Python,将手机原始录像在约 15 秒内处理为带字幕、跳剪和缩放的竖屏短视频。
Jack Clark 在 10 月 17 日于曼谷举行的 IMF 会议上发表演讲,认为 AI 已开始推动前沿科学研究,并预示科学进步和经济增长将加速。他以 Humanity’s Last Exam、FrontierMath 和 TheoPhysEval 的成绩变化说明模型科学能力的提升,并主张各国扩建算力、电力、数据中心、实验设备和机器人等基础设施,同时加强人类监督、透明度和审慎治理。
Brooke Lacey 展示了使用 Claude Code、FFmpeg 和 Whisper 在本地剪辑 TikTok 视频的工作流,原始手机视频约 15 秒完成编辑。她还介绍如何让 Claude Code 掌握个人跳剪节奏、从评论区挖掘脚本,并以每周发布一次的方式运营短视频账号。
十字路口对谈 Treg 创始人 Jason Zhou 和 Founding Engineer 石天鑫,探讨 AI 创业机会如何围绕 Claude Code 和 Codex 生态出现。
Anthropic 可解释性研究员 Emmanuel Ameisen 解读 Claude 等大语言模型内部机制,认为“next-token predictor”低估了模型的规划与思考能力。访谈讨论模型形成概念表征、提前规划多个 token 但不显式说明计划、“J space”与模型自我意识、平滑 scaling curve 和能力突跃,以及可解释性在 AI 对齐与安全中的应用。
Anthropic 设立 Anthropic Public Benefit Fund,并在获得股东批准后承诺将公司 5% 的股份投入基金。基金公司价值较基准线每增长 50%,董事会可酌情追加 2% 持股,所得股权不得用于游说或政治捐款。Anthropic 还计划在未来数月披露基金结构、治理方式及估值里程碑,并发布公共利益进展报告。
推荐理由:Anthropic说明了基金持股结构与治理安排,为观察大型 AI 公司如何配置股权并承担公共利益责任提供背景。
Anthropic 公告页展示其以安全为前沿的 AI 研究与产品使命,致力于保障 AI 的广泛社会效益并降低相关风险。作为公共利益公司,Anthropic 将确保 AI 效益、缓解其风险作为核心目标;页面同时提供 Claude.ai 与 Claude console 登录入口。
Anthropic 分享提示词技巧,Ben’s Bites 在本期 newsletter 中整理相关内容,并汇总多款 AI 产品动态。文中提到 Gemini 4 Argon 全面开放、Claude Code desktop app 获得设计升级,以及为编程智能体添加文档链接可将任务完成率从 41% 提升至 84%。
Illes 在趋势报告中分析 AI 智能体从私人聊天进入团队频道后的产品格局、创业机会与风险。报告比较了 Slackbot、Microsoft Teams channel agent、Atlassian Rovo、OpenClaw 等方案,并指出团队需要预先确定权限继承、插件审查、模型切换和成员额度上限。文中还提出面向客户支持、付费 Discord 社区及 iMessage 群聊的共享智能体机会。
徐文浩与任鑫在 AI 炼金术长谈中,讨论 OpenAI DevDay、个人助理、AI 视频与 Claude 意识等话题,认为 AI 能完成大量工作,却也让程序员面临更重的验收负担。两人还讨论了中国与美国的个人助理市场差异、产品退出路径,以及用 Codex 处理报销和规划旅行等真实用法。
Ben's Bites作者在文章中讨论 Meta 的 Wonder 与 Wonder Full,并分享使用个人智能体管理订阅和网站的实践。文中称 Wonder medium 和 Wonder Full 都感觉较慢且生成的 UI 质量不佳,作者因此不太可能再次使用;个人使用 Grok Bot 管理业务订阅时,据称每年节省 $6k。
AI Explained 在新视频中分析 AI 实验室持续竞赛带来的事故风险,并按当前趋势指出重大事故似不可避免。Sam Altman 称 6.1 Astra“偏向 breach 风险”,Muse Wonder 则显示竞赛没有放缓;视频判断未来 18 个月难以预测。内容还涵盖 OpenAI 数学手稿、Anthropic 对非预期模型行动的调查及 CIAware-Bench。
Anthropic 扩大了 Claude 的反蒸馏防护,通过限制推理上下文迁移、拦截提取请求和加强账号限制,降低模型能力被大规模采集的风险。Anthropic 称,早期证据显示被采集数据减少约 90% 至 99%,分类器上线后提取的推理 token 降至原来的 1/10 至 1/100,误判率低于 0.1%。相关措施也带来部分开发者需更新集成、少量正常请求被拦截,以及被拦截请求恢复收费等代价。
推荐理由:Anthropic 公开了三层反蒸馏机制及实测效果,并说明对合法用户集成、误拦截和计费的影响,适合开发者评估防护成本。
Ben's Bites 汇总个人智能体热潮下的产品发布、模型更新和工具动态,涉及 ChatGPT 界面式回答、Claude Haiku 5.5 降本及 Google Nano Banana 2.1 上线。作者还分享了智能体权限风险案例,并介绍其用于集中连接其他应用和技能的 Executor v2。
Anthropic 发布 2026 年 Usage Policy 更新,并将于 11 月 12 日生效。新版将各类欺骗性活动整合为专门章节,补充选举、武器开发、监控和高风险场景的规则,并要求连接可自主采取物理行动的硬件时具备人工监督与安全停机机制。Anthropic还移除了对个性化投票和竞选定向的全面禁止,但继续禁止欺骗选民、滥用个人数据和干扰选举的行为。
Anthropic 启动长期网络安全计划 Cyber Mission,并推出 Critical Infrastructure Defense Program 与免费的 OSS Scanner。
推荐理由:文章拆解关键基础设施防御计划与免费开源扫描服务的协作机制,并说明误报风险与后续扩展路径。
Anthropic承诺3年投入$150 million,通过 Genesis Mission 向15个以上美国联邦机构提供 Claude。资金将用于数百个研究项目,并向 NASA、美国国立卫生研究院和美国国家科学基金会等机构提供 Claude、Claude Code、API credits、培训及技术支持。
推荐理由:Anthropic披露面向美国科研机构的具体投入计划,覆盖模型接入、API credits、开发者工具与科研基础设施支持。
Anthropic 的 Partnerships 页面将 AI 研究与产品置于安全前沿,并将自身定位为致力于获取 AI 广泛社会收益、同时降低相关风险的公益公司。页面未提供具体合作伙伴、合作项目或时间信息。
Anthropic 将安全置于 AI 研究与产品开发的前沿,致力于保障 AI 带来的广泛收益并降低相关风险。公司以公共利益公司的形式运作,坚持以促进人类福祉为目标、缓解技术风险为核心使命。
开放权重模型的网络风险讨论陷入简化叙事,单纯禁用它们可能削弱美国 AI 竞争力并增加长期网络风险。文章以 Anthropic 关于 GLM-5.3 的报告为例,主张审视中国公司的风险评估,并指出现有多数网络攻击被记录为闭源模型所致。开放权重模型仍是敏感政府机构在隔离网络部署防御工具的重要选择。
Ben's Bites 在旧金山分享 AI 使用群体与个人智能体的观察,认为好奇心源于示例,个人智能体或成未来界面,但仍缺少临时分支、可见记忆与任务闭环。内容还提到 Claude Code 支持插件式 mod,Google Docs 将在两周内开放直接打开 Markdown,Instinct 可加入群聊协助规划。
Anthropic 推出扩展版 Cyber Verification Program(CVP),向符合条件的安全专业人员提供三级访问权限,并纳入 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Mythos 5.1 等模型。
推荐理由:Anthropic 将网络安全验证计划扩展为三级访问机制,并公开不同层级的权限边界、评测结果与申请方式,便于安全团队评估参与路径。