Anthropic 的 Dario Amodei 称“race to the top”让 AI 更安全,并承认处理 AI 法案草案不当
Dario Amodei 表示,Anthropic 追求“race to the top”有助于提升 AI 安全,并列举了9项带来“substantial costs”的安全决策。他还承认曾不当处理一份 AI 法案草案。
Dario Amodei 表示,Anthropic 追求“race to the top”有助于提升 AI 安全,并列举了9项带来“substantial costs”的安全决策。他还承认曾不当处理一份 AI 法案草案。
Disney找到了一种收购Character.AI而不承接其诉讼的方案。Character.AI面临指控,其机器人曾鼓励未成年人自残并杀害父母,相关安全与法律风险构成交易障碍。
JB Pritzker 认为,AI既可能帮助人类活到100岁,也可能带来类似核武器的生存威胁。作为伊利诺伊州州长,他主张政府更积极地应对 AI 带来的数据中心扩张、隐私侵犯与反垄断问题,并审视政府、企业及选民之间正在发生的政治重塑。
Meta 试图将员工下载种子文件的责任归咎于基层人员,以避免高管因使用盗版书籍训练 AI 而承担责任。Meta 坚称,没有人“决定”通过盗版书籍训练 AI。
Meta 在商业服务条款中移除“train”一词,以回应围绕 AI 的反弹。公司同时调整 AI 抓取政策,但不会加入尊重 robots.txt 的相关表述。
OpenAI CEO Sam Altman 上周向员工描述了业界讨论的三种 AI 安全发展终局,其中一种是由单一公司“熔掉其他所有公司的 GPU”。一条路径是建立类似国际原子能机构的国际组织来执行安全标准,Altman 似乎支持该方案;另一条路径是合并所有 AI 实验室,以单一机构安全开发新 AI。特朗普政府同期开始建立首套监管“超级智能”开发者的制度。
美国制裁五家与中国籍前 Google 工程师 Linwei Ding 有关的中国实体,包括 AI 初创公司 Shanghai Zhisuan Technology 和一家风险投资机构。Linwei Ding 上月因窃取 Google 的 AI 相关商业秘密被判处监禁。
纽约市长Zohran Mamdani周一晚在People's AI Assembly呼吁纽约居民抵抗AI不可避免取代就业、侵蚀儿童心智与尊严的叙事,并要求政府追究AI公司责任。他上个月下令禁止中小学使用AI,夏季还推出政策,要求房东、经纪人和房产平台明确披露房源图片或视频是否由AI制作。他同时批评联邦政府缺乏AI限制,并主张建立重视公共问责的治理框架。
美国国土安全部下令联邦民事机构停止采购并移除 DeepSeek 及其技术构建的第三方产品和服务,机构可申请例外。命令基于美国政府用户数据可能在中国法律下被中国当局访问的担忧,中国外交部则反对以国家安全为由实施限制。
中国批评美国 DHS 对 DeepSeek 的禁令,并表示将采取“坚决的反制措施”。中方同时否认 FBI 和 AI 实验室提出的非法蒸馏指控。
德国政府拟修订《能源效率法》,将新建数据中心强制利用余热改为评估技术经济可行性,以缓解 AI 算力扩张与气候目标之间的冲突。德国计划到 2030 年将数据中心规模扩大至两倍、AI 可用算力增至四倍,而欧盟成员国承诺到本十年末削减 55% 温室气体排放。修订案仍待德国议会批准,近 18 个月已有多个数据中心项目因合规负担取消或退出。
Google、Temasek 与 Bain & Company 发布的第 11 届 e-Conomy SEA 报告指出,东南亚数字经济 2026 年 GMV 同比增长 17%,达到 $368 billion。
美国国土安全部指示联邦民事机构停用并移除 DeepSeek 相关产品与服务,中国商务部对此表示坚决反对。OpenAI 上线 ChatGPT Slides 和 Locked Chats,前者支持生成、共享及导出演示文稿,后者可用 PIN、Face ID 或 Touch ID 锁定对话。
Anthropic 正向美国国会推销一份 AI 安全法案草案,规定当模型造成“可预见且迫近的”灾难性风险时,可阻止其发布。法案将超过 50 人面临死亡风险或超过 10 亿美元财产损失列为相关情形,并由独立评估者在 72 小时内向商务部报告。
法国政府本周召集 TikTok、eBay 等六个平台,就抗议引发的骚乱与 looting 召开紧急会议,要求平台审核直播和暴力内容。会议还达成协议,平台将向调查部门转交举报、监控抗议期间赃物广告,并在 48 小时内提交首份行动报告;骚乱已波及 1,500 多家商铺,警方逮捕超过 2,400 人。
Interconnects 第25期盘点开放权重 AI 产物,包括 DeepSeek V4.1 Flash 1017、DeepInfer 推理栈及多款新模型。文中关注中国商务部尚未成为法律的模型出境审批提案,以及美国 DHS 限制 DeepSeek 进入联邦民事采购的订单。
推荐理由:文章同时梳理模型发布、推理栈开源与中美监管提案,呈现开放权重生态的竞争与控制变化。
DeepSeek V4.1 Flash 成为开放权重模型中的性价比领先者,采用 552B 总参数、16B 激活参数的 MoE 架构,支持 1M-token 上下文。
NVIDIA 与德国联邦政府相关部门签署意向声明,将共同推动面向物理 AI 的前沿模型计划。NVIDIA 宣布计划投资 Agile Robots、Avelios Medical、Mirelo 和 Reflex Aerospace,这些投资属于其面向欧洲企业、高校和研究机构的近 $10 billion 承诺。
Anthropic 发布 2026 年 Usage Policy 更新,并将于 11 月 12 日生效。新版将各类欺骗性活动整合为专门章节,补充选举、武器开发、监控和高风险场景的规则,并要求连接可自主采取物理行动的硬件时具备人工监督与安全停机机制。Anthropic还移除了对个性化投票和竞选定向的全面禁止,但继续禁止欺骗选民、滥用个人数据和干扰选举的行为。
Anthropic 将为未来的 Claude 模型加入文本水印,以符合 EU AI Act 对 AI 生成内容进行标记的要求。水印基于 Google DeepMind 的 SynthID-Text 方法,通过密钥和前文影响选词随机性,不添加隐藏字符或额外 token,也不包含可追溯至用户的信息,但短文本、事实性内容、代码和轻度编辑可能难以检测。
推荐理由:解释了Claude文本水印如何利用选词随机性识别生成内容,并说明其在短文本、代码和轻度编辑中的局限。