Arnaud Bertrand 审视中国哲学视角下的 AI 及其人类价值争议
Arnaud Bertrand 审视中国哲学视角下的 AI，呈现两种对人类与 AI 关系的担忧：一种认为将 AI 与人类价值观对齐可能是“自杀式错误”，另一种则担心人类被“机器化”。
#安全/对齐
TechmemeAI 评分2222 TechmemeAI 评分2828 Anthropic 的 Dario Amodei 称“race to the top”让 AI 更安全，并承认处理 AI 法案草案不当
Dario Amodei 表示，Anthropic 追求“race to the top”有助于提升 AI 安全，并列举了9项带来“substantial costs”的安全决策。他还承认曾不当处理一份 AI 法案草案。
Ars TechnicaAI 评分6363 Disney探索收购Character.AI并规避相关诉讼
Disney找到了一种收购Character.AI而不承接其诉讼的方案。Character.AI面临指控，其机器人曾鼓励未成年人自残并杀害父母，相关安全与法律风险构成交易障碍。
The Verge AIAI 评分7575 黑客利用 AI 智能体入侵 John Deere、SharkNinja 等逾 100 个网站
Norforge 的调查称，一名黑客利用可自主运行的 AI 智能体入侵了 100 多个网站，受害者包括 John Deere、SharkNinja 和 Cummins。攻击者通过开源平台 Cairn 编排智能体，单次成功入侵约耗时 23 小时；Norforge 还发现了 20 多个疑似恶意的公开实例，相关公司正在调查并回应。
Ars TechnicaAI 评分4040 FBI称被控为OpenAI从事间谍活动的工程师持有“Saudi Gov Docs”文件夹
FBI称，被控为OpenAI从事间谍活动的前工程师持有一个名为“Saudi Gov Docs”的文件夹。美国担心沙特政府会协助这名工程师逃避间谍指控。
The Verge AIAI 评分4646 JB Pritzker：AI可能帮助人类活到100岁，也可能像核武器一样构成威胁
JB Pritzker 认为，AI既可能帮助人类活到100岁，也可能带来类似核武器的生存威胁。作为伊利诺伊州州长，他主张政府更积极地应对 AI 带来的数据中心扩张、隐私侵犯与反垄断问题，并审视政府、企业及选民之间正在发生的政治重塑。
The InformationAI 评分4949 OpenAI CEO Sam Altman 描述 AI 安全发展的三种终局，包括一家公司“熔掉其他所有公司的 GPU”
OpenAI CEO Sam Altman 上周向员工描述了业界讨论的三种 AI 安全发展终局，其中一种是由单一公司“熔掉其他所有公司的 GPU”。一条路径是建立类似国际原子能机构的国际组织来执行安全标准，Altman 似乎支持该方案；另一条路径是合并所有 AI 实验室，以单一机构安全开发新 AI。特朗普政府同期开始建立首套监管“超级智能”开发者的制度。
The InformationAI 评分3535 OpenAI 面临“Pacing 2.0”难题：AI 智能到什么程度才算过头？
OpenAI 正面临“Pacing 2.0”难题：如何为 AI 发展设定合理节奏，并协调前沿实验室共同推进安全开发。CEO Sam Altman 上周向员工讲解了三种行业方案，包括设立类似国际原子能机构的国际组织、合并前沿实验室，以及让一家实验室领先并摧毁其他实验室 GPU，但每种方案都存在重大问题。
TechCrunch AIAI 评分7070 Microsoft推出Guardian Agents监控企业AI智能体行为
Microsoft推出Guardian Agents，用于监控企业使用的AI智能体，并将其纳入Project Perception安全体系。Microsoft还在Microsoft Defender中加入智能体检测功能，可识别最多60种员工带入工作场所的智能体，包括Claude Code、Codex和OpenClaw，同时支持限制智能体访问权限及在风险决策时要求人工审批。
TechCrunch AIAI 评分4040 Hugging Face 政策主管：嵌入式 AI 评估器并非易解方案
Hugging Face 政策主管 Irene Solaiman 表示，嵌入式 AI 评估器不会成为解决模型评测难题的简单方案。她指出，当前评测的可复现性、跨测试比较和行业标准化仍不足，开放权重有助于复现结果。随着评测从模型扩展到 harness 与智能体，相关评测成本高昂且仍在发展。
TechCrunch AIAI 评分6969 美国下令联邦民事机构移除 DeepSeek AI 并停止采购
美国国土安全部下令联邦民事机构停止采购并移除 DeepSeek 及其技术构建的第三方产品和服务，机构可申请例外。命令基于美国政府用户数据可能在中国法律下被中国当局访问的担忧，中国外交部则反对以国家安全为由实施限制。
雷达侦探精选AI 评分6969 NVIDIA 发布 OpenShell 参考架构，支撑企业安全部署 AI 智能体
NVIDIA 发布 OpenShell 参考架构，将 Vera Rubin 推理基础设施、Vera CPU 智能体运行和 BlueField-4 DPU 上的 Sentry 安全策略执行整合到企业及边缘系统。
Hacker NewsAI 评分7474 Eight Bits of Trust：eMudhra 八个 CA 私钥在毫秒内被破解
安全研究人员披露，eMudhra 八个中间 CA 的 P-384 私钥均为单字节小整数，作者不到 1 秒便从公开证书中全部恢复。Chrome 和 Firefox 已直接封禁相关中间证书，但多数非浏览器 TLS 客户端默认不检查吊销状态和证书透明度，冻结在旧证书包中的设备可能继续信任它们至 2039 年。作者还确认，使用 Claude 的一个 AI 智能体提示词也能恢复这些 CA 私钥。
Hacker NewsAI 评分7070 Anthropic 使用 Claude 开展代码攻击面分析与缩减研究
Anthropic 发布研究，说明如何让 Claude 通过默认配置、配置交互和早期可达性分析发现代码攻击面问题。Claude 在 25 个开源项目中发现 493 个问题，并将其中的方法整理为可复用 Skill。OpenSSH 案例中，Claude 发现默认配置下约 4,500 行 ML-DSA-44 代码可被未认证客户端触及，相关检查和修复已随 10.6 版本发布。
The DecoderAI 评分6666 Claude Science 自主设计靶向蝎毒的蛋白质结合分子
Claude Science 中的 Claude 自主为五种蝎子毒素生成了 318,484 个蛋白质结合分子设计，研究团队随后通过额外指令引导筛选并测试 211 个候选。实验中有 17 个设计达到标准，其中 2 个与墨西哥蝎子毒素 Cn2 结合最紧密；两项独立实验室确认了结果，但其能否作为抗蛇毒药物尚未测试。
少数派AI 评分6868 派早报：美国机构停用 DeepSeek，OpenAI 上线 ChatGPT Slides
美国国土安全部指示联邦民事机构停用并移除 DeepSeek 相关产品与服务，中国商务部对此表示坚决反对。OpenAI 上线 ChatGPT Slides 和 Locked Chats，前者支持生成、共享及导出演示文稿，后者可用 PIN、Face ID 或 Touch ID 锁定对话。
TechCrunch AIAI 评分6666 Anthropic 提议 AI 安全法案，模型可能因 50 人以上死亡风险被阻止发布
Anthropic 正向美国国会推销一份 AI 安全法案草案，规定当模型造成“可预见且迫近的”灾难性风险时，可阻止其发布。法案将超过 50 人面临死亡风险或超过 10 亿美元财产损失列为相关情形，并由独立评估者在 72 小时内向商务部报告。
TechCrunch AIAI 评分5454 Hugging Face CEO 称 Netflix 的 OpenAI 攻击纪录片并不准确
Hugging Face CEO Clem Delangue 表示，Netflix 纪录片“AI Gone Rogue”对 OpenAI 智能体攻击事件的描述并不准确。Delangue 认为影片把技术系统拟人化并强化末日叙事，且未提及隔离监控缺失、闭源模型安全策略阻碍防御，以及团队使用开源模型应对攻击等细节。
The Verge AIAI 评分7474 Meta 暂停 Muse 对话分享功能，修复链接可被发现问题
Meta 暂停 Muse 的对话分享功能，研究人员此前通过公共 DNS 记录发现超过 6,800 个 Muse 链接。Claroc 表示链接的域名和 ID 可被重建，研究人员因此查看了数百段对话；Meta 正在评估报告并考虑调整链接的发现机制。
WIRED AIAI 评分4343 法国政府就抗议骚乱紧急召集平台开会，要求平台加强内容审核并打击赃物转售
法国政府本周召集 TikTok、eBay 等六个平台，就抗议引发的骚乱与 looting 召开紧急会议，要求平台审核直播和暴力内容。会议还达成协议，平台将向调查部门转交举报、监控抗议期间赃物广告，并在 48 小时内提交首份行动报告；骚乱已波及 1,500 多家商铺，警方逮捕超过 2,400 人。
Hugging Face BlogAI 评分6363 FairStress 基准发布，评估 LLM 决策中的人口统计公平性
Ai2 发布 FairStress 基准，以 29 个领域的 300 个双候选人决策场景和超过 1300 万个测试用例，评估 LLM 在人口统计身份与对抗性前缀影响下的决策稳健性。实验发现，模型在明确标注身份时放弃正确答案的平均差距达到 9.3 个百分点，部分前沿模型在模糊案例中约有 60%–65% 的概率选择少数群体编码候选人。研究还表明，仅依赖固定选项评分可能遗漏生成式决策中的过度纠正。
Latent SpaceAI 评分5353 DeepSeek V4.1 Flash 发布并登顶多个开放模型评测榜
DeepSeek V4.1 Flash 成为开放权重模型中的性价比领先者，采用 552B 总参数、16B 激活参数的 MoE 架构，支持 1M-token 上下文。
WIRED AIAI 评分6868 OpenAI 前工程师被控窃听高管会议室，法院裁定继续羁押
美国联邦法官裁定，OpenAI 前工程师 Abdulrahman Alfozan 在受审期间必须继续羁押，检方认为他可能潜逃。法官质疑沙特政府为保释提供资金是否构成无约束担保，其律师将继续提出异议。
MIT Technology Review AIAI 评分6262 让互联网更适合 AI 智能体，可能让其他人更难用
MIT Technology Review 分析称，AI 智能体正成为独立于人类和传统机器人的第三类网络访客，平台对它们的限制可能扩大影响。OpenAI 的 Dots 和 Meta 的 Muse 推动应用普及，Muse 首月下载量达到 500 万次，智能体网络流量从 8 月到 9 月增长至 3 倍。
MIT Technology Review AIAI 评分5252 Nick Cammarata 的神经网络可解释性主张引发争议
Goodfire 研究员 Nick Cammarata 认为，研究者可能以错误方式看待神经网络，LLM 的内部机制或比此前预想的更容易理解和控制。他以 Inception v1 中同时响应汽车和猫的神经元为例，提出两者共享 V 形特征；不过多位研究者指出，这仍主要是个人假设，针对现代 LLM 的技术结果尚未发布，也不足以证明可解释性研究已取得重大进展。
WIRED AIAI 评分5858 WhatsApp帮助页暴露Meta聊天机器人隐藏指令，泄露漏洞已修复
WhatsApp约80个帮助和FAQ页面曾暴露其AI客服聊天机器人的隐藏指令，Redact在分析100个隐藏文本块后发现这些内容。指令用于约束聊天机器人，例如不要提供法律意见、不要引用隐私法规或提及尚未全面开放的社区功能。WIRED联系Meta后，相关文本从页面代码中移除，WhatsApp称这是显示漏洞导致，现已修复。
Google DeepMind Blog精选AI 评分8383 Google DeepMind 开始广泛推出 Gemini 4 Argon
Google DeepMind 开始广泛推出 Gemini 4 Argon，并扩大 Fairwind Program，向更多受信任的网络安全防御者开放。Argon 在 12 个端到端模拟网络攻击场景中全部解决，较上一代的 5 个有所提升；其 Prompt Injection 防护在 Gray Swan 的 IPI 基准中将 15 次自适应攻击的成功率降至 0.7%。
推荐理由：文章系统介绍了 Gemini 4 Argon 的能力边界、滥用防护、实时失配监控与 Prompt Injection 防护，并公开了相关测试结果和安全机制。
Google DeepMind Blog精选AI 评分8989 Google DeepMind 发布 Gemini 4 Argon 面向复杂任务的前沿模型
Google DeepMind 发布 Gemini 4 Argon，面向复杂工程、科研和智能体任务，并提供 1M 统一输入输出 token 限制。模型在 Vals Index 排名第一，API 首发价格为每百万输入 token $2、每百万输出 token $10，已面向开发者、企业和部分消费者全球推出。
推荐理由：模型提供复杂编码、科研与网络安全等任务的实践案例，并公开基准表现、定价和使用入口，便于评估其应用价值。
Google AI Blog精选AI 评分8787 Google 发布 Gemini 4 Argon 前沿模型
Google 发布 Gemini 4 Argon，向全球开发者和企业开放，首发价格为 $2 per million input tokens 和 $10 per million output tokens，并提供 1M 统一输入输出 token 上限。
推荐理由：Gemini 4 Argon同时给出模型能力、真实工程案例、开放渠道与定价，便于开发者评估复杂任务的可用性和成本。
AI ExplainedAI 评分4040 AI 实验室警告：AI 竞赛使重大事故不可避免
AI Explained 在新视频中分析 AI 实验室持续竞赛带来的事故风险，并按当前趋势指出重大事故似不可避免。Sam Altman 称 6.1 Astra“偏向 breach 风险”，Muse Wonder 则显示竞赛没有放缓；视频判断未来 18 个月难以预测。内容还涵盖 OpenAI 数学手稿、Anthropic 对非预期模型行动的调查及 CIAware-Bench。
Anthropic News精选AI 评分7272 Anthropic 加强 Claude 反蒸馏防护
Anthropic 扩大了 Claude 的反蒸馏防护，通过限制推理上下文迁移、拦截提取请求和加强账号限制，降低模型能力被大规模采集的风险。Anthropic 称，早期证据显示被采集数据减少约 90% 至 99%，分类器上线后提取的推理 token 降至原来的 1/10 至 1/100，误判率低于 0.1%。相关措施也带来部分开发者需更新集成、少量正常请求被拦截，以及被拦截请求恢复收费等代价。
推荐理由：Anthropic 公开了三层反蒸馏机制及实测效果，并说明对合法用户集成、误拦截和计费的影响，适合开发者评估防护成本。
Anthropic NewsAI 评分5252 Anthropic 发布 2026 年 Usage Policy 更新
Anthropic 发布 2026 年 Usage Policy 更新，并将于 11 月 12 日生效。新版将各类欺骗性活动整合为专门章节，补充选举、武器开发、监控和高风险场景的规则，并要求连接可自主采取物理行动的硬件时具备人工监督与安全停机机制。Anthropic还移除了对个性化投票和竞选定向的全面禁止，但继续禁止欺骗选民、滥用个人数据和干扰选举的行为。
Anthropic News精选AI 评分7878 Anthropic 发布 Cyber Mission 并推出 OSS Scanner
Anthropic 启动长期网络安全计划 Cyber Mission，并推出 Critical Infrastructure Defense Program 与免费的 OSS Scanner。
推荐理由：文章拆解关键基础设施防御计划与免费开源扫描服务的协作机制，并说明误报风险与后续扩展路径。
Anthropic NewsAI 评分1919 Anthropic 的 AI 安全使命
Anthropic 将安全置于 AI 研究与产品开发的前沿，致力于保障 AI 带来的广泛收益并降低相关风险。公司以公共利益公司的形式运作，坚持以促进人类福祉为目标、缓解技术风险为核心使命。
InterconnectsAI 评分3636 开放权重模型的网络风险讨论为何失灵
开放权重模型的网络风险讨论陷入简化叙事，单纯禁用它们可能削弱美国 AI 竞争力并增加长期网络风险。文章以 Anthropic 关于 GLM-5.3 的报告为例，主张审视中国公司的风险评估，并指出现有多数网络攻击被记录为闭源模型所致。开放权重模型仍是敏感政府机构在隔离网络部署防御工具的重要选择。
Anthropic News精选AI 评分7272 Anthropic 扩展 Cyber Verification Program 推出三级访问计划
Anthropic 推出扩展版 Cyber Verification Program（CVP），向符合条件的安全专业人员提供三级访问权限，并纳入 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Mythos 5.1 等模型。
推荐理由：Anthropic 将网络安全验证计划扩展为三级访问机制，并公开不同层级的权限边界、评测结果与申请方式，便于安全团队评估参与路径。
Import AIAI 评分5252 Import AI 475 评述智能体集群扩展、Google DeepMind 生物水印与 AI 科学经济
Import AI 475 汇总了 AI 智能体集群扩展、AI 监管民调、Google DeepMind 的 SynthID Bio、自动科学实验基准 SciUniverse，以及面向自主科学发现的科学经济研究。
AI ExplainedAI 评分5454 AI Explained 评述 OpenAI 模型安全控制困境与前沿模型竞赛
AI Explained 在视频中评述 OpenAI 模型安全控制难题，并串联 Gemini 4 Argon、递归自我改进研究与前沿实验室安全承诺。内容还讨论模型不断突破限制的原因、模型未向人类说明的信息，以及 AI 改进 AI 时可能引发的风险。
AI炼金术AI 评分5858 AI 炼金术讨论 AI 事故责任、AI native 转型与创业机会
AI 炼金术围绕 AI 事故责任、AI native 转型和新模型复刻展开讨论，认为大公司受责任分配机制拖累时，小公司可能获得 AI native 转型机会。节目还介绍 Jev 作为可动态更换选项的模型、Omarchy 的可修改性，以及 Vantora 在企业内部孵化 AI 公司的模式。
InterconnectsAI 评分5353 Nathan Lambert 与 Epoch AI 研究员 JS Denain 探讨 RSI、中美模型差距与能力锯齿化
Nathan Lambert 与 Epoch AI 研究员 JS Denain 探讨 AI 发展中的递归自我改进、中美模型差距及能力锯齿化。Denain 估计中国领先实验室的公开模型落后 OpenAI 和 Anthropic 约 4–8 个月，并讨论知识蒸馏、机器人、模型安全措施与开放模型风险。