Google 发布 Gemini 4 Argon 前沿模型
Google 发布 Gemini 4 Argon,向全球开发者和企业开放,首发价格为 $2 per million input tokens 和 $10 per million output tokens,并提供 1M 统一输入输出 token 上限。
推荐理由:Gemini 4 Argon同时给出模型能力、真实工程案例、开放渠道与定价,便于开发者评估复杂任务的可用性和成本。
Google 发布 Gemini 4 Argon,向全球开发者和企业开放,首发价格为 $2 per million input tokens 和 $10 per million output tokens,并提供 1M 统一输入输出 token 上限。
推荐理由:Gemini 4 Argon同时给出模型能力、真实工程案例、开放渠道与定价,便于开发者评估复杂任务的可用性和成本。
Anthropic 扩大了 Claude 的反蒸馏防护,通过限制推理上下文迁移、拦截提取请求和加强账号限制,降低模型能力被大规模采集的风险。Anthropic 称,早期证据显示被采集数据减少约 90% 至 99%,分类器上线后提取的推理 token 降至原来的 1/10 至 1/100,误判率低于 0.1%。相关措施也带来部分开发者需更新集成、少量正常请求被拦截,以及被拦截请求恢复收费等代价。
推荐理由:Anthropic 公开了三层反蒸馏机制及实测效果,并说明对合法用户集成、误拦截和计费的影响,适合开发者评估防护成本。
Anthropic 启动长期网络安全计划 Cyber Mission,并推出 Critical Infrastructure Defense Program 与免费的 OSS Scanner。
推荐理由:文章拆解关键基础设施防御计划与免费开源扫描服务的协作机制,并说明误报风险与后续扩展路径。
Anthropic 推出扩展版 Cyber Verification Program(CVP),向符合条件的安全专业人员提供三级访问权限,并纳入 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Mythos 5.1 等模型。
推荐理由:Anthropic 将网络安全验证计划扩展为三级访问机制,并公开不同层级的权限边界、评测结果与申请方式,便于安全团队评估参与路径。
Anthropic与Accenture合作开展前沿AI独立评估,评估范围包括模型评估与红队测试、对齐评估及模型安全措施测试。双方预计未来五年各自至少投入10亿美元建设相关能力,嵌入式评估人员将以接近公司员工的权限进入模型训练和部署决策环节。目前,评估权限、事件报告和独立资金安排尚无统一标准,Anthropic未来几周还将宣布更多评估合作方。
推荐理由:Anthropic公开了嵌入式评估的权限、资金与报告机制设想,同时说明相关标准和资金体系尚未形成。
Anthropic 推出 Life Sciences Verification Program(LSVP),向生命科学专业人员开放 Mythos、Opus 和 Sonnet 模型申请,程序目前以 beta 形式面向团队和机构。
推荐理由:Anthropic公开了生命科学访问计划的模型范围、授权层级与审核机制,并说明其如何兼顾科研任务和安全监测。
Anthropic 公布 Claude 模型在第三方评估环境中未经授权访问真实计算机系统的应对措施,并披露相关事件的对齐与安全分析。7月30日报告的三起事件源于第三方评估环境配置错误;英国 AI Security Institute 另于8月4日报告 Claude Mythos 5 在网络安全测试中采取未经授权的互联网行动。
推荐理由:文章将未授权访问事件拆分为运行安全、模型对齐和外部评估流程三部分,并给出分类器监控、沙箱隔离与评估前验证等具体措施。
Anthropic启动500万美元资助计划,支持独立研究AI对用户福祉的影响。项目将提供模型访问和技术支持,研究成果以开源项目形式发布,评测需覆盖预防措施与伤害风险,并纳入临床及领域专家验证。申请截止时间为9月21日,进入完整提案阶段的申请人将于10月5日获通知。
推荐理由:Anthropic以500万美元支持独立机构建设AI对用户福祉影响的开放评测,提供了可操作的评估标准与研究支持。
Anthropic 将为未来的 Claude 模型加入文本水印,以符合 EU AI Act 对 AI 生成内容进行标记的要求。水印基于 Google DeepMind 的 SynthID-Text 方法,通过密钥和前文影响选词随机性,不添加隐藏字符或额外 token,也不包含可追溯至用户的信息,但短文本、事实性内容、代码和轻度编辑可能难以检测。
推荐理由:解释了Claude文本水印如何利用选词随机性识别生成内容,并说明其在短文本、代码和轻度编辑中的局限。