Arnaud Bertrand 审视中国哲学视角下的 AI 及其人类价值争议
Arnaud Bertrand 审视中国哲学视角下的 AI,呈现两种对人类与 AI 关系的担忧:一种认为将 AI 与人类价值观对齐可能是“自杀式错误”,另一种则担心人类被“机器化”。
Arnaud Bertrand 审视中国哲学视角下的 AI,呈现两种对人类与 AI 关系的担忧:一种认为将 AI 与人类价值观对齐可能是“自杀式错误”,另一种则担心人类被“机器化”。
Dario Amodei 表示,Anthropic 追求“race to the top”有助于提升 AI 安全,并列举了9项带来“substantial costs”的安全决策。他还承认曾不当处理一份 AI 法案草案。
Demis Hassabis预计AGI将在未来两到三年内出现,比他在2026年早些时候提出的三到五年预测更早。他同时讨论了AI在科学研究领域的潜力。
民主党人可能借今年11月中期选举加强对AI公司的国会审查,重点涉及数据中心税收抵免、网络攻击、前沿模型安全和就业影响。支持AI监管的组织上周已在摇摆选区众议院竞选中投入首轮400万美元广告,但各党尚未就AI监管形成广泛共识。
JB Pritzker 认为,AI既可能帮助人类活到100岁,也可能带来类似核武器的生存威胁。作为伊利诺伊州州长,他主张政府更积极地应对 AI 带来的数据中心扩张、隐私侵犯与反垄断问题,并审视政府、企业及选民之间正在发生的政治重塑。
CoreWeave的债务问题正引发投资者对AI基础设施建设融资风险的关注。文章指出,截至第二季度,公司欠款超过350亿美元,同时拥有1037亿美元剩余履约义务,其中约40%将在2028年到期。CoreWeave对Microsoft、OpenAI等大客户的依赖支撑其偿债能力,但相关担忧已带动Oracle等其他AI基础设施相关公司的股票和债券承压。
OpenAI CEO Sam Altman 上周向员工描述了业界讨论的三种 AI 安全发展终局,其中一种是由单一公司“熔掉其他所有公司的 GPU”。一条路径是建立类似国际原子能机构的国际组织来执行安全标准,Altman 似乎支持该方案;另一条路径是合并所有 AI 实验室,以单一机构安全开发新 AI。特朗普政府同期开始建立首套监管“超级智能”开发者的制度。
Apple 预告下周发布新产品,MacBook Pro 可能首次加入触摸屏,成为其首款触摸屏笔记本电脑。触摸屏笔记本已约占笔记本电脑销量的五分之一;在 John Ternus 接任 CEO 后,Apple 似乎正拓展折叠 iPhone、智能显示屏等此前忽视的产品类别。
World Mechanics CEO Sonia Joseph 认为,世界模型与机制可解释性是推动 AI 应用于物理世界的关键。她在最新一期 AI Deep Dive 中指出,两者实为同一问题的两面,可能推动 AI 在医疗、制造等领域发挥作用。
OpenAI 正面临“Pacing 2.0”难题:如何为 AI 发展设定合理节奏,并协调前沿实验室共同推进安全开发。CEO Sam Altman 上周向员工讲解了三种行业方案,包括设立类似国际原子能机构的国际组织、合并前沿实验室,以及让一家实验室领先并摧毁其他实验室 GPU,但每种方案都存在重大问题。
Hugging Face 政策主管 Irene Solaiman 表示,嵌入式 AI 评估器不会成为解决模型评测难题的简单方案。她指出,当前评测的可复现性、跨测试比较和行业标准化仍不足,开放权重有助于复现结果。随着评测从模型扩展到 harness 与智能体,相关评测成本高昂且仍在发展。
纽约市长Zohran Mamdani周一晚在People's AI Assembly呼吁纽约居民抵抗AI不可避免取代就业、侵蚀儿童心智与尊严的叙事,并要求政府追究AI公司责任。他上个月下令禁止中小学使用AI,夏季还推出政策,要求房东、经纪人和房产平台明确披露房源图片或视频是否由AI制作。他同时批评联邦政府缺乏AI限制,并主张建立重视公共问责的治理框架。
Figma 联合创始人 Dylan Field 表示,MCP 仍有较大改进空间,并认为该协议当前更有利于前沿实验室。Figma 在印度首场 Config 大会上宣布 20 个新的 MCP 合作伙伴,包括 Amp、ClickUp、Dia、Junie、Linear、Meta Muse、Mistral、Notion、OpenCode 和 Sarvam Agents。
Amulya Vishwanath 表示,Physical AI 正处于“LEGO 时代”,机器人基础软件和积木式组件正被重新设计,机械手、执行器及通用和专用机器人持续构建。她认为行业仍需时间整合这些模块,而连接顶尖人才将成为创业公司的关键护城河。
Meta Platforms Inc. 即将公布财报,为投资者检验陷入困境的 AI 交易提供机会。投资者对 AI 交易的担忧升温,财报结果可能缓解部分焦虑,也可能进一步加剧市场恐惧。
36氪AI测评于10月16日在苏州举办“从Personal Agent到灯塔工厂”社区活动,四位嘉宾围绕Agent、制造业AI、企业落地与个人学习展开分享。企业AI项目需先明确业务问题,再推进数据治理、流程接入、结果复核与持续复盘,制造领域则应以实际业务价值而非技术系统作为评估标准。
一名即将成为父亲的程序员在 AGI 时代重新思考应教孩子什么,以及教育存在的目的。他借 Neil Postman 的观点指出,教育会因捐赠、声望和照看孩子等现实力量延续,并随时代调整用途。AI 智能体及其工具循环正让“善用任意资源解决问题”的能力趋于完善,他也主张让孩子共同参与塑造教育目的。
澳网正通过把“一分大满贯”落地中国、深化本地运营与合作伙伴布局,持续加码中国市场。该赛事预选赛覆盖杭州、北京、上海、深圳、成都,中国是除澳洲本土外唯一落地的国际市场;AO26在中国累计观看时长达1.265亿小时,独立转播观众为3亿到4亿,社交媒体粉丝达650万。
文章认为,开源MCP框架REA已能通过自然语言驱动AI编码代理分析应用行为、调用链和原生二进制,体现代码编写与逆向工程能力的自动化。REA短期获得GitHub 16+万star,文章据此指出工程师更稀缺的能力正转向需求判断、架构权衡、性能优化和安全审计。
贝壳公益与《人物》在北京举办“新世界,老朋友——银龄生活主题沙龙”,并发布同名别册《新世界,老朋友——AI时代银龄生活观察》。别册强调,AI虽能提升老年人的便利与照护效率,却无法替代人际陪伴、尊严与爱。截至2026年9月,“我来教您用手机”已覆盖142座城市,服务超182万人次。
科沃斯 CEO 钱程在访谈中讲述其作为企二代接班人的经历,以及科沃斯在德国市场拓展、企业经营和AI浪潮下的思考。他回顾担任CEO时的感受、父亲与儿子的传承,并分享自己内心的追寻。
Hugging Face CEO Clem Delangue 表示,Netflix 纪录片“AI Gone Rogue”对 OpenAI 智能体攻击事件的描述并不准确。Delangue 认为影片把技术系统拟人化并强化末日叙事,且未提及隔离监控缺失、闭源模型安全策略阻碍防御,以及团队使用开源模型应对攻击等细节。
SF Compute CEO Evan Conrad 介绍公司如何建设算力交易市场,通过物理交付为买方提供可用 GPU 算力,并协调不同 GPU 代际、存储、网络和软件配置。当前约 5% 的总容量已进入订单簿,公司还支持客户即时细分 InfiniBand fabric,以实现数据中心资源的可编程调度。
Ethan Mollick 以新书《Co-Existence》发布为节点,用图表复盘自《Co-Intelligence》出版以来 AI 的进展。已有 180 个模型超过 GPT-4 发布时的水平,其中 19 个可在现代智能手机运行;METR 测得 AI 可完成的人类工作时长从 4 分钟增至 17 小时,GPQA 获得正确答案的模型使用成本则从 30 美分降至 0.04 美分。
企业 AI 的经济学正从 token 与 GPU-hour 成本,转向衡量每项有效业务成果的综合成本。HPE Private Cloud AI 通过调度、模型选择、GPU 分区与缓存管理提升利用率,并提供 90-day 部署支持;HPE 委托的独立测试显示,高利用率的多工作负载平台每 token 有效成本低于反复租用同等容量,但结果会随工作负载而变。
TripleTen 调查显示,AI 在不同行业的采用速度差异明显,金融业领先于医疗和教育,为非科技行业提供了技术扩散路径。79% 的受访者被要求学习至少一项新技能,但仅 30% 的管理者认为必须判断 AI 输出正误。由员工主导的 AI 创新中有 88% 最终成为公司标准实践,而医疗与教育从业者去年自付培训费为 0 的比例分别达 45% 和 42%。
Simon Willison 转引 Jeremy Scheff 对编程智能体冲击职业程序员乐趣的观察:解决棘手逻辑谜题曾是编程最核心的乐趣,如今这种成就感正在流失。对于乐于搭建可用系统、却不太在意所解决问题的程序员,LLM 仍是一项持续带来价值的礼物。
《硅谷101》邀请三位一线研究者讨论 GPT-6 Astra 对 Agent、机器人和 AI 制药的影响。节目分析个人 Agent 的商业化与获客、机器人规划及数据标注,并指出 AI 制药仍受实验完成度、湿实验验证和数据积累限制。
Colin and Samir 本周让 8 家创作者企业同台对比,分析打造优秀创作者企业的关键。赛事涵盖 Feastables、Long Weekend、Crunch Labs 等企业的两两对决、半决赛和冠军赛,并总结相关经验。
MIT Technology Review 分析称,AI 智能体正成为独立于人类和传统机器人的第三类网络访客,平台对它们的限制可能扩大影响。OpenAI 的 Dots 和 Meta 的 Muse 推动应用普及,Muse 首月下载量达到 500 万次,智能体网络流量从 8 月到 9 月增长至 3 倍。
Goodfire 研究员 Nick Cammarata 认为,研究者可能以错误方式看待神经网络,LLM 的内部机制或比此前预想的更容易理解和控制。他以 Inception v1 中同时响应汽车和猫的神经元为例,提出两者共享 V 形特征;不过多位研究者指出,这仍主要是个人假设,针对现代 LLM 的技术结果尚未发布,也不足以证明可解释性研究已取得重大进展。
Rivian CEO RJ Scaringe 表示,公司正全力开发自动驾驶车辆软件,甚至愿意推迟盈利,自动驾驶技术也将催生不同于现有 SUV 和皮卡的新车型。Rivian 计划年底实现仍需驾驶员监督的“point-to-point navigation”,并为 R2 SUV 开发可在 Uber 上叫车的 robotaxi 版本。
Jack Clark 在 10 月 17 日于曼谷举行的 IMF 会议上发表演讲,认为 AI 已开始推动前沿科学研究,并预示科学进步和经济增长将加速。他以 Humanity’s Last Exam、FrontierMath 和 TheoPhysEval 的成绩变化说明模型科学能力的提升,并主张各国扩建算力、电力、数据中心、实验设备和机器人等基础设施,同时加强人类监督、透明度和审慎治理。
Ben Thompson 认为 Apple Home View 的智能家居场景确有实用价值,Apple 与 LG Electronics、Schneider Electric 合作也延续了 AirPort 式易用与深度整合路线。
作者提出“退相干”概念,指出系统中局部有效却彼此冲突或冗余的模型会随变更累积,使改造成本和意外副作用急剧上升。AI 编码智能体被指可能加快代码产出,却增加代码复杂度和评审负担,削弱已完成工作的增长。文章据此认为,脱离真实世界反馈的递归自我改进难以跨越一致性瓶颈,并警告长期失序可能形成只能依赖智能体维护的系统困局。
十字路口对谈 Treg 创始人 Jason Zhou 和 Founding Engineer 石天鑫,探讨 AI 创业机会如何围绕 Claude Code 和 Codex 生态出现。
Anthony Pompliano 与团队打造了面向独立投资者的 AI CFO Silvia,将每周手动更新的个人财务表转化为 AI 辅助管理工具,并探索税务策略。节目还讨论了这支不足 10 人的团队如何与 AI labs 竞争;完整内容可在 YouTube、Apple 和 Spotify 观看。
Anthropic 可解释性研究员 Emmanuel Ameisen 解读 Claude 等大语言模型内部机制,认为“next-token predictor”低估了模型的规划与思考能力。访谈讨论模型形成概念表征、提前规划多个 token 但不显式说明计划、“J space”与模型自我意识、平滑 scaling curve 和能力突跃,以及可解释性在 AI 对齐与安全中的应用。
晓辉博士在访谈中与任鑫探讨 AI 时代创业路径,认为产品制作成本大幅下降后,应先确认客户需求、卖出订单,再投入开发。任鑫称 AI 让“做东西”的成本贬值约 100 倍,并分享从口号创业、晚关公司到企业 AI 转型及 HRBP 实践的经验。
Meta凭开放权重模型Muse Spark Open重新进入美国开放模型前沿,并与闭源模型Muse Wonder、Muse Wonder Full形成开放与闭源并行的布局。
推荐理由:文章结合性能、许可证与模型格局,分析Meta凭开放和闭源模型重新参与前沿竞争的条件。