跳到正文
今天10月21日周三1 条
10月20日周二
10月19日周一
  1. Hacker News68

    退相干陷阱:AI 编程为何可能拖慢软件系统演化

    作者提出“退相干”概念,指出系统中局部有效却彼此冲突或冗余的模型会随变更累积,使改造成本和意外副作用急剧上升。AI 编码智能体被指可能加快代码产出,却增加代码复杂度和评审负担,削弱已完成工作的增长。文章据此认为,脱离真实世界反馈的递归自我改进难以跨越一致性瓶颈,并警告长期失序可能形成只能依赖智能体维护的系统困局。

10月18日周日
  1. Lenny's Newsletter / Podcast36

    Claude 等大语言模型如何思考:Anthropic 可解释性研究员 Emmanuel Ameisen 解读 AI 黑箱

    Anthropic 可解释性研究员 Emmanuel Ameisen 解读 Claude 等大语言模型内部机制,认为“next-token predictor”低估了模型的规划与思考能力。访谈讨论模型形成概念表征、提前规划多个 token 但不显式说明计划、“J space”与模型自我意识、平滑 scaling curve 和能力突跃,以及可解释性在 AI 对齐与安全中的应用。

10月17日周六
10月10日周六
  1. Interconnects44

    AI 预计将快速进步,但不会走向通用超级智能

    AI 预计将在未来几年因基础设施与工程能力加速而快速进步,但不会因此迈向通用超级智能。模型可能在几年后成为超人类分布式 GPU 工程师,AI agents 将端到端优化训练与推理流程,带来 10-30% 的服务成本节省,并推动模型智能的有效成本近乎指数下降。作者还预计,预训练研究与 RL 环境质量将在未来持续改善。

10月2日周五
9月28日周一
  1. Import AI36

    Import AI 474:柏拉图式心智空间、太空中的 TPU 与 Zhipu 启动外层 RSI 循环

    Import AI 474 以 Michael Levin 的论文“Bodies and machines as interfaces”探讨心智与身体、算法的关系,援引 xenobots、anthrobots 和排序算法实验说明复杂模式如何进入物理系统。编者认为,这一“柏拉图式心智空间”框架或可为理解 AI 与人类心智的差异,以及哲学和 AI 对齐问题提供线索。

9月22日周二
9月19日周六