跳到正文
  1. Apple Machine Learning Research78

    Apple 使用 MLX 与 Thunderbolt RDMA 在 Mac Studio 上进行本地及分布式 LLM 推理

    Apple 使用 MLX v0.30.1 和 Thunderbolt 5 RDMA 在 Mac Studio 集群上运行 Muse Spark Open、Mistral Medium 3.5 与 Qwen 3.8,并比较流水线并行和张量并行方案。

    推荐理由:文章提供单机和多机推理方案、配置命令与对比数据,便于评估大模型在 Mac Studio 集群上的部署表现。

  1. IndyDevDan77

    Pi Durable 如何构建可持久化的主动智能体

    该视频拆解 Pi Durable 的主动智能体架构,并演示 JEV 分类器从实时日志中发现生产事故后触发 ON-CALL Pi agent。智能体可跨客户端保持共享状态和持续任务,在调查根因、编写修复后等待人工批准再部署。

    推荐理由:视频通过生产事件触发、持久化状态和人工审批流程,展示了主动智能体的可落地实现方式。

已经到底了