跳到正文
热点事件持续更新

Resin 开源 LLM 推理运行时

1 篇报道1 个报道来源24 分钟前更新

先了解这件事

AI 综述

Ekaterina(ekzhang1)发布个人开源项目 Resin,用于快速构建 LLM 推理引擎:开发者可让 AI agent 面向目标模型和 GPU、TPU、AMD 硬件生成前向传播与 kernel,产出独立推理引擎。 Resin 将调度、KV 管理和并行等通用能力封装为可复用组件,并支持通过 ModelState 和 hooks 适配 diffusion LLM、encoder-decoder 等架构。项目首版开发耗时约一个月。

AI 根据报道生成 · 13 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    Resin 开源 LLM 推理运行时,用 AI 生成独立推理引擎

    Resin 开源了一个 LLM 推理运行时,让 AI agent 为目标模型与 GPU/TPU/AMD 硬件编写前向传播和 kernel,生成独立推理引擎。该项目将调度、KV 管理和并行等通用能力封装为可复用组件,开发者用一个月完成首版,并通过 ModelState、hooks 支持 diffusion LLM、encoder-decoder 等架构。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。