跳到正文
热点事件持续更新

cneuralnetwork开源llm-blocks组件库

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开发者 cneuralnetwork 以 Apache-2.0 许可开源发布 llm-blocks,允许通过修改一行代码替换大语言模型中的注意力、FFN 和残差连接等架构模块,同时保留模型其余部分、训练循环与生成逻辑。该库基于 PyTorch 的 nn.Block 组合 GQA、RoPE、SwiGLU 和 RMSNorm,并可输出逐层参数、激活参数量及每 token FLOPs 表格。

AI 根据报道生成 · 50 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    cneuralnetwork 开源 llm-blocks,一行代码替换 LLM 架构组件

    开发者 cneuralnetwork 开源 llm-blocks,允许通过修改一行代码替换注意力、FFN 和残差连接等架构模块,同时保留训练循环与生成逻辑。该库使用 nn.Block 组合 GQA、RoPE、SwiGLU 和 RMSNorm,并可通过 summary() 输出逐层参数、激活参数量及每 token FLOPs 表格。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。