跳到正文
AGI Hunt· andrew_n_carr·· 1 小时前AI 评分22

Inkling 太小难吃满 Tensor Core,加速比随模型规模放大

Inkling 太小难吃满 Tensor Core,加速比随模型规模放大

AI 导读

Inkling-small 模型规模过小,难以充分利用 Tensor Core。作者表示在较小 shape 上几乎没有专门优化 BBBK,因此加速比会随模型规模增长而放大;对假设的三个月训练任务,整体时间节省将大得多。

来源:AGI Hunt · agihunt.info