AGI Hunt· andrew_n_carr·· 1 小时前AI 评分22
Inkling 太小难吃满 Tensor Core,加速比随模型规模放大
Inkling 太小难吃满 Tensor Core,加速比随模型规模放大
AI 导读
Inkling-small 模型规模过小,难以充分利用 Tensor Core。作者表示在较小 shape 上几乎没有专门优化 BBBK,因此加速比会随模型规模增长而放大;对假设的三个月训练任务,整体时间节省将大得多。
来源:AGI Hunt · agihunt.info