7B模型显存速算方法：FP16约14GB，INT4仅3.5GB

cneuralnetwork 分享了判断模型能否装入GPU的简化算法：权重显存约等于参数量乘以位数再除以8。7B模型使用FP16约需14GB，INT8约需7GB，INT4约需3.5GB；实际运行还需为KV cache、激活值和运行时开销预留空间，并受到上下文长度与batch size影响。