最終更新:2024-12-09 (月) 15:57:28 (69d)  

70B
Top / 70B

LLM

LLM/VRAM

  • パラメータ数形式ビット計算サイズ
    70Bfp323270 * 4280GB
    fp161670 * 2140GB
    int8870 * 170GB
    int4470 * 0.535GB
    GPTQ370 * 0.37526.25GB