最終更新:2025-01-19 (日) 04:00:47 (63d)  

Llama 3.1
Top / Llama 3.1

2024/07/23

https://ai.meta.com/blog/meta-llama-3-1/

  • Llama 3.1 8B?
  • Llama 3.1 70B?
  • Llama 3.1 405B?

VRAM

推論

  • Model SizeFP16?FP8INT4?
    Llama 3.1 8B?16 GB8 GB4 GB
    Llama 3.1 70B?140 GB70 GB35 GB
    Llama 3.1 405B?810 GB405 GB203 GB