• 本文
• リロード
• 差分
• バックアップ
• 名前変更
• リファラ
• 新規ページ
• 編集

LLaMA

Llama 2

Top / Llama 2

https://ai.meta.com/llama/

https://llama.meta.com/llama2/

モデル

• https://github.com/meta-llama/llama/blob/main/MODEL_CARD.md

  	GPU時間(h)
  Llama 2 70B	1720320 (196年)
  Llama 2 13B	368640 (42年)
  Llama 2 7B	184320 (21年)

トレーニング

• NVIDIA A100 80GB

モデル

• 	Llama2?	7B/13B/70B
  	Llama2-hf?	4bit 7B/13B/70B
  Llama-2-Chat?	Llama2-chat?	7B/13B/70B
  	Llama2-chat-hf?	4bit 7B/13B/70B

速度

• https://twitter.com/junrushao/status/1681828398841364481
• 7 tok/sec on Apple M2 Max?
• 9.8 tok/sec on Apple M2 Ultra
• 13 tok/s on an A100.

関連

• Code Llama

関連

• Youri 7B?