• 本文
• リロード
• 差分
• バックアップ
• 名前変更
• リファラ
• 新規ページ
• 編集

llama.cpp

llama.cpp/設定

Top / llama.cpp / 設定

--n-cpu-moe

• keep the Mixture of Experts (MoE) weights of the first N layers in the CPU

--cpu-moe?

• keep all Mixture of Experts (MoE) weights in the CPU