• 本文
• リロード
• 差分
• バックアップ
• 名前変更
• リファラ
• 新規ページ
• 編集

Pulsar2/モデル

Pulsar2/LLM

Top / Pulsar2 / LLM

• https://pulsar2-docs.readthedocs.io/en/latest/appendix/build_llm.html

変換

• This chapter introduces basic operations for converting models(*.safetensor? or pytorch_model.bin?) from Huggingface? into .axmodel using the pulsar2 tool.

対応

• Llama 2、Llama 3、Llama 3.2
• TinyLlama-1.1B
• Qwen1.5、Qwen2、Qwen2.5
• Phi-2?、Phi-3
• MiniCPM、MiniCPM-V 2.0?
• SmolLM?
• ChatGLM3
• OpenBuddy

変換

• pulsar2 llm_build

ModelZoo?

• ax-llm
• https://drive.google.com/drive/folders/1hJEt9BHT2mTUZGzYhYTrH-ZSeCU0r7mB

Baidu

• AX650N

  qwen2.5-3b-prefill-ax650.zip	3.24GB
  qwen2.5-1.5b-prefill-ax650.zip	1.76GB
  qwen2.5-0.5b-prefill-ax650.zip	670MB
  openbuddy-1b-ax650.zip	1.51GB
  llama3.2-3B-prefill-ax650.zip	3.51GB
  llama3.2-1B-prefill-ax650.zip	1.51GB

• AX630C

  qwen2.5-coder-0.5b-ax630c?.zip	639.4MB
  qwen2.5-0.5b-prefill-ax630c?.zip	636.9MB
  qwen2.5-0.5b-prefill-512-ax630c?.zip	652.3MB
  qwen2-1.5b-prefill-ax630c?.zip	1.65GB
  qwen2-0.5b-prefill-20e?.zip	638.9MB
  qwen2-0.5-prefill-512-ax630c?.zip	650.4MB
  openbuddy-1b-ax630c.zip	1.42GB
  llama3.2-1B-prefill-ax630c.zip	1.42GB
  internvl2-1b-ax630c?.zip	930MB

関連

• pulsar2 llm_build
• ax-llm
• ax-llm-build