• 本文
• リロード
• 差分
• バックアップ
• 名前変更
• リファラ
• 新規ページ
• 編集

LLM

Ollama

Top / Ollama

Run Llama 2, Code Llama, and other models. Customize and create your own.

https://ollama.com/

https://github.com/ollama/ollama

Ollama/バージョン

Windows

• タスクトレイに常駐する

動かし方

• ollama run llama2

コマンド

• ollama run?
• ollama pull?
• ollama list
• ollama show?
• ollama create?
• ollama rm?

Ollama/モデル

• https://ollama.com/library

GPU

• https://github.com/ollama/ollama/blob/main/docs/gpu.md

GeForce

• Compute Capability 5.0?+
  • GeForce GTX 750 Ti

Radeon

• ROCm

help

• Large language model runner
  
  Usage:
    ollama [flags]
    ollama [command]
  
  Available Commands:
    serve       Start ollama
    create      Create a model from a Modelfile
    show        Show information for a model
    run         Run a model
    pull        Pull a model from a registry
    push        Push a model to a registry
    list        List models
    cp          Copy a model
    rm          Remove a model
    help        Help about any command
  
  Flags:
    -h, --help      help for ollama
    -v, --version   Show version information
  
  Use "ollama [command] --help" for more information about a command.
  

APIサーバ

• http://localhost:11434