最終更新:2024-12-04 (水) 10:31:46 (3d)  

Module LLM
Top / Module LLM

https://docs.m5stack.com/en/module/Module-llm

https://shop.m5stack.com/products/m5stack-llm-large-laguage-model-module-ax630c

Module LLM/使い方

Arduinoのライブラリ

Module LLM/API

Module LLM/システムサービス

StackFlow

  • Module LLM/ユニット
    llm-audio?Audio unit, providing system audio support.
    llm-kws?Keyword detection unit, providing keyword wakeup service.
    llm-asr?Speech-to-text unit, providing speech-to-text service.
    llm-llmLarge model unit, providing AI large model inference service.
    llm-melotts?NPU-accelerated TTS unit, providing text-to-speech and playback service.
    llm-tts?CPU-computed TTS unit, providing text-to-speech and playback service.

Module LLM/解析

Module LLM/Ubuntu

Module LLM/Ubuntu/ディレクトリ構成

Module LLM/Linuxカーネル

Module LLM/ファームウェア

仕様

SoC

  • 1.5W

NPU

  • 12.8 TOPS @INT4

メモリ/ストレージ

  • 4GB LPDDR4 (ユーザー アプリケーションに 1GB、ハードウェア アクセラレーション専用 3GB)
  • 32GB eMMC

周辺

  • 内蔵マイク
  • スピーカー
  • TFストレージカード
  • USB OTG
  • RGBステータスライト

ソフトウェア

モデル

ピン配置

チュートリアル

Module LLM/リポジトリ

機能

  • KWS? (ウェイクワード)
  • ASR (音声認識)
  • LLM (大規模言語モデル)
  • TTS (テキスト読み上げ)

参考