最終更新:2024-12-04 (水) 10:31:46 (3d)
Module LLM
Top / Module LLM
https://docs.m5stack.com/en/module/Module-llm
https://shop.m5stack.com/products/m5stack-llm-large-laguage-model-module-ax630c
Module LLM/使い方
Arduinoのライブラリ
Module LLM/API
Module LLM/システムサービス
StackFlow
- Module LLM/ユニット
llm-audio? Audio unit, providing system audio support. llm-kws? Keyword detection unit, providing keyword wakeup service. llm-asr? Speech-to-text unit, providing speech-to-text service. llm-llm Large model unit, providing AI large model inference service. llm-melotts? NPU-accelerated TTS unit, providing text-to-speech and playback service. llm-tts? CPU-computed TTS unit, providing text-to-speech and playback service.
Module LLM/解析
Module LLM/Ubuntu
Module LLM/Ubuntu/ディレクトリ構成
Module LLM/Linuxカーネル
Module LLM/ファームウェア
仕様
SoC
- AX630C
- Dual ARM Cortex-A53 1.2 GHz
- 1.5W
NPU
- 12.8 TOPS @INT4
メモリ/ストレージ
- 4GB LPDDR4 (ユーザー アプリケーションに 1GB、ハードウェア アクセラレーション専用 3GB)
- 32GB eMMC
周辺
- 内蔵マイク
- スピーカー
- TFストレージカード
- USB OTG
- RGBステータスライト
ソフトウェア
モデル
- Qwen2.5-0.5Bがプリインストール
- 同社は、今後のアップデートで、発売モデルの 3 倍のサイズであるより高性能な Qwen2.5-1.5B モデル、および Llama3.2-1B と InternVL2-1B のサポートが追加されると約束している。
- https://www.hackster.io/news/m5stack-adds-large-language-model-support-to-its-offerings-with-the-3-2-tops-llm-module-f0a4e061f0de
ピン配置
- 接続
ピン番号 M5Stack Basic M5Stack Core2 M5Stack CoreS3 15 (TX) G16 (RXD2) G13 (RXD2) G18 (PC_RX) 16 (RX) G17 (TXD2) G14 (TXD2) G17 (PC_TX)