最終更新:2025-02-09 (日) 12:16:11 (38d)
OnnxStream
Top / OnnxStream
https://github.com/vitoplantamura/OnnxStream
メモ
- OnnxStream は、ONNX Runtime よりも 55 倍も少ないメモリを消費し、レイテンシは 50% ～ 200% しか増加しません
- Raspberry Pi Zero 2 (512MB)で動作
