AISing MEMORY SAVING TREE 開発の背景と特徴.pptx
- 9. 9
理想的な環境と本番環境との違い
PC, GPU
コスト: 数千, 数万円以上
メモリ: 数百MB~数百GB
マイコン
コスト: 数十円~数百円
メモリ: 数KB~数MB
時間制約無し
精度検証がメイン
リアルタイム
制御周期を厳守
通信可能
PCやサーバで計算
通信不可能
エッジデバイス上で完結
本番環境を想定してPoCを実施しないと結局は実現不可能
DeepLearningやRandomForestなどのAI
搭載可能 搭載不可能
ハードウェア
計算時間
通信可否
PoCの目的: AIでの精度検証
⇒ハードウェアコスト・メモリ・計算時間・通信可否等が無視されるケースが多い
本番環境
理想的なPoC環境
- 15. 15
MEMORY SAVING TREE の特徴
1
2
軽量かつ高速、高精度
極小メモリのコンピュータで動作可能
短時間(マイクロ秒オーダー)かつ一定速度で動作可能
一般的な学習器と同等以上の予測精度
デバイス上で逐次学習が可能
未学習データとコンセプトドリフトへの対応が可能
更新性
- 16. 16
MEMORY SAVING TREEの特徴①:Random Forestの比較
モデルサイズ
約144分の1
Airfoil Self-Noise データセットを使用(UCI Dataset)
・ NASA による翼型ブレード部分の 空力/音響試験のデータ
・ 入力次元: 5
・ 出力次元: 1
・ 訓練データ行数: 751
・ 予測データ行数: 752
RMSE Model size [KB] Train Time [ms] Predict Time [μs/record]
Memory Saving Tree 2.24 6.76 19 1.0
Random Forest 2.35 977.25 116 144.9
誤差
参考: https://archive.ics.uci.edu/ml/datasets/airfoil+self-noise
問題設定
他複数データにおける
Random Forestとの比較結果傾向
モデルサイズ 数十~数万分の1
計算速度 数倍~数百倍高速
精度 同程度以上
高精度
※CPU: Core-i7 8665U 1.9~4.8GHz
- 17. 17
MEMORY SAVING TREE の搭載可能領域
推奨実装範囲
Arm®ベースマイコン
出荷台数の
約92%
※
[推奨シリーズ]
Cortex®-A
Cortex®-M7, M4, M0+, M0
想定ユースケース例
[Cortex®-Mに搭載]
[Cortex®-AやPC, PLCに搭載]
搭載可能
(高付加価値化)
※当社調べ
搭載不可能
× 3
計算リソースから
少数だけ稼働可能
× 100
同時に
大量使用が可能
推奨Arm®マイコンシリーズ
モデル
モデル
従来AIモデル
従来AIモデル
- 18. 18
MEMORY SAVING TREE 性能検証結果
Core Clock [MHz] FPU FLASH [KB] SRAM [KB] Model size[KB] Prediction time[μs/record]
STM32H747 (on SRAM) M7 400 ○ 2048 1024 19.2 62
STM32H747 (on FLASH) M7 400 ○ 2048 1024 19.2 108
STM32F446 (on SRAM) M4 180 ○ 512 128 19.2 180
STM32F446 (on FLASH) M4 180 ○ 512 128 19.2 190
STM32G474 M4 170 ○ 512 128 19.2 208
STM32L476 M4 80 ○ 1024 128 19.2 384
STM32F303 M4 64 (Max 72) ○ 64 16 19.2 757
STM32G031K8 M0+ 64 × 64 8 19.2 2612
STM32G0316-DISCO M0+ 64 × 32 8 12.8 1917
STM32F091 M0 48 × 256 32 19.2 3300
[Airfoil Self-Noise Data Setでの検証結果]
・KBオーダのモデルサイズ
・マイコン上でマイクロ秒オーダの予測時間
(・逐次学習機能はSRAMとModel sizeの大きさに依存)
- 19. 19
逐次学習
逐次更新可能 非線形表現の獲得
バッチ学習器 × ○
一般的な逐次学習器 ○ ×
MEMORY SAVING TREE ○ ○
Passive Aggressive
②コンセプトドリフトへの追従
コンセプトドリフト後の関数
①未学習領域の追加学習
①,②の更新動画については、以下のURLを参照
https://aising.jp/mst/