TinyML
Machine Learning für eingebettete Systeme
Jens Siebert (@jens_siebert)
IoT Hessen, 25. November 2020
https://www.slideshare.net/JensSiebert1
Über mich
• Senior Software Developer bei
doks.innovation in Kassel
• Drohnen-Steuerung, Computer
Vision, Architektur
• Maker, 3D-Drucker, Nerd
Künstliche Intelligenz
Künstliche Intelligenz
Künstliche Intelligenz
KI vs. Machine Learning vs. Deep Learning
Künstliche Intelligenz
Machine Learning
Deep Learning
Klassische Algorithmen vs. Deep Learning
Modell
Architektur
Modell
RegelnDaten Ergebnis
Trainings-Daten
Regeln
Ergebnis
Daten
Training Inferenz
Deep Learning – Neuronale Netze
∑
w1
x1
⍴w2
x2
wn
xn
Eingaben Gewichte
Übertragungs-
funktion
Aktivierungs-
funktion
Ausgabe
o
𝑜 = 𝜌
𝑖=1
𝑛
𝑥𝑖 𝑤𝑖
.
.
.
Deep Learning – Neuronale Netze
i1
x1
i2
x2
i3
x3
h11
h12
h13
h14
h15
h21
h22
h23
h24
h25
o1
o2
Input-Layer Hidden-Layer(s) Output-Layer
Überwachtes Lernen
i1
x1
i2
x2
i3
x3
h11
h12
h13
h14
h15
h21
h22
h23
h24
h25
o1
o2
l1
l1
l2
l2
𝐸 =
1
2
𝑖=1
𝑛
(𝑙𝑖 − 𝑜𝑖)2
Optimizer
wli
Training & Deployment
Datensatz
aufnehmen
Modell-
Architektur
entwerfen
Modell trainieren
Ergebnisse
evaluieren
Modell
konvertieren &
optimieren
Code für Inferenz
entwickeln
Deployment-
Paket bauen
Deployment
TensorFlow – Frameworks für Deep Learning
TensorFlow
• Training + Inferenz
• Client + Server
• GPU Beschleunigung
(CUDA)
• C++/Python + Language
Bindings
TensorFlow.js
• Inferenz (+ Training)
• Client (Browser) + Server
(Node.js)
• GPU Beschleunigung
(WebGL oder CUDA)
• JavaScript
TensorFlow Lite
• Inferenz
• Mobile + eingebettete
Systeme
• C/C++
Tensoren…
𝑅𝑎𝑛𝑔 0 = 1
𝑅𝑎𝑛𝑔 1 =
1
2
𝑅𝑎𝑛𝑔 2 =
1 2
3 4
Demo Time!
Die web-basierte TinyML-IDE
Literatur
Vielen Dank!
https://www.tensorflow.org/lite/microcontrollers
https://github.com/tensorflow/tensorflow/tree/master/tensorflow/lite/micro/examples
https://www.edgeimpulse.com
https://tinymlbook.com
Slides: https://www.slideshare.net/JensSiebert1
Code: https://bitbucket.org/jenssiebert/iotkstinyml
Twitter: @jens_siebert

TinyML – Machine Learning für eingebettete Systeme