Zürcher Fachhochschule
Was denken denkende Maschinen?
WI-Award, Crowne Plaza Zürich, 20.10.2016
Thilo Stadelmann
Zürcher Fachhochschule
2
Was? Wie?  Wohin?
1Was ist passiert?
(Eine kurze Geschichte der letzten Monate)
Zürcher Fachhochschule
3
Zürcher Fachhochschule
4
Zürcher Fachhochschule
5
Zürcher Fachhochschule
6
Zürcher Fachhochschule
7
Zürcher Fachhochschule
8
Generierte Sprache
«aus Texteingabe»
Generierte Musik
«ohne Inhaltsvorgabe»
Zürcher Fachhochschule
9
Zürcher Fachhochschule
10
Zürcher Fachhochschule
11
Zürcher Fachhochschule
12
Zürcher Fachhochschule
13
…und die Liste liesse sich fortsetzen!
Zürcher Fachhochschule
14
…und die Liste liesse sich fortsetzen!
Zürcher Fachhochschule
15
…und die Liste liesse sich fortsetzen!
Zürcher Fachhochschule
16
Was ist passiert?
Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
Zürcher Fachhochschule
17
Was ist passiert?
Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
A. Krizhevsky verwendet als erster ein
sog. «Deep Neural Network» (CNN)
Zürcher Fachhochschule
18
Was ist passiert?
Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
A. Krizhevsky verwendet als erster ein
sog. «Deep Neural Network» (CNN)
Zürcher Fachhochschule
19
Was ist passiert?
Der ImageNet Wettbewerb
1000 Kategorien
1 Mio. Beispiele …
A. Krizhevsky verwendet als erster ein
sog. «Deep Neural Network» (CNN)
2015: Computer haben “Sehen” gelernt
4.95% Microsoft (06. Februar)
 Besser als Menschen (5.10%)
4.80% Google (11. Februar)
4.58% Baidu (11. Mai)
3.57% Microsoft (10. Dezember)
Zürcher Fachhochschule
20
Was? Wie?  Wohin?
2Wie geht das?
(Was denken denkende Maschinen?)
Zürcher Fachhochschule
21
Grundlage
Induktives überwachtes Lernen
Annahme
• Ein an genügend viele Beispiele
angepasstes Modell…
• …wird auch auf
unbekannte Daten generalisieren
Methode
• Suchen der Parameter einer
gegebenen Funktion…
• …so dass für alle Beispiele Eingabe (Bild)
auf Ausgabe («Auto») abgebildet wird
Quelle: http://lear.inrialpes.fr/job/postdoc-large-scale-classif-11-img/attribs_patchwork.jpg
Zürcher Fachhochschule
22
Suche der Parameter einer Funktion??
Neuron
Merkmale (z.B. Pixel)
Anpassbare Parameter
Entscheidung
(Schwellwert)
Ergebnis (z.B. «Auto»)
𝑦
Zürcher Fachhochschule
23
Suche der Parameter einer Funktion??
Neuron Neuronales Netz
Merkmale (z.B. Pixel)
Anpassbare Parameter
Entscheidung
(Schwellwert)
Ergebnis (z.B. «Auto»)
𝑦
Zürcher Fachhochschule
24
Idee: Mehr Tiefe zum Lernen von Merkmalen
(0.2, 0.4, …)
Containerschiff
Tiger
Klassische Bild-
verarbeitung
(0.4, 0.3, …)
Merkmalsextraktion
(SIFT, SURF, LBP, HOG, etc.)
Containerschiff
Tiger
Mit Convolutional
Neural Networks
(CNNs)
Nimmt rohe Pixel entgegen,
Merkmale werden mitgelernt!
Klassifikation
(SVM, Neuronales Netz, etc.)
…
…
Zürcher Fachhochschule
25
Was «sieht» das Neuronale Netz?
Hierarchien komplexer werdender Merkmale
Quelle: https://www.pinterest.com/explore/artificial-neural-network/
Zürcher Fachhochschule
26
Was? Wie?  Wohin?
3Wohin führt das?
(Ein Ausblick)
Zürcher Fachhochschule
27
Was ich nicht erwarte
Zürcher Fachhochschule
28
Was ich nicht erwarte
Zürcher Fachhochschule
29
Was ich nicht erwarte
Zürcher Fachhochschule
30
Was ich erwarte
Zürcher Fachhochschule
31
Was ich erwarte
Zürcher Fachhochschule
32
Was ich erwarte
Zürcher Fachhochschule
33
Was ich erwarte
Zürcher Fachhochschule
34
Was ich erwarte
Zürcher Fachhochschule
35
Schlussfolgerungen
• «Denkende rechnende» Maschinen sind immer noch inselbegabt
• Aber: «Deep Learning» hat zu Quantensprung in Mustererkennungsaufgaben geführt
• Für andere Datenanalyseaufgaben sind andere Verfahren besser geeignet
• Angst ist unangebracht – aber Herausforderungen wollen gestaltet werden:
technisch, ethisch, wirtschaftlich, gesellschaftlich
Mehr zu mir:
• Leiter ZHAW Datalab, Vice President SGAICO, Board Data+Service
• thilo.stadelmann@zhaw.ch
• 058 934 72 08
• www.zhaw.ch/~stdm
Mehr zum Thema:
• KI: http://www.s-i.ch/en/fachgruppen-und-sektionen/sgaico/
• Verband Data & Service Science: www.data-service-alliance.ch
• Gemeinsame Projekte: datalab@zhaw.ch
 Fragen Sie gerne an.
Zürcher Fachhochschule
36
ANHANG
Zürcher Fachhochschule
37
Was «sieht» das Neuronale Netz?
Hierarchien komplexer werdender Merkmale
Quelle: http://vision03.csail.mit.edu/cnn_art/data/single_layer.png

Was denken denkende Maschinen?