SlideShare ist ein Scribd-Unternehmen logo
ARS
Frameworks und Prozessoren
von CoreML bis Loihi.
Der KI-Markt zu Jahreswende 17/18
Dr. Thorsten Gressling, Business Lead Cognitive and AI
ARS Computer und Consulting GmbH
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
2
ARSEinsatzszenarien
IBM
Prozessor: TrueNorth
Framework: CoreLet
Scope: Datacenter
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
3
ARSIBM TrueNorth
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
4
ARSFrameworks - IBM
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
5
ARSFrameworks - IBM
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
6
ARSFrameworks - IBM
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
7
ARSFrameworks - IBM
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
8
ARSFrameworks - IBM
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
9
ARSFrameworks - IBM
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
10
ARSEinsatzszenarien
Apple
Prozessor: A11 (Bionic)
Framework: CoreML
Scope: End User
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
11
ARSFrameworks – CoreML – A11-Bionic
iPhone X, iPhone 8 und iPhone 8 Plus
Aus Abbildungen wird ersichtlich, dass der für Face-ID genutzte KI-
Chip namens Neural-Engine fast so viel Platz auf dem Die einnimmt,
wie mehrere CPU-Kerne.
Das in 10 nm gefertigte System-on-a-chip (SoC) fällt mit 87,66 mm²
klein aus. Apples Neural-Engine wird nicht nur für Face-ID genutzt.
Auch die Siri-Spracherkennung soll Nutzen aus den 600 Giga-Ops
Rechenleistung ziehen können.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
12
ARSFrameworks - CoreML
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
13
ARSFrameworks - CoreML
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
14
ARSFrameworks – CoreML - Models
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
15
ARSEinsatzszenarien
Qualcomm
Prozessor: Snapdragon 835
Framework: NPE und Zeroth
Scope: End User
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
16
ARSFrameworks – Qualcomm Snapdragon
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
17
ARSFrameworks – Qualcomm Snapdragon
The Hexagon DSP and its wide vector extensions (HVX) offer an
impressive power and performance mix for running neural networks
on device. In addition to support via the Snapdragon Neural
Processing Engine SDK, TensorFlow is directly supported on the
Hexagon DSP Qualcomm® Zeroth™ Machine Intelligence
Platform
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
18
ARSFrameworks – Qualcomm Snapdragon
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
19
ARSFrameworks – Qualcomm Snapdragon
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
21
ARSEinsatzszenarien
Samsung
Prozessor: Exynos 9810
Framework: - (announced for Bixby)
Scope: End User
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
22
ARSFrameworks – Samsung Exynos 8895
9810 – Real Neural Engine co-processor
Exynos 8895 in Samsung Galaxy S8 Plus and the DeePhi
specializes developing deep learning AI algorithms to go with
its neural network chip designs, and Samsung might have
possibly invested in the startup in order to develop a Neural
Engine co-processor for the next Exynos SoC, which might be
named Exynos 9810. This chip is going to be found in the
Galaxy S9.
Kunden: DeePhi Tech’s homepage: along with China’s fabless
chipmaker MediaTek, US fabless Xilinx and cloud service
provider Amazon Web Services.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
23
ARSEinsatzszenarien
Huawei
Prozessor: Kirin 970
Framework: -
Scope: End User
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
24
ARSFrameworks – Huawei Kirin
„Huawei stellt sein Mate 10 mit
dem neuen Chipsatz Kirin 970 mit
separater NPU vor.
Die HiSilicon AI genannte Neural-
Engine ist zum Beispiel beim
Erkennen von 200 Fotos um 25
Prozent schneller.“
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
25
ARSEinsatzszenarien
Google
Prozessor: TPU 2.0
Framework: Tensorflow
Scope: Datacenter
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
26
ARSGoogle
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
27
ARSFrameworks - Google
Alphabet's Google introduced its TensorFlow open-source
framework for machine learning in November 2015, and then
unveiled a custom tensor processing unit, or TPU, six months later.
Meanwhile startups like Deep Vision and Mythic have been working
on processors that could be plunked into smaller devices, as
opposed to data centers, where Google's TPUs are located.
Google has already designed two generations of chips for handling
AI computing workloads in data centers.
The chief limiting factor between Google’s TPU and higher performance is memory bandwidth.
Google’s models show TPU performance improving 3x if memory bandwidth is increased 4x over
current designs. No other set of enhancements, including clock rate improvements, larger
accumulators, or a combination of multiple factors has much of an impact on performance.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
28
ARSEinsatzszenarien
Intel
Prozessor: Portfolio an KI-
Plattformen
Framework: Open Neural Network
Exchange Ecosystem
Scope: (various)
10/2017
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
29
ARSIntel
Mittlerweile umfasst das Angebot:
FPGA-Beschleuniger
Xeon (CPU ??)
Xeon Phi
Movidius Myriad X
NERVANA NNP (neu) … Loihi ? …
Keine GPU!
Die von CEO Krzanich angeordnete Neuausrichtung auf
Produkte für KI-Anwendungen treibt die Intel-Aktie merklich an.
Seit September legte der Chiphersteller um 14 Prozent zu.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
30
ARSLoihi (ab Nov 17)
A total of 130,000 neurons and 130 million synapses.
Fully asynchronous neuromorphic many core mesh that supports a
wide range of sparse, hierarchical and recurrent neural network
topologies with each neuron capable of communicating with
thousands of other neurons.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
31
ARSIntel Loihi
Loihi arbeitet nach dem Prinzip des Neuromorphic Computing und
verwendet einen Ansatz namens Asynchronous Spiking. Laut Michael
Mayberry, dem Vice President der Intel Labs, kombiniert der Chip das
Training und das Interferencing und muss nicht erst mit neuen
Informationen versorgt werden. Loihi unterstützt Topologien wie
mehrschichtige oder rekurrente neuronale Netze und kann
bestärkende oder überwachte Lernparadigmen umsetzen.
Verglichen mit bisher typischen Chips für Training, etwa
Beschleunigern wie Intels Xeon Phi Knights Mill, die kommenden
Lake-Crest-ASICs oder Nvidas Tesla V100, soll Loihi um den Faktor
1.000 effizienter vorgehen. Dabei hilft die moderne Fertigung, da Intel
den Chip ab November 2017 in einem 14-nm-Verfahren produzieren
will. Im ersten Halbjahr 2018 sollen Forschungsanstalten und
Universitäten erstmals Zugriff auf Loihi bekommen.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
32
ARSIntel
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
33
ARSIntel
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
34
ARSIntel – 2. DLDT
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
35
ARSIntel – 1. Nervana Graph
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
36
ARSIntel – 3. RLC
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
37
ARSIntel – Nun endlich: ONNX
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
38
ARSIntel
As part of Intel’s commitment to furthering artificial intelligence
across the industry, Intel announced that it is joining Microsoft*,
Facebook*, and others to participate in the Open Neural Network
Exchange (ONNX) project. By joining the project, we plan to further
expand the choices developers have on top of frameworks powered
by the Intel® Nervana™ Graph library and deployment through
our Deep Learning Deployment Toolkit. Developers should have the
freedom to choose the best software and hardware to build their
artificial intelligence model and not be locked into one solution
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
39
ARSWeitere Einsatzszenarien
AMD
Nvidia
ARS
Das Beste zum Schluss!
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
44
ARSMicrosoft
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
45
ARSWarum ist eine solche Diskussion notwendig?
Digitalisierung hat i.d.R. aktuell die höchste Priorität
In 2-3 Jahren sind Themen wie API Economy „commodity“
Wir befinden uns im Anbruch der kognitiven Ära
Cognitive Computing kann die bestehende
Digitalisierungsstrategie unterstützen, optimieren
oder revolutionieren
Bestimmte Branchen sind prädestiniert für
den Einsatz kognitiver Lösungen
Es werden Forderungen kommen von…
 … Geschäftsführung / Vorstand
 … Business Development
 … Fachbereichen (Marketing, Vertrieb, Controlling,…)
… und last but not least: Partner und Kunden
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
46
ARSARS Computer und Consulting GmbH
 ARS Computer und Consulting GmbH ist eines der führenden Unternehmen im Bereich
Software Engineering
 Unsere Mission: hochwertige Beratung und erfolgreiche Projekte zur Entwicklung
qualitativ exzellenter Software: The Art of Software Engineering
 Seit über 20 Jahren hat unser Team die Kreativität, das Wissen, die Übung und Intuition,
die unsere Kunden für ihre erfolgreichen Softwareprojekte benötigen. Wir entwickeln
nicht nur individuelle Software, sondern unterstützen unsere Kunden bei Ihren
Entwicklungsprojekten ganzheitlich. Vom Design über Architekturberatung, Entwicklung,
Qualitätssicherung, Betriebskonzepte mit DevOps bis hin zur Einführung eines Application
Lifecycle Managements.
 Im Fokus dabei: die „ARS Golden 4“. Microservices-Architekturen, umgesetzt mit agilen
Entwicklungsmethoden, unterstützt durch DevOps-Tools und -Prozesse, mit einer klaren
Ausrichtung auf APIs – nach innen und nach außen.
 Unsere Vision: Kognitive Lösungen sind für uns die Zukunft, deshalb arbeiten wir schon
jetzt mit Machine Learning von der Apple Smartwatch bis zum IBM Mainframe:
Software Engineering for a Cognitive World
Lassen Sie uns gemeinsam Neues schaffen, das begeistert.
© ARS Computer und Consulting GmbH 2017
PROZESSOREN UND FRAMEWORKS
47
ARSKontaktinformationen
Für Fragen und weitere Informationen stehe ich Ihnen gerne
zur Verfügung:
Dr. Thorsten Gressling
thorsten.gressling@ars.de
+49 89 32468-2035
ARS Computer und Consulting GmbH
Ridlerstraße 37
80339 München
www.ars.de

Weitere ähnliche Inhalte

Ähnlich wie Frameworks und Prozessoren

MT AG: 7 gute Gründe warum Apex
MT AG: 7 gute Gründe warum ApexMT AG: 7 gute Gründe warum Apex
MT AG: 7 gute Gründe warum Apex
MT AG
 
Erp in der zukunft: über die funktionen hinaus
Erp in der zukunft: über die funktionen hinausErp in der zukunft: über die funktionen hinaus
Erp in der zukunft: über die funktionen hinaus
Dedagroup
 

Ähnlich wie Frameworks und Prozessoren (20)

AWS Initiate Berlin - Maschinelles Lernen - Chancen, Werkzeuge und Beispiel-A...
AWS Initiate Berlin - Maschinelles Lernen - Chancen, Werkzeuge und Beispiel-A...AWS Initiate Berlin - Maschinelles Lernen - Chancen, Werkzeuge und Beispiel-A...
AWS Initiate Berlin - Maschinelles Lernen - Chancen, Werkzeuge und Beispiel-A...
 
Webinar - Sehr empfehlenswert: wie man aus Daten durch maschinelles Lernen We...
Webinar - Sehr empfehlenswert: wie man aus Daten durch maschinelles Lernen We...Webinar - Sehr empfehlenswert: wie man aus Daten durch maschinelles Lernen We...
Webinar - Sehr empfehlenswert: wie man aus Daten durch maschinelles Lernen We...
 
Microprofile.io - Cloud Native mit Java EE
Microprofile.io - Cloud Native mit Java EEMicroprofile.io - Cloud Native mit Java EE
Microprofile.io - Cloud Native mit Java EE
 
Syntegris Unternehmensprofil
Syntegris UnternehmensprofilSyntegris Unternehmensprofil
Syntegris Unternehmensprofil
 
Fifty shades of Cloud - Überblick, Best Practices, Beispiele
Fifty shades of Cloud - Überblick, Best Practices, BeispieleFifty shades of Cloud - Überblick, Best Practices, Beispiele
Fifty shades of Cloud - Überblick, Best Practices, Beispiele
 
Von Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem Vormarsch
Von Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem VormarschVon Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem Vormarsch
Von Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem Vormarsch
 
Von Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem Vormarsch
Von Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem VormarschVon Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem Vormarsch
Von Big Data zu Künstlicher Intelligenz - Maschinelles Lernen auf dem Vormarsch
 
CADFEM Journal - Innovation ist berechenbar
CADFEM Journal - Innovation ist berechenbarCADFEM Journal - Innovation ist berechenbar
CADFEM Journal - Innovation ist berechenbar
 
Wird das Datacenter künstlich-intelligent?
Wird das Datacenter künstlich-intelligent?Wird das Datacenter künstlich-intelligent?
Wird das Datacenter künstlich-intelligent?
 
NCP setzt bei E-Mail-Verschlüsselung und Anti-Spam auf Bechtle und NoSpamProx...
NCP setzt bei E-Mail-Verschlüsselung und Anti-Spam auf Bechtle und NoSpamProx...NCP setzt bei E-Mail-Verschlüsselung und Anti-Spam auf Bechtle und NoSpamProx...
NCP setzt bei E-Mail-Verschlüsselung und Anti-Spam auf Bechtle und NoSpamProx...
 
Serverless Dev(Ops) in der Praxis
Serverless Dev(Ops) in der PraxisServerless Dev(Ops) in der Praxis
Serverless Dev(Ops) in der Praxis
 
MT AG: 7 gute Gründe warum Apex
MT AG: 7 gute Gründe warum ApexMT AG: 7 gute Gründe warum Apex
MT AG: 7 gute Gründe warum Apex
 
Analytics meets Big Data – R/Python auf der Hadoop/Spark-Plattform
Analytics meets Big Data – R/Python auf der Hadoop/Spark-PlattformAnalytics meets Big Data – R/Python auf der Hadoop/Spark-Plattform
Analytics meets Big Data – R/Python auf der Hadoop/Spark-Plattform
 
Erp in der zukunft: über die funktionen hinaus
Erp in der zukunft: über die funktionen hinausErp in der zukunft: über die funktionen hinaus
Erp in der zukunft: über die funktionen hinaus
 
[DE] PROJECT CONSULT Newsletter 2017 (Part 2/3) | PROJECT CONSULT Unternehmen...
[DE] PROJECT CONSULT Newsletter 2017 (Part 2/3) | PROJECT CONSULT Unternehmen...[DE] PROJECT CONSULT Newsletter 2017 (Part 2/3) | PROJECT CONSULT Unternehmen...
[DE] PROJECT CONSULT Newsletter 2017 (Part 2/3) | PROJECT CONSULT Unternehmen...
 
Oracle Open World 2009 Review V1.6
Oracle Open World 2009 Review V1.6Oracle Open World 2009 Review V1.6
Oracle Open World 2009 Review V1.6
 
Oracle Technology Monthly Oktober 2017
Oracle Technology Monthly Oktober 2017Oracle Technology Monthly Oktober 2017
Oracle Technology Monthly Oktober 2017
 
CADFEM - Systemhaus für Simulationssoftware, Seminare & Ingenieurdienstleistu...
CADFEM - Systemhaus für Simulationssoftware, Seminare & Ingenieurdienstleistu...CADFEM - Systemhaus für Simulationssoftware, Seminare & Ingenieurdienstleistu...
CADFEM - Systemhaus für Simulationssoftware, Seminare & Ingenieurdienstleistu...
 
Dr. Clemens Wagner-Bruschek, ERP (d-fine Austria)
Dr. Clemens Wagner-Bruschek, ERP (d-fine Austria)Dr. Clemens Wagner-Bruschek, ERP (d-fine Austria)
Dr. Clemens Wagner-Bruschek, ERP (d-fine Austria)
 
Cloud Databases, Developer Week Nuernberg 2014
Cloud Databases, Developer Week Nuernberg 2014Cloud Databases, Developer Week Nuernberg 2014
Cloud Databases, Developer Week Nuernberg 2014
 

Frameworks und Prozessoren

  • 1. ARS Frameworks und Prozessoren von CoreML bis Loihi. Der KI-Markt zu Jahreswende 17/18 Dr. Thorsten Gressling, Business Lead Cognitive and AI ARS Computer und Consulting GmbH
  • 2. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 2 ARSEinsatzszenarien IBM Prozessor: TrueNorth Framework: CoreLet Scope: Datacenter 10/2017
  • 3. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 3 ARSIBM TrueNorth
  • 4. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 4 ARSFrameworks - IBM
  • 5. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 5 ARSFrameworks - IBM
  • 6. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 6 ARSFrameworks - IBM
  • 7. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 7 ARSFrameworks - IBM
  • 8. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 8 ARSFrameworks - IBM
  • 9. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 9 ARSFrameworks - IBM
  • 10. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 10 ARSEinsatzszenarien Apple Prozessor: A11 (Bionic) Framework: CoreML Scope: End User 10/2017
  • 11. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 11 ARSFrameworks – CoreML – A11-Bionic iPhone X, iPhone 8 und iPhone 8 Plus Aus Abbildungen wird ersichtlich, dass der für Face-ID genutzte KI- Chip namens Neural-Engine fast so viel Platz auf dem Die einnimmt, wie mehrere CPU-Kerne. Das in 10 nm gefertigte System-on-a-chip (SoC) fällt mit 87,66 mm² klein aus. Apples Neural-Engine wird nicht nur für Face-ID genutzt. Auch die Siri-Spracherkennung soll Nutzen aus den 600 Giga-Ops Rechenleistung ziehen können.
  • 12. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 12 ARSFrameworks - CoreML
  • 13. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 13 ARSFrameworks - CoreML
  • 14. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 14 ARSFrameworks – CoreML - Models
  • 15. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 15 ARSEinsatzszenarien Qualcomm Prozessor: Snapdragon 835 Framework: NPE und Zeroth Scope: End User 10/2017
  • 16. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 16 ARSFrameworks – Qualcomm Snapdragon
  • 17. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 17 ARSFrameworks – Qualcomm Snapdragon The Hexagon DSP and its wide vector extensions (HVX) offer an impressive power and performance mix for running neural networks on device. In addition to support via the Snapdragon Neural Processing Engine SDK, TensorFlow is directly supported on the Hexagon DSP Qualcomm® Zeroth™ Machine Intelligence Platform
  • 18. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 18 ARSFrameworks – Qualcomm Snapdragon
  • 19. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 19 ARSFrameworks – Qualcomm Snapdragon
  • 20. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 21 ARSEinsatzszenarien Samsung Prozessor: Exynos 9810 Framework: - (announced for Bixby) Scope: End User 10/2017
  • 21. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 22 ARSFrameworks – Samsung Exynos 8895 9810 – Real Neural Engine co-processor Exynos 8895 in Samsung Galaxy S8 Plus and the DeePhi specializes developing deep learning AI algorithms to go with its neural network chip designs, and Samsung might have possibly invested in the startup in order to develop a Neural Engine co-processor for the next Exynos SoC, which might be named Exynos 9810. This chip is going to be found in the Galaxy S9. Kunden: DeePhi Tech’s homepage: along with China’s fabless chipmaker MediaTek, US fabless Xilinx and cloud service provider Amazon Web Services.
  • 22. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 23 ARSEinsatzszenarien Huawei Prozessor: Kirin 970 Framework: - Scope: End User 10/2017
  • 23. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 24 ARSFrameworks – Huawei Kirin „Huawei stellt sein Mate 10 mit dem neuen Chipsatz Kirin 970 mit separater NPU vor. Die HiSilicon AI genannte Neural- Engine ist zum Beispiel beim Erkennen von 200 Fotos um 25 Prozent schneller.“
  • 24. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 25 ARSEinsatzszenarien Google Prozessor: TPU 2.0 Framework: Tensorflow Scope: Datacenter 10/2017
  • 25. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 26 ARSGoogle
  • 26. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 27 ARSFrameworks - Google Alphabet's Google introduced its TensorFlow open-source framework for machine learning in November 2015, and then unveiled a custom tensor processing unit, or TPU, six months later. Meanwhile startups like Deep Vision and Mythic have been working on processors that could be plunked into smaller devices, as opposed to data centers, where Google's TPUs are located. Google has already designed two generations of chips for handling AI computing workloads in data centers. The chief limiting factor between Google’s TPU and higher performance is memory bandwidth. Google’s models show TPU performance improving 3x if memory bandwidth is increased 4x over current designs. No other set of enhancements, including clock rate improvements, larger accumulators, or a combination of multiple factors has much of an impact on performance.
  • 27. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 28 ARSEinsatzszenarien Intel Prozessor: Portfolio an KI- Plattformen Framework: Open Neural Network Exchange Ecosystem Scope: (various) 10/2017
  • 28. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 29 ARSIntel Mittlerweile umfasst das Angebot: FPGA-Beschleuniger Xeon (CPU ??) Xeon Phi Movidius Myriad X NERVANA NNP (neu) … Loihi ? … Keine GPU! Die von CEO Krzanich angeordnete Neuausrichtung auf Produkte für KI-Anwendungen treibt die Intel-Aktie merklich an. Seit September legte der Chiphersteller um 14 Prozent zu.
  • 29. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 30 ARSLoihi (ab Nov 17) A total of 130,000 neurons and 130 million synapses. Fully asynchronous neuromorphic many core mesh that supports a wide range of sparse, hierarchical and recurrent neural network topologies with each neuron capable of communicating with thousands of other neurons.
  • 30. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 31 ARSIntel Loihi Loihi arbeitet nach dem Prinzip des Neuromorphic Computing und verwendet einen Ansatz namens Asynchronous Spiking. Laut Michael Mayberry, dem Vice President der Intel Labs, kombiniert der Chip das Training und das Interferencing und muss nicht erst mit neuen Informationen versorgt werden. Loihi unterstützt Topologien wie mehrschichtige oder rekurrente neuronale Netze und kann bestärkende oder überwachte Lernparadigmen umsetzen. Verglichen mit bisher typischen Chips für Training, etwa Beschleunigern wie Intels Xeon Phi Knights Mill, die kommenden Lake-Crest-ASICs oder Nvidas Tesla V100, soll Loihi um den Faktor 1.000 effizienter vorgehen. Dabei hilft die moderne Fertigung, da Intel den Chip ab November 2017 in einem 14-nm-Verfahren produzieren will. Im ersten Halbjahr 2018 sollen Forschungsanstalten und Universitäten erstmals Zugriff auf Loihi bekommen.
  • 31. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 32 ARSIntel
  • 32. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 33 ARSIntel
  • 33. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 34 ARSIntel – 2. DLDT
  • 34. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 35 ARSIntel – 1. Nervana Graph
  • 35. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 36 ARSIntel – 3. RLC
  • 36. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 37 ARSIntel – Nun endlich: ONNX
  • 37. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 38 ARSIntel As part of Intel’s commitment to furthering artificial intelligence across the industry, Intel announced that it is joining Microsoft*, Facebook*, and others to participate in the Open Neural Network Exchange (ONNX) project. By joining the project, we plan to further expand the choices developers have on top of frameworks powered by the Intel® Nervana™ Graph library and deployment through our Deep Learning Deployment Toolkit. Developers should have the freedom to choose the best software and hardware to build their artificial intelligence model and not be locked into one solution
  • 38. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 39 ARSWeitere Einsatzszenarien AMD Nvidia
  • 39. ARS Das Beste zum Schluss!
  • 40. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 44 ARSMicrosoft
  • 41. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 45 ARSWarum ist eine solche Diskussion notwendig? Digitalisierung hat i.d.R. aktuell die höchste Priorität In 2-3 Jahren sind Themen wie API Economy „commodity“ Wir befinden uns im Anbruch der kognitiven Ära Cognitive Computing kann die bestehende Digitalisierungsstrategie unterstützen, optimieren oder revolutionieren Bestimmte Branchen sind prädestiniert für den Einsatz kognitiver Lösungen Es werden Forderungen kommen von…  … Geschäftsführung / Vorstand  … Business Development  … Fachbereichen (Marketing, Vertrieb, Controlling,…) … und last but not least: Partner und Kunden
  • 42. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 46 ARSARS Computer und Consulting GmbH  ARS Computer und Consulting GmbH ist eines der führenden Unternehmen im Bereich Software Engineering  Unsere Mission: hochwertige Beratung und erfolgreiche Projekte zur Entwicklung qualitativ exzellenter Software: The Art of Software Engineering  Seit über 20 Jahren hat unser Team die Kreativität, das Wissen, die Übung und Intuition, die unsere Kunden für ihre erfolgreichen Softwareprojekte benötigen. Wir entwickeln nicht nur individuelle Software, sondern unterstützen unsere Kunden bei Ihren Entwicklungsprojekten ganzheitlich. Vom Design über Architekturberatung, Entwicklung, Qualitätssicherung, Betriebskonzepte mit DevOps bis hin zur Einführung eines Application Lifecycle Managements.  Im Fokus dabei: die „ARS Golden 4“. Microservices-Architekturen, umgesetzt mit agilen Entwicklungsmethoden, unterstützt durch DevOps-Tools und -Prozesse, mit einer klaren Ausrichtung auf APIs – nach innen und nach außen.  Unsere Vision: Kognitive Lösungen sind für uns die Zukunft, deshalb arbeiten wir schon jetzt mit Machine Learning von der Apple Smartwatch bis zum IBM Mainframe: Software Engineering for a Cognitive World Lassen Sie uns gemeinsam Neues schaffen, das begeistert.
  • 43. © ARS Computer und Consulting GmbH 2017 PROZESSOREN UND FRAMEWORKS 47 ARSKontaktinformationen Für Fragen und weitere Informationen stehe ich Ihnen gerne zur Verfügung: Dr. Thorsten Gressling thorsten.gressling@ars.de +49 89 32468-2035 ARS Computer und Consulting GmbH Ridlerstraße 37 80339 München www.ars.de