In München fand Anfang Oktober die europäische Nvidia GPU Technology Conference statt. Wir nehmen das zum Anlass, und schauen mal ein bisschen genauer hinter die Kulissen von Grafikkarten. Was steckt drin, worin unterscheiden sich die Hersteller, und wozu werden GPUs heute eingesetzt? Die im Webinar verwendeten Demo-Videos: 10 Movies before and after special effects https://www.youtube.com/watch?v=gXu6BrsE8mY Hyundai's New Theta Engine with GDI (Gasoline Direct Injection) Technology https://www.youtube.com/watch?v=Pxvp9F-PS34 Fluid Dynamics Simulation: Caeli | Design for Automotive https://www.youtube.com/watch?v=PfJycXfLIk0

1. Boston Webinar
GPUs – Vom spezialisierten Coprozessor zum Numbercruncher
Wolfgang Stief
Senior Consultant

2. § Gegründet 1992 – 25 Jahre Innovation
§ Supermicros ältester & größter globaler Partner — seit über 20 Jahren
§ Lösungshersteller mit Fokus auf Technologie (First-to-Market Strategie)
§ London HQ, Niederlassungen in London City, München, Mumbai,
Bangalore, New York. Weitere Expansion geplant.
§ Experten im Lösungs- und HPC-System-Design unter Verwendung von
Premium-Komponenten von Supermicro und ausgewählten Partnern
§ Supermicros Fastest Growing Partner
Über uns

3. § Historie
§ Anwendungen mit GPUs
3D-Grafik, Multimedia, technisch-wissenschaftliche Berechnungen, Kryptographie
§ Hersteller und Produkte
§ Komponenten einer GPU
Memory, Bus-Systeme, Shader
§ Aus dem Boston Lieferprogramm
Agenda

4. § Arcade-Automaten, ca. Mitte 1970er
Sprites
§ 2D-Beschleunigung, ca. 1990+
geometrische Figuren, GUIs, Spiele,
Microsoft DirectDraw
§ 3D-Beschleunigung, ca. Ende 1990er
Videospiel-Consolen, Ego-Shooter (Quake u. a.)
DirectX, Direct3D
Nvidia GeForce 3 > programmable shader
§ ATI Radeon 9700 (R300), 2002
Looping, Floating Point Mathematik
Historie
OldenburgerComputerMuseum

5. § NVIDIA CUDA, 2007
Programmier-Modell, Programmierumgebung, Libraries
§ „Missbrauch“ der Shader-Units
Daten zur Berechnung als Texturen (SIMD)
Historie
ByTosaka(ownwork),CC-BY3.0,viaWikimediaCommons

6. Anwendungen — 3D-Grafik und Multimedia
Making Of You're Goddamn Right! by Riccardo Minervino
https://www.3dtotal.com/tutorial/1691-making-of-youre-goddamn-right-maya-zbrush-by-riccardo-minervino-character-male-actor

7. Anwendungen — 3D-Grafik und Multimedia
Demo: 10 Movies before and after special effects
https://www.youtube.com/watch?v=gXu6BrsE8mY

8. Anwendungen — VR / AR

9. Anwendungen — Ingenieurwesen
§ CAD/CAM/CIM
§ Architektur
§ Finite Elemente Methode (FEM)
§ Computational Fluid Dynamics (CFD)
§ Anlagenbau / Konstruktion

10. Anwendungen — Ingenieurwesen
Demo: Hyundai's New Theta Engine with GDI
(Gasoline Direct Injection) Technologyhttps://
www.youtube.com/watch?v=Pxvp9F-PS34

11. Anwendungen — Ingenieurwesen
Demo: Fluid Dynamics Simulation: Caeli | Design for
Automotive
https://www.youtube.com/watch?v=PfJycXfLIk0

12. Anwendungen — Wissenschaft
§ Datenvisualisierung
§ Simulation

13. Anwendungen — Kryptographie
§ Blockchain
Bitcoin, Ethereum etc.
§ Berechnung kryptographischer Hashes
§ Cryptoanalyse
nur bedingt geeignet

14. Anwendungen — Deep Learning
§ Matrizenmultiplikation und –Addition
§ sehr gut parallelisierbar
§ braucht keine FP-Genauigkeit

15. Modellvielfalt — NVIDIA
§ Tesla
HPC, AI, Deep Learning > kein Video-Ausgang
Pascal, Volta
§ Titan / Quadro
Multimedia, Engineering, Visualisierung
Pascal
§ GeForce
Gaming
Pascal, Maxwell

16. Modellvielfalt — AMD
§ Radeon Instinct
HPC, AI, Deep Learning > kein Video-Ausgang
Polaris, Fuji, Vega 10
§ Radeon Pro
Multimedia, Engineering, Visualisierung
Polaris, Vega 10
§ Radeon RX
Gaming
Polaris

17. Komponenten, Begriffe, Architektur
§ Shader
§ SIMD — Single Instruction Multiple Data
§ Streaming Multiprocessor, Next-Generation Compute Unit
§ GPU-Memory: HBM2, GDDR
§ Interconnects: NVLink, Infinity Fabric, PCIe

18. Shader
§ Programm, das einem Bildausschnitt bestimmte Eigenschaften
zuweist
§ Pixel Shader
Farbe/Helligkeit für einen Bildpunkt
§ Vertex Shader
Raum-Koordinate (Vektor) ➛ 2D-Darstellung
§ Geometry Shader
Schatten, Überschneidungen, Verdeckungen
§ Tesselation Shader
komplexe Berechnungen für fotorealistische Ergebnisse

19. Single Instruction Multiple Data — SIMD
§ Differentialgleichungen
Finite Elemente Methode
§ Lösen von Gleichungssystemen
für jeden Gitterknotenpunkt
lineares Gleichungssystem
§ überwiegend Matrizenmultiplikation

20. Single Instruction Multiple Data — SIMD
§ Matrizenmultiplikation
§ Vektor-Arithmetik
1
2
3
4
5 6
7 8
2 4
6 8
× +
26 30
38 44
+
2 4
6 8
28 34
44 52
=
=
1×5 + 3×7
2×5 + 4×7
1×6 + 3×8
2×6 + 4×8
2 4
6 8
+ =

21. Processing Units
NVIDIA Volta
Streaming
Multiprocessor (SM)
> 84 SM
> 64 CUDA-Cores/SM
> 8 Tensor-Cores/SM
> 6048 Cores/Volta AMD Vega 10
Next-Generation
Compute Unit (NCU)
> 64 NCU
> 64 Cores/NCU
> 4096 Cores / Vega 10

22. Processing Units — NVIDIA Volta

23. Processing Units — AMD Vega

24. Memory für GPUs
§ Herausforderung:
sehr viele Cores wollen Memoryzugriff
§ Bottleneck: Speicherbandbreite
§ GDDR5: 40 GB/s
5 Gbit/s/Pin @ 67 Data Pins
§ HBM2: 256 GB/s
NVIDIA Volta, Radeon Vega
§ DDR4: 25.6 MB/s (!)

25. Interconnects
§ Anforderung: Multi-GPU-Systeme und
Bandbreite zum CPU-Memory
§ NVIDIA NVLink und NVLink 2
160 GB/s und 300 GB/s
auch in IBM POWER8/9 verfügbar
§ AMD Infinity Fabric
Weiterentwicklung von HyperTransport
max. 42.6 GB/s (aktuell)
§ PCIe 4.0
1.9 GB/s je Lane (typ. x8 od. x16)

26. Boston Grafikworkstation — Venom
§ Intel Xeon Scalable Processor Family
Intel Skylake
§ NVIDIA Quadro (alle Karten)
§ max. 768 GB DDR4 Memory
§ 2x M.2 NVMe SSD
10x SATA HDD-Slots

27. Boston Mining Box
§ Intel Broadwell-u
§ 9x Radeon RX470

28. Boston Machine Learning Appliance
§ custom built, je nach Anforderung
§ z. B. Intel Broadwell-EP
§ max. 24x 2.5“ SATA3 HDD
§ 8x NVIDIA GeForce GTX 1080
§ 1 TB DDR4 ECC RAM
§ vorinstalliert: Ubuntu/CenOS Linux, NVIDIA CUDA, TensorFlow
Library, weitere DL/ML-Libraries und Frameworks nach Anforderung
§ DL-Trainings, Support

29. Kontakt
+49 89 9090199-3
www.boston-it.de
sales@boston-it.de
BostonITsolutions
@BostonGermany
Boston-server-&-storage-solutions-gmbh