Nebenlaeufigkeit mit Koroutinen strukturieren
•
0 gefällt mir•73 views
Slides of the talk at the KKON Warmup 2021. See https://rheinwerk-kkon.de/recap-2021/programm-2021/dinkla-nebenlaeufigkeit-mit-koroutinen-strukturieren/
Empfohlen
Empfohlen
Weitere ähnliche Inhalte
Ähnlich wie Nebenlaeufigkeit mit Koroutinen strukturieren
Ähnlich wie Nebenlaeufigkeit mit Koroutinen strukturieren (20)
Mehr von Jörn Dinkla
Mehr von Jörn Dinkla (16)
Kürzlich hochgeladen
Kürzlich hochgeladen (6)
Nebenlaeufigkeit mit Koroutinen strukturieren
- 1. 1 Nebenläufigkeit mit Koroutinen strukturieren Jörn Dinkla © 2021 ThoughtWorks
- 2. C++ 1985 C++ 98 1998 2 2004 2007 2021 2001 2011 2014 2016 Java 9 Reactive 2017 Java 7 Fork/Join 2011 Java 8 Streams CmplFut 2014 Java 5 2004 Java 1 1995 C++ 11 thread 2011 C++ 14 mutex 2014 C++ 17 par STL 2017 C++ 20 2020 Kotlin 1.0 2016 Kotlin 1.3 2018 Kotlin 1.4 2020 Historische Perspektive Kotlin 0.0 2011
- 3. Kotlin ist Multiplatform ● Server Side / JVM ● Android ● Multiplatform Mobile (core) ● JavaScript (core) Code für den Vortrag nur auf JVM getestet https://github.com/jdinkla/2021_kkon_warmup.git Schwerpunkt hier: JVM 3 https://github.com/Kotlin/kotlinx.coroutines
- 5. Browser sind nebenläufig 5 Damit man schneller lesen kann ...
- 6. Mit Parallelität beschleunigen ... Beispiel: Computergrafik 6 https://www.tomsguide.com/us/what-is-ray-tracing,news-27880.html Datenparallelität
- 7. Nebenläufigkeit strukturieren ● Bewährte Lösungsschablonen ● Wiederverwendbare Vorlage Entwurfsmustern als Grundlage zur Strukturierung von Nebenläufigkeit! Mit Entwurfsmustern “design patterns” 7 https://parallelbook.com/ Diagramme aus: https://parallelbook.com/sites/parallelbook.com/files/SC13_20131117_Intel_McCool_Robison_Reinders_Hebenstreit.pdf
- 8. Prozess im Betriebssystem 8 ● Prozess ist Einheit der Ausführung ● Verwaltung von OS-Ressourcen ○ Speicher ○ IO-Deskriptoren Bild: https://www.cs.uic.edu/~jbell/CourseNotes/OperatingSystems/images/Chapter4/4_01_ThreadDiagram.jpg
- 9. Thread im Betriebssystem ● Prozess ○ 1..* Threads ○ Gemeinsame Ressourcen ○ Gemeinsamer Adressraum ● Parallelität Ein Thread ist ein leichtgewichtiger Prozess. 9 Bild: https://www.cs.uic.edu/~jbell/CourseNotes/OperatingSystems/images/Chapter4/4_01_ThreadDiagram.jpg
- 10. Thread in JVM 10 ● Java Thread entspricht OS-Thread ● OS macht Scheduling ○ Context-Switch erforderlich ● Leichtgewichtig? ○ 64kB - 2MB, default 1MB Stackgröße http://blog.jamesdbloom.com/JVMInternals.html
- 11. Threads mit Kotlin benutzen Fork-Join-Pattern 11 fork join
- 12. Thread-Pool in Kotlin nutzen Schlafende Threads mit sleep() 12 fork join
- 13. Beispiel: Thread-Pool mit Kotlin submit 13 Wie lange dauert es?
- 14. Alle Räder stehen still, ... ● Weil nur Platz für 4 Threads im Pool ist, muss einer nach den anderen laufen ● Thread.sleep blockiert den Thread … wenn alle Threads im Pool blockiert sind 14 Rechner wird nicht genutzt
- 15. Vergrößerung des Pools? 15 ● Ncpu: Anzahl der CPUs “number” ● Ucpu: Auslastung “utilization” 0.0 - 1.0 Verhältnis W/C ● Wartender Anteil W “waiting” ● Rechnender Anteil C “computing” Waiting und Computing
- 16. Berechnung der Pool-Größe 16 Ncpu Ucpu W C Nthreads 8 1.0 0 1 8 8 1.0 1 1 16 8 1.0 10 1 80 8 1.0 430 9 390.2 CPU bound Latency bound Beispiele
- 17. Folgerungen 17 Wenn W >> C wird der Pool sehr groß ⇒ W/C sollte minimiert werden Frage: Kann man statt warten etwas anderes tun? “Latency hiding”
- 18. To block or not to block ... 18
- 19. Kotlin nutzt DSLs 19 Beispiel für HTML https://kotlinlang.org/docs/type-safe-builders.html ( ( ( ( ( ( ( ) ) ) ) ) ) )
- 20. 20
- 21. Hello World mit Koroutinen DSL für Koroutinen 21
- 22. Hello World mit Koroutinen 22 ● Bindeglied zu synchronem Code ● Neuer CoroutineScope ● Wartet auf alle Koroutinen runBlocking { }
- 23. Hello World mit Koroutinen 23 ● Koroutine-Builder ● Startet Koroutine asynchron launch { }
- 24. Hello World mit Koroutinen 24 ● Analog Thread.sleep(), aber nicht-blockierend ● “suspension point” delay()
- 25. Unterbrechbare Funktionen ... 25 ● Einziges neues Keyword für Koroutinen ● Unterbrechbare Funktionen oder Lambdas ○ Nur von anderen unterbrechbaren Funktionen oder Koroutinen aufrufbar Werden mit suspend gekennzeichnet
- 26. Koroutinen laufen in Threads Per Default im Thread “main” 26
- 27. Koroutinen mit delay() Nebenläufigkeit mit Dispatcher 27 Launch mit Dispatcher! Job
- 28. 5 Threads vs. 5000 Koroutinen Hase gegen Igel? 28
- 29. Es gibt einen Unterschied! Die Wartezeit wird ausgenutzt! 29 Taten statt Warten
- 31. Wer veranlasst die Unterbrechung ? Unterschiedliche Arten des Multitaskings 31 Thread ● Präemptives Multitasking ● Von außen vom OS-Scheduler unterbrochen ● Unterbrechung kann zu jeder Zeit passieren Koroutine ● Kooperatives Multitasking ● Benutzt Suspension-Points, um zum Dispatcher zurückzukehren
- 32. Jede Phase ist ein Zustand in einem endlichen Automat Koroutinen 32 https://github.com/Kotlin/KEEP/blob/master/proposals/coroutines.md Kotlin Evolution and Enhancement Process “Suspension Points” definieren “Phasen” Phase 0 Phase 1 Phase 2
- 34. CoroutineDispatcher 34 ● Dispatchers.Default ○ CPU-Bound: Anzahl der Kerne inkl. Hyper-Threading ● Dispatchers.IO ○ max(64, #CPUs), kotlinx.coroutines.io.parallelism ● Dispatchers.Main ○ Single-Thread für UI ● Dispatchers.Unconfined ○ Wenn Thread nicht wichtig ist Vordefinierte “Thread-Pools” CPU bound
- 35. Koroutinen-Builder: launch 35 ● erstellt Job ● Optionale Argumente ● CoroutineContext ● CoroutineStart: optional Lazy “Fire and forget”
- 36. CoroutineContext 36 ● Indizierte Menge von “Kontext-Elementen” (Statisch, “immutable”) ● Enthält per Default ○ Job ○ Dispatcher ● Optional ○ Exception-Handler, Cancelling ● Hierarchie mit Job.children() Operative Eigenschaften der Koroutine
- 37. Koroutinen-Builder: async 37 ● erstellt Deferred<T> ● Vereinfachte Future<T> ● Erbt von Job Gibt einen Wert zurück
- 38. Beispiel: Quicksort Parallele Dekomposition, Divide & Conquer 38
- 39. Beispiel: Quicksort Aufruf und Vergleich 39 Speedup 3.5
- 40. CoroutineScope 40 ● Hat CoroutineContext ● Platz für eigene Extensionsfunktionen ● Hierarchische Organisation ○ Keine Leaks ○ Exceptions- und Cancelling Structured Concurrency Job Job Job Job
- 41. Exceptions launch {} 41 Leitet ganz nach oben weiter!
- 42. Exceptions async {} 42 Jedes catch auf dem Weg nach oben!
- 43. SupervisorJob Supervisor kann eigene Fehler-Strategie implementieren hat andere Eigenschaften 43
- 44. Cancellation Mit Exceptions implementiert 44 Benötigt Kooperation
- 45. Lebenszyklus eines Jobs Zustände 45 Cancelling Completed Cancelled New Active Completing start complete finish finish cancel fail
- 46. Timeouts Ebenfalls mit Exceptions implementiert 46
- 48. Thread-sicher bzw. Koroutinen-sicher Auch Koroutinen können sich irren ... 48 Race condition c = c + 1
- 49. "The heart of the problem is that no one really knows how to organize and maintain large systems that rely on locking." 49
- 51. ● Reine funktionale Programmierung ○ Keine Seiteneffekte ⇒ keine Konflikte ● Kompromiss ○ Kein geteilter änderbarer Zustand ○ (“shared mutable state”) ● Communicating Sequential Processes (CSP) ● Reactive Streams ● Aktoren Modelle der Nebenläufigkeit 51 Alternativen sind vorhanden
- 52. Channels 52
- 53. Communicating sequential processes (CSP) 53 ● Modell der Interaktion von Prozessen ● C.A.R. Hoare ○ (Quicksort, ”Erfinder” von null) ● Ursprünglich eher theoretisch ● Wiederbelebt von Go und den “Goroutinen” ● Basiert auf Events die über Kanäle geschickt werden
- 54. Anwendungsfall 54 ● Wie können Erzeuger und Verbraucher synchronisiert werden? ● “Backpressure”, wenn Geschwindigkeit der Producer zu hoch! Producer-Consumer / Erzeuger-Verbraucher https://play.kotlinlang.org/hands-on/Introduction%20to%20Coroutines%20and%20Channels/08_Channels
- 55. Beispiel für Channel 55 Producer-Consumer mit Koroutinen
- 58. Flows laufen in Koroutinen 58
- 59. 59
- 61. Aktoren und Event-Driven-Programming Traditioneller Aktor: ● Mailbox ● Verhalten (“behaviour”) ● Zustand (“state”) Unser Aktor: ● Channel ● Koroutine ... ● … mit Zustand 61 Kommunikation über Nachrichten
- 62. Counter als Aktor ● Increment ● Get gibt den Wert zurück Schritt 1: Definiere die Nachrichten 62 Kotlin’s OO model
- 63. Counter als Aktor Schritt 2: Aktor als Koroutine und SendChannel<Msg> 63
- 64. Counter als Aktor Schritt 3: Test 64 Nebenläufig und Korrekt!!!
- 65. Bibliotheken 65
- 66. Einfaches Beispiel mit Ktor 66 DSLs überall HTML-DSL Route-DSL
- 69. Koroutinen mit Swing 69 Thread-Confinement mit Dispatchers.Swing https://kotlin.github.io/kotlinx.coroutines/kotlinx-coroutines-swing/
- 70. Koroutinen mit Swing Die App bleibt responsiv, weil die Koroutine den Swing-Thread nicht blockiert 70
- 71. Retrofit Retrofit erzeugt einen Rest-Client aus Schnittstellen: REST-Clients auch mit Koroutinen 71 https://square.github.io/retrofit/ https://play.kotlinlang.org/hands-on/Introduction%20to%20Coroutines%20and%20Channels/01_Introduction
- 73. Wann sollte ich Koroutinen einsetzen? ● Lohnt sich die Umstellung? ● Wartbarkeit des Codes ○ Sequentieller Code ist immer einfacher zu lesen ● Lohnt sich die nebenläufige Ausführung? ○ W/C ○ Threads und Koroutinen haben einen Overhead ● Granularität ○ Lassen sich einzelne Tasks zusammen ausführen? Es lohnt sich nicht immer ... 73
- 74. Fazit 74 Koroutinen + Entwurfsmuster + Structured Concurrency + Datenstrukturen (Channel, Flow) + alternative Modelle = modularer, wartbarer und asynchroner Code
- 75. 75 Vielen Dank für Ihre Aufmerksamkeit! Jörn Dinkla jdinkla@thoughtworks.com © 2021 ThoughtWorks
- 77. Koroutinen 77 Dokumentation ● https://kotlinlang.org/docs/coroutines-guide.html Beispiele ● https://github.com/Kotlin/kotlin-coroutines-examples Roman Elizarov’s Blog ● https://medium.com/@elizarov Links
- 78. Kotlin lernen und ausprobieren Informationen ● https://kotlinlang.org/ Ausprobieren im Browser ● https://play.kotlinlang.org Koans ● https://play.kotlinlang.org/koans/overview 78 Links
- 79. Literatur 79 Kotlin (* enthält Koroutinen) ! ! !
- 80. Literatur 80 Kotlin (* enthält Koroutinen) ! ! ! !