(This is in German only, sorry...) Machine Learning oder künstliche Intelligenz ist eine rasch an Bedeutung gewinnende Form der Informatik, in welcher Programme nicht mehr explizit geschrieben, sondern anhand von Daten trainiert werden. Machine Learning personalisiert nicht nur unsere News, sondern macht etwa mit selbstfahrenden Autos und mit fast perfekt Go oder Dota2 spielenden Computern selber Schlagzeilen. Aber wie lernen Maschinen? Und wie lernen Menschen, Maschinen zu trainieren? Zu diesen zwei Fragen werden wir je ein Tool vorstellen: Scikit-Learn ist eine Open-Source Python-Bibliothek für Machine Learning. Der relativ einfache Einstieg erlaubt es auch SchülernInnen, eine eigene “künstliche Intelligenz” zu trainieren. Kaggle ist eine freie Webplattform zur Förderung des Lernens von Machine Learning und für den Austausch von Datensätzen. Für den Unterricht können eigene InClass Competitions aufgeschaltet werden. Diese ergänzen den Unterricht durch ein spielerisches und kompetitives Element. Die Grundlagen von Machine Learning können so im Rahmen eines Schwerpunktfachs oder Ergänzungsfachs Mathematik behandelt werden.

1. Maschinelles Lernen
mit Scikit-learn und Kaggle
Dr. B.Tödtli
Fernfachhochschule Schweiz (FFHS)

2. Maschinelles Lernen
mit Scikit-learn und Kaggle
Empfehlungssysteme
Bildverständnis
Bots, Agenten
Bots, Agenten

3. Programm
◼ Crashkurs Machine Learning
◼ Kaggle Competitions
◼ Kaggle-Kernels
◼ Diskussion: Einsatz im Gymnasialen Unterricht?
◼ Eignung?
◼ Nötige Anpassungen?
◼ Kontaktieren Sie mich! beat.toedtli@ffhs.ch

4. Bitte registrieren Sie sich bei kaggle.com
(für später)
◼ Praktisches Lernen von Machine Learning
◼ Austausch von Ideen und Erfahrungen
◼ Offene Datensätze, Tutorials

5. Machine Learning Crashkurs

6. Was ist Machine Learning?
◼ „Machine Learning ist im Wesentlichen curve fitting“
(F.Chollet)
◼ Lerne, aus vorhandenen Daten auf neue
Situationen zu verallgemeinern
◼ Trainingsset: (X,y)
◼ Lerne ein Modell
y=a·x+b
◼ Modellvorhersagen
auf Testset: (X,?)

7. Wichtige ML-Anwendungsklassen
◼ Überwachtes Lernen:
◼ Klassifikation: Hund oder Katz‘?
◼ Regression
◼ Unüberwachtes Lernen: „Daten Verstehen“
◼ Clustering
◼ Datenkompression
◼ Datengenerierung (~ Interpolation)
https://www.kaggle.com/uysimty/keras-cnn-dog-or-cat-classification

8. Unüberwachtes Lernen

9. ◼ Paket in Python für maschinelles Lernen
◼ Methoden .fit(), .predict(): Lernen und Vorhersagen
◼ Eignung für Mittelstufe?
Scikit-Learn

10. ◼ Paket in Python für maschinelles Lernen
◼ Methoden .fit(), .predict(): Lernen und Vorhersagen
◼ Eignung für Mittelstufe?
Scikit-Learn

11. ◼ Siehe Workshop von U. Künzi und B.Keller:
„Scipy und Jupyter Lab für den Mathematikunterricht“
PandasMatplotlib
Jupyter notebook
Python NumPy
Scipy-Stack

12. Ein Beispiel für Maschinelles Lernen
◼ Datengenerierende Verteilung

13. ◼ Datengenerierende Verteilung
◼ (Trainings-)Datenpunkte im Streudiagramm:
Ein Beispiel für Maschinelles Lernen

14. ◼ Datengenerierende Verteilung
◼ (Trainings-)Datenpunkte im Streudiagramm
◼ Füge 10% Rauschen hinzu: „Falsch“ bezeichnete Datenpunkte
Ein Beispiel für Maschinelles Lernen

15. ◼ Datengenerierende Verteilung
◼ (Trainings-)Datenpunkte im Streudiagramm
◼ Füge 10% Rauschen hinzu: „Falsch“ bezeichnete Datenpunkte
◼ Datengenerierende Verteilung in der Praxis fast immer unbekannt
Ein Beispiel für Maschinelles Lernen

16. Verallgemeinerung
◼ Trainingspunkte mit Label gegeben
◼ Wie sollen neue Testpunkte klassifiziert werden?

17. Supervised Learning,
überwachtes Lernen
Lernalgorithmus
mit Kostenfunktion
Finale Hypothese
Trainingsdaten
Völlig unbekannte
Zielfunktion
◼ Kostenfunktion: wie gut passt eine
Hypothese zu den Daten?
◼ Lernalgorithmus sucht bestmögliche
Hypothese
◼ Kostenfunktion definiert „bestmöglich“:
z.B. mittlere quadratische Abweichung
Hypothesenmenge
(z.B. alle kNN mit k=5)
(Z.B. Gradientenabstieg mit
Least-Squares-Kostenfunktion)

18. K-Nächste Nachbarn
◼ Welches Klassenlabel erhält ein neuer Datenpunkt?
◼ Das Selbe wie seine k nächsten Nachbarn!

19. K-Nächste Nachbarn
◼ Welches Klassenlabel erhält ein neuer Datenpunkt?
◼ Das Selbe wie seine k nächsten Nachbarn!
◼ Wieviele Nachbarn berücksichtigen?

20. Hyperparameter k
Underfitting !
Overfitting!

21. Overfitting bei Regression
◼ Fitte ein Polynom an Punkte
◼ Perfekter Fit an Trainingspunkte: schlechte Verallgemeinerung
Underfitting ! Overfitting!

22. Kaggle Competitions

23. Kaggle.com
◼ Maschinelles Lernen lernen!
◼ Datensätze, Tutorien, Diskussionsforen, …
◼ Kaggle Notebooks (mit Rechenkapazität)
◼ Kaggle InClass Competitions

24. Freie Datensätze

25. Freie Kursmaterialien auf Kaggle
◼ https://www.kaggle.com/learn/machine-learning
◼ Ca. 4h Materialien
◼ 19 Lektionen
◼ Level 1, Level 2

26. Diskussionsforen

27. Notebooks mit Rechenkapazität
◼ Kaggle Kernels: Cloud Computerumgebung
◼ Ziele:
◼ Austausch, Lernen, Kollaboration
◼ Reproduzierbarkeit
◼ Kernels für
◼ R,
◼ Python
◼ Jupyter Notebooks

28. https://www.kaggle.com/competitions
◼ Machine Learning Lernen durch Competitions: Erfahrungsaufbau
◼ Trainingsdatensatz mit korrektem Label
Testdatensatz mit unbekanntem Label
◼ Competitions: Lade Vorhersage auf Kaggle.com hoch

29. https://www.kaggle.com/competitions
Eigene Kaggle Competition hosten!

30. Private Kaggle Competitions

31. Private Kaggle Competitions
Kontaktieren
Sie
m
ich! beat.toedtli@
ffhs.ch

32. ◼ An der Fernfachhochschule Schweiz in 3 Modulen eingesetzt
◼ Kontext Berufsweiterbildung in Data Science (MAS/CAS Web4B)
◼ Ziel: Praktische Erfahrung sammeln in Machine Learning
mit Python und Scikit-Learn
◼ „Die Kaggle-Competitions waren super, unbedingt beibehalten.“
Hochschul-
Unterrichtsbeispiel

33. Hochschul-
Unterrichtsbeispiel
◼ https://www.kaggle.com/c/daan-kreuz-kreis-plus
◼ Bilder:
◼ „Lösung“: Hauptkomponentenanalyse funktioniert gut
id,target
0,2
1,1
2,0
3,0
4,2
5,0
6,0
...

34. Kaggle Kernels

35. New Kernel

36. InClass Kaggle Competition
◼ Geben Sie den folgenden Link ein:
www.kaggle.com/c/oed19classification
oder
http://tinyurl.com/yye89e4v
◼ Klicken Sie auf Kernels
◼ Klicken Sie auf den „Demo-Notebook OED2019“
◼ Klicken Sie auf „Fork“, um Ihr eigenes editierbares Notebook zu erhalten

37. Demo-Kernel
◼ https://www.kaggle.com/c/oed19classification/overview
◼ Oder bit.ly/2TDz0Gu

38. Alternative Kaggle Competition:
Regression? (Zusatzmaterial)
◼ Suchen Sie nach „oed19“ oder geben Sie den folgenden Link ein:
https://www.kaggle.com/c/OED19-Regression
◼ Klicken Sie auf den „Demo_Kaggle_Submission“ Kernel
◼ Klicken Sie auf „Fork“,
um Ihr eigenes editierbares Notebook zu erhalten

39. InClass Kaggle Competition
(ohne Kernels)
◼ Alternativ: Laden Sie die Daten herunter und entpacken Sie sie.
◼ Das Jupyter Notebook lässt sich ebenfalls herunterladen:

40. Submission!
◼ Schreibe die Submission-Datei:
◼ Lade Datei hoch:
◼ Format: Titelzeile „Id,y“

41. An Competition mit Kernel
teilnehmen
◼ Bearbeiten Sie Ihr Notebook
◼ „Committen“ Sie es

42. Commit eines Kernels
◼ Speichern einer Version des Notebooks: Reproduzierbarkeit der Resultate!

43. An Competition mit Kernel
teilnehmen
◼ Committen Sie das Notebook
◼ Submitten Sie die Ausgabe Ihres Notebooks als Vorhersage für die
Competition

44. Bewertung im Wettbewerb
◼ Kompetitives Element: Wer ist wie gut?
◼ Viel wichtiger, aber oft geheim:
◼ Welche Methoden funktionieren gut?

45. Leaderboard: Wer gewinnt?

46. Erfahrungen aus dem
Hochschulunterricht:
Limitierte Anzahl Submissions

47. Erfahrungen aus dem
Hochschulunterricht:
Limitierte Anzahl Submissions

48. Hochschul-Unterrichtsbeispiel 1
◼ Kaggle-Suche nach
“male-daan-schnell-mal-klassifizieren“
◼ Lernziel hier: Relevante Features
sind nicht x und y, sondern

49. Danke für die Aufmerksamkeit!
◼ Kontakt: beat.toedtli@gmail.com
◼ Fragen?

50. Erstellen von Kaggle-Competitions