Sind Sie schon jemals in eine Situation geraten in der Sie einen Check brauchen den es noch nicht gibt ? Bei mir war das der Fall mit Rancher – Einer Kubernetes On-Prem Lösung. Nun ist Icinga nicht so gut dynamische Workloads zu überwachen, aber es gibt ja auch Deploys die bestehen bleiben (Produktion). Wie kann ich diese also in mein Firmenweites Monitoring integrieren ? Anhand der RestAPI und Chatgpt habe ich versucht ein auf meine Bedürfnisse passendes Addon zu schreiben.

1. Das Experiment – KI zum erstellen von
Monitoring Plugins Nutzen
Lukas Matecki
09.11.2023

2. KI nutzen für Monitoring| 2 Lukas Matecki LVR-InfoKom
Agenda
1. Vorstellung
2. Zündfunke
3. Vorbereitung
4. Anwendung Fälle / Live Demo
5. Gefahren
6. Weitere Möglichkeiten
7. Fazit und anschließende Diskussion

3. KI nutzen für Monitoring| 3 Lukas Matecki LVR-InfoKom
Vorstellung(1)

4. KI nutzen für Monitoring| 4 Lukas Matecki LVR-InfoKom
< JOB >
» Bei Infokom seit 2008
» Serviceowner Monitoring
» Also Verantwortlich für alles
um das Thema Monitoring
» Systemspezialist für
Systemprogrammierung
» Viel F&E zu den Themen
» Monitoring
» KI
» Kubernetes
» Blockchain
» …
Vorstellung(2)
< Privat >
» Kölner
» Karnevalist
» 3D Druck begeistert
» D&D Game Master
» Heimwerker
» SmartHome Spezialist
» Gamer

5. KI nutzen für Monitoring| 5 Lukas Matecki LVR-InfoKom
Zündfunke (1) – Private Experimente
» Aufkommen des Hypes um ChatGPT
» Ganz so schlimm wird es nicht dennoch:
» Misalignment / Molloch (1)
» Büroklammern Problem (2)
AI Won’t Replace Humans — But
Humans With AI Will Replace
Humans Without AI (3)

6. KI nutzen für Monitoring| 6 Lukas Matecki LVR-InfoKom
Zündfunke (2) Vorteile KI-Gestützter Arbeit
» Lernkurve wir erheblich abgeflacht
» Zeitersparnis
» Frustrationsgrad minimiert !?
» schneller Ergebnisse
» Ressourcen (Entwickler) Effizienter nutzen
» Grundgerüst wird generiert
» Prototypenerstellung leicht gemacht
» vereinfacht lernen neuer Technologien

7. KI nutzen für Monitoring| 7 Lukas Matecki LVR-InfoKom
» Jeder soll es anwenden können
» KI soll schon auf ein Model trainiert sein
Feintunen sprengt den Scope (4)
» Am liebsten on-Prem
Derzeit noch schwierig, in Zukunft aber evtl. machbar
» Beste Lösungen derzeit
» ChatGPT
» Github-Copilot
» AutoGPT
Vorbereitung(1) - Prämisse

8. KI nutzen für Monitoring| 8 Lukas Matecki LVR-InfoKom
Vorbereitung(2)
» Auswahl der Tools
» ChatGPT + API
» vsCode

9. KI nutzen für Monitoring| 9 Lukas Matecki LVR-InfoKom
Vorbereitung(3) – ChatGPT vs. CoPilot
» Auswahl der Tools
» Github Copilot (LAB)
» Kann man machen
Copilot GPT API

10. KI nutzen für Monitoring| 10 Lukas Matecki LVR-InfoKom
Anwendungsfall 1
» RESTAPI`s
» Erstellen von Skript Skeletons in wenigen Minuten
» Ergebnis kann durch
weitere Kontext
verbessert werden
» Klappt nur bei kleinen
» Datenmengen

11. KI nutzen für Monitoring| 11 Lukas Matecki LVR-InfoKom
» Anpassen von bestehende Skripten
» Rahmen für Monitoring Skripte erstellen
Live Demo

12. KI nutzen für Monitoring| 12 Lukas Matecki LVR-InfoKom
» AutoGPT
Live Demo (2)

13. KI nutzen für Monitoring| 13 Lukas Matecki LVR-InfoKom
» LLM != KI -> Nicht so smart
» LLM Lügen (6)
» Kompliziertere Lösungen – Over Engineering
» Steuerung durch den Entwickler (das sind wir in diesem Fall) notwendig
» Große Pattern
» Auto GPT noch nicht stabil genug
» Chat GPT zu beschränkt
– Während des Erstellens schon veraltet… GPT4 Data Analyse (5)
» DSVGO
» Gestern Mittag – DDoS auf OpenAI?
Gefahren / Probleme

14. KI nutzen für Monitoring| 14 Lukas Matecki LVR-InfoKom
Weitere Möglichkeiten
» Coding
» Github Co-Pilot
» Smarte Autovervollständigung, aber evtl. in Kombination mit ChatGPT Interessant
» AutoGPT – Sehr interessant, aber noch nicht bereit für die Produktion – Wenn jemals…
» Andere LLM – Haben noch Hausaufgaben zu machen ;D
» Überblick: HugginFace (8)
» Für Bilder
» https://app.leonardo.ai/ - Nett
» www.midjourney.com
» Für Sprache
» https://elevenlabs.io/
» Urenkel Scam wird noch viel gefährlicher
» Für Präsentationen
» https://gamma.app/
Habe ich natürlich nicht verwendet….

15. KI nutzen für Monitoring| 15 Lukas Matecki LVR-InfoKom
» Fazit // Diskussion
» KI – Der Akkuschrauber der Informatik
» Rasende Weiterentwicklung
» Auf kurz oder lang sollte die Qualität des Supports dadurch steigen !
» Wissen besser verteilt werden
» Evtl. komplett weniger Beratungsbedarf / Support anfragen
» On-Prem sollte auch möglich werden
Fazit

16. KI nutzen für Monitoring| 16 Lukas Matecki LVR-InfoKom
Vielen Dank!

17. KI nutzen für Monitoring| 17 Lukas Matecki LVR-InfoKom
» (1) https://www.strategisches-storytelling.de/die-story-von-ki-und-bueroklammern/
» (2) https://www.youtube.com/watch?v=KCSsKV5F4xc
» (3) https://hbr.org/2023/08/ai-wont-replace-humans-but-humans-with-ai-will-
replace-humans-without-ai
(4) https://www.youtube.com/watch?v=Q9zv369Ggfk
» (5) https://www.golem.de/news/openai-chatgpt-wechselt-automatisch-zu-dall-e-
oder-gpt-4-2310-178936.html
» (6) https://de.wikipedia.org/wiki/Halluzination_(K%C3%BCnstliche_Intelligenz
» (7) https://github.com/Significant-Gravitas/AutoGPT
» https://huggingface.co/
Quellen