Generative KI ermöglicht eine revolutionäre Produktivitätssteigerung bei der Erzeugung und Verwendung von Bildern, Texten und vielem mehr. Doch wie funktionieren solche Systeme und was ist der Unterschied zwischen kommerzielle vs. Open Source Modellen. Die ersten Erkenntnisse aus meinen AI-Summercamp 23 anbei. With the help of generative AI, productivity in producing and using text, graphics, and other things will dramatically increase. But how do such systems work, and what is the difference between commercial vs. open-source models? The first insights of my AI summer camp 23 are attached.

1. © 2023 | Systemliner Kommunikations- & Managementberatung Hans Peter Knaust, Hamburg Seite 1 von 1
AI-Summercamp 23: Anwendungsfälle und Funktionsweise generativer KI-Systeme
Generative KI ermöglicht eine revolutionäre Produktivitätssteigerung bei der Erzeugung und Verwen-
dung von Bildern, Texten und vielem mehr. Die Einsatzmöglichkeiten sind vielfältig und umfassen
Spracherkennung, Textzusammenfassungen, Recherchen, Sprachassistenzsysteme und Kunden-
kommunikation mit Self-Services und Chatbots. Anwendungsfelder sind Marketingkampagnen, Chat-
bots, M2M-Vertrieb, Schulungen und Softwareentwicklung. Doch wie funktionieren solche Systeme?
Generative KI - Funktionsweise
Generative KI erstellt aus Trainingsdaten mittels Machine Learning (ML) neue Inhalte wie Texte,
Code, Bilder oder Videos. Bekannte Beispiele sind GPT-4, PaLM 2, DALL-E 2 und Stable Diffusion.
Solche Modelle werden in zwei Hauptkategorien unterteilt: Foundation Models (FMs) und Large Lan-
guage Models (LLMs). FMs sind Basisversionen, während LLMs komplexe und leistungsfähige Mo-
delle mit Millionen von Parametern sind. FMs dienen als Grundlage, um spezifische Aufgaben zu er-
lernen. LLMs können umfassendere Sprachverarbeitungsaufgaben wie Texterzeugungen, Überset-
zungen, Zusammenfassungen auszuführen. Das Modell treibt signifikant die späteren Betriebskosten.
Die Feinabstimmung des vortrainierten Basismodells hilft, Nuancen, Terminologien und spezifischen
Muster anzupassen. Im Prompt-Engineering werden die individuellen Fragestellungen entworfen, for-
muliert, verfeinert und optimiert. In der Umsetzung wird die bestehende Unternehmens-IT um eine
MLOps-Plattform erweitert. Sie umfasst ein Modell-Hub, statistische Methoden, Tools für Data Mining
und Predictive Modeling, eine Prompt-Bibliothek, ein Optimierungsmodul sowie Schnittstellen zu Da-
tenplattformen, ERP-Systemen und der IT-Infrastruktur. Über geführter Online-Dialogsysteme, RPA-
Roboter, Chatbots, etc. werden die Modelle aufgerufen und die Ergebnisse in Backendsysteme, Apps
und Data Lakes ausgegeben. Für eine datenschutzkonforme Verarbeitung wird ein Richtlinienma-
nagement benötigt.
Kommerzielle vs. Open Source Modelle
Jede KI-Lösung benötigt qualitativ hochwertige Trainingsdaten zur Parametrisierung. Modelle können
mit Unternehmensdaten trainiert werden oder bereits vortrainierte Modelle nutzten. Aufgrund Komple-
xität, Zeit- und Kostenaufwand werden häufig vortrainierte Modelle genutzt. Vortrainierte Modelle gibt
es als kommerzielle Versionen wie beispielsweise GPT von Open AI oder Open Source Modelle wie
LLaMA von Meta and Microsoft. Die Wahl des Modells sollte Anwendungsfälle, Wachstumspfade und
IT-Architekturen berücksichtigen.
Vortrainierte kommerzielle Modelle ermöglichen einen schnellen, kostengünstigen Start ohne tiefge-
hende IT-Kenntnisse. Es existieren erprobte und vorkonfigurierte Modelle, Schnittstellen und Prompts
sowie etablierte Supportprozesse mit Herstellern und Dienstleistern. Allerdings haben alle Nutzer Zu-
griff auf dasselbe Modell mit begrenzten Anpassungsmöglichkeiten. Auch ist das Modell für Nutzer
eine Blackbox, neue Funktionen für kommende Releases sind nicht planbar und beeinflussen Konfigu-
rationen und Schnittstellen. Vom Anbieter aktualisierte Content-Filter können Ergebnisse unvorher-
sehbar ändern. Die Systemperformance ist schwer abschätzbar und die Einhaltung von Data Privacy
Regeln kaum kontrollierbar. Die Abrechnung erfolgt über Tokens, deren Berechnung komplex ist.
Der Aufbau eines vortrainierten Open Source Modells erfordert ein AI-Kernteam mit IT-Architekten,
Analysten, Datenspezialisten, KI-Dienstleister und Communities. Anpassungen erfordert mehr Zeit
und Ressourcen, ermöglichen jedoch individuelle Funktionen und höhere Transparenz. Neue Funktio-
nen, Content-Filter und Updates können bedarfsgerecht implementiert werden, was Kosten minimiert
und einen Vendor Lock-in verhindert. Mit Kenntnissen über Modell und IT-Strukturen lassen sich Sys-
temperformance und Kosten gut steuern. Datenschutzregeln können in der eigenen IT-Umgebung
leichter eingehalten werden.