SlideShare ist ein Scribd-Unternehmen logo
1 von 12
MIT KAFKA AUF DEM WEG IN DIE PRODUKTION
MOTIVATION, HERAUSFORDERUNGEN, AUSBLICK
W. Rothmayer, M. Strobl
Seite 2Mit Kafka auf dem Weg in die Produktion | 06.06.2019
MOTIVATION EINSATZ KAFKA
WENN ES WIRKLICH KRITISCH WIRD…
ProductVision
„Our product is supposed to deal with external JIS and JIT material call offs for production line supply.
It will replacethe existing SPAB central and de-central systems.“
è Time to Recovery: 30 min è Sonst Bandstillstand è Kritikalität wie Produktionssteuerung!
Quelle: Produkthomepage iJIX https://atc.bmwgroup.net/confluence/display/SPABIJIX/Produkt+Homepage+iJIX
Versorgungskontrolle
(CSC)
JIT/JIS Abruferstellung (iJIX)
Seite 3Mit Kafka auf dem Weg in die Produktion | 06.06.2019
MOTIVATION EINSATZ KAFKA
… UND EXTERNE ENTKOPPLUNG ERST RECHT…
Quelle: Produkthomepage iJIX https://atc.bmwgroup.net/confluence/display/SPABIJIX/Produkt+Homepage+iJIX
JIT/JIS Abruferstellung (iJIX)
Anbindung externer Systeme mit Kafka-Topics àTopics als asynchrone public API
Interne Entkopplung durch Kafka-Topics
Versorgungskontrolle
SAP
Datalake
Seite 4Mit Kafka auf dem Weg in die Produktion | 06.06.2019
MOTIVATION EINSATZ KAFKA
VERTIKALE VS. HORIZONTALE ARCHITEKTUR
§ Klassischer Ansatz (GUI à Applicationserver à Datenbank) à „Vertikale Architektur“
- User-Interaktionen (kurz)
- EchteTransaktionen (REST-Calls)
- API mittels Request/Response
§ Broker-Architektur (Daten à Prozess à Daten) à „Horizontale Architektur“
- Datenorientierung
- Lose Kopplung
- API mittels Events (Publish-Subscribe) à Interne und Externe Entkopplung!!!
èKafka als wesentliche Infrastruktur-Komponente für datenorientierte Services
èKafka als wesentlicher Bestandteil einer Plattformstrategie für Produkte oder Domänen
èKafka als wesentliches Strukturierungselement für lose Kopplung intern und oder extern
Seite 5Mit Kafka auf dem Weg in die Produktion | 06.06.2019
HERAUSFORDERUNGEN
ALLES HAT SEINEN PREIS…
§ Ein paar Herausforderungen…
- Komplexe Infrastruktur mit einem komplexen Aufbau und einem komplexen
Programmiermodell
- Ohne intensive Beschäftigung mit Kafka kein Erfolg
à Zumindest Grundverständnis notwendig.
- Mapping der Technik auf die wirklichen fachlichen Anforderungen entscheidend
àWann brauche ich eine horizontale Architektur wirklich?
- Aufsetzenvon Kafka in der OpenShift (Kann man machen, Delegieren ist möglich)
- Kafka selbst betreiben (im FeatureTeam)? à Besser Managed Service nutzen.
Bildquelle: Designing Event-Driven Systems; Ben Stopford; May 2018; O’Reilly Media, Inc.
Seite 6Mit Kafka auf dem Weg in die Produktion | 06.06.2019
AUSBLICK
WHAT COMES NEXT…
§ Lücken in der „horizontalen“ Architektur schließen
- Zuviele Glue-Code (Mapping, Mapping ohne Ende) à Verschwendung wenn es „einfacher“ geht
- UseCase zur Verwendungvon Consumer und Producer API meist nicht gegeben.
- Was kann Kafka-Streams und KSQL?
- Was kann Kafka-Connect?
- Wie werden wir schlanker und skalierbarer?
§ Ausweitung der Managed Services klären und vereinbaren
- Kafka-REST-Proxy à Keine Kafka-API Calls erforderlich, Interaktion wie gewohnt mittels REST
- Kafka-Streams, in Kombination mit KSQL à Stream-Processing
- Kafka-Connect à Anbindung Legacy (z.B. MQS), Datenbanken, MQTT
§ Securitythemen klären und transparent machen
- OffenesThema
- Lösungsansätzevorhanden, Sicherheitsstufen nicht so richtig klar
- Verschlüsselte Übertragung, ACLs möglich
Seite 7Mit Kafka auf dem Weg in die Produktion | 06.06.2019
APPLIKATION ORDIC.
STAND IST.
FG-7
Kafka
PIMA
Kafka
ORDICMatching
Eigene Consumer
Implementierungen
Kombination beider
Topics alsTeil der
Applikation
Persistierenvon Daten die
bereits in Kafka persistent
gehalten werden
Topics auf verschiedenen
Kafka-Clusternverteilt
Kafka
Consumer
Loop
Kafka
Consumer
Loop
ORDIC Core
Seite 8Mit Kafka auf dem Weg in die Produktion | 06.06.2019
APPLIKATION ORDIC.
ZIELBILD – SCHRITT 1.
FG-7
Kafka
PIMA
Kafka
ORDICMatching
Spiegelung externer Topics um
Streaming Operationen auf
zentralem Cluster zu ermöglichen
Kafka
Consumer
Loop
Kafka
Consumer
Loop
Kafka
Mirror Maker
ORDIC Core
Seite 9Mit Kafka auf dem Weg in die Produktion | 06.06.2019
APPLIKATION ORDIC.
ZIELBILD – SCHRITT 2.
FG-7
Kafka
PIMA
Kafka
ORDICMatching
Kafka
Mirror Maker
Nutzung der Kafka Streams API zur
Kombination beider Topics und
Ausgabe in ein neuesTopic
Kafka
Consumer
Loop
ORDIC Core
Seite 10Mit Kafka auf dem Weg in die Produktion | 06.06.2019
APPLIKATION ORDIC.
ZIELBILD – SCHRITT 3.
FG-7
Kafka
PIMA
Kafka
ORDIC
Kafka
Consumer
Loop
Rückbau der Persistenzschicht
und des Matchings in ORDIC
Kafka
Mirror Maker
ORDIC Core
Seite 11Mit Kafka auf dem Weg in die Produktion | 06.06.2019
APPLIKATION ORDIC.
ZIELBILD – SCHRITT 4.
FG-7
Kafka
PIMA
Kafka
Kafka
Mirror Maker
Kafka
REST Proxy
HTTP
Nutzung des Kafka REST Proxy –
keinerlei Abhängigkeiten zu Kafka
seitens ORDIC Applikation
ORDIC
ORDIC Core
Seite 12Mit Kafka auf dem Weg in die Produktion | 06.06.2019
Q&A
ABGESCHRECKT ODER NEUGIERIG GEWORDEN?

Weitere ähnliche Inhalte

Was ist angesagt?

Flink powered stream processing platform at Pinterest
Flink powered stream processing platform at PinterestFlink powered stream processing platform at Pinterest
Flink powered stream processing platform at PinterestFlink Forward
 
Securing Kafka
Securing Kafka Securing Kafka
Securing Kafka confluent
 
New Approaches for Fraud Detection on Apache Kafka and KSQL
New Approaches for Fraud Detection on Apache Kafka and KSQLNew Approaches for Fraud Detection on Apache Kafka and KSQL
New Approaches for Fraud Detection on Apache Kafka and KSQLconfluent
 
Introduction to KSQL: Streaming SQL for Apache Kafka®
Introduction to KSQL: Streaming SQL for Apache Kafka®Introduction to KSQL: Streaming SQL for Apache Kafka®
Introduction to KSQL: Streaming SQL for Apache Kafka®confluent
 
Workflow Engines & Event Streaming Brokers - Can they work together? [Current...
Workflow Engines & Event Streaming Brokers - Can they work together? [Current...Workflow Engines & Event Streaming Brokers - Can they work together? [Current...
Workflow Engines & Event Streaming Brokers - Can they work together? [Current...Natan Silnitsky
 
Microservices Integration Patterns with Kafka
Microservices Integration Patterns with KafkaMicroservices Integration Patterns with Kafka
Microservices Integration Patterns with KafkaKasun Indrasiri
 
Scouter와 influx db – grafana 연동 가이드
Scouter와 influx db – grafana 연동 가이드Scouter와 influx db – grafana 연동 가이드
Scouter와 influx db – grafana 연동 가이드Ji-Woong Choi
 
ksqlDB: A Stream-Relational Database System
ksqlDB: A Stream-Relational Database SystemksqlDB: A Stream-Relational Database System
ksqlDB: A Stream-Relational Database Systemconfluent
 
Introduction to Apache Kafka and Confluent... and why they matter
Introduction to Apache Kafka and Confluent... and why they matterIntroduction to Apache Kafka and Confluent... and why they matter
Introduction to Apache Kafka and Confluent... and why they matterconfluent
 
Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...
Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...
Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...confluent
 
Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...
Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...
Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...confluent
 
Spring Boot+Kafka: the New Enterprise Platform
Spring Boot+Kafka: the New Enterprise PlatformSpring Boot+Kafka: the New Enterprise Platform
Spring Boot+Kafka: the New Enterprise PlatformVMware Tanzu
 
Migration d'une Architecture Microservice vers une Architecture Event-Driven ...
Migration d'une Architecture Microservice vers une Architecture Event-Driven ...Migration d'une Architecture Microservice vers une Architecture Event-Driven ...
Migration d'une Architecture Microservice vers une Architecture Event-Driven ...Daniel Rene FOUOMENE PEWO
 
Serverless integration with Knative and Apache Camel on Kubernetes
Serverless integration with Knative and Apache Camel on KubernetesServerless integration with Knative and Apache Camel on Kubernetes
Serverless integration with Knative and Apache Camel on KubernetesClaus Ibsen
 
Kafka Tutorial: Kafka Security
Kafka Tutorial: Kafka SecurityKafka Tutorial: Kafka Security
Kafka Tutorial: Kafka SecurityJean-Paul Azar
 
Kafka Intro With Simple Java Producer Consumers
Kafka Intro With Simple Java Producer ConsumersKafka Intro With Simple Java Producer Consumers
Kafka Intro With Simple Java Producer ConsumersJean-Paul Azar
 
Exactly-Once Financial Data Processing at Scale with Flink and Pinot
Exactly-Once Financial Data Processing at Scale with Flink and PinotExactly-Once Financial Data Processing at Scale with Flink and Pinot
Exactly-Once Financial Data Processing at Scale with Flink and PinotFlink Forward
 
Consumer offset management in Kafka
Consumer offset management in KafkaConsumer offset management in Kafka
Consumer offset management in KafkaJoel Koshy
 
Event driven architecture with Kafka
Event driven architecture with KafkaEvent driven architecture with Kafka
Event driven architecture with KafkaFlorence Next
 

Was ist angesagt? (20)

RabbitMQ & Kafka
RabbitMQ & KafkaRabbitMQ & Kafka
RabbitMQ & Kafka
 
Flink powered stream processing platform at Pinterest
Flink powered stream processing platform at PinterestFlink powered stream processing platform at Pinterest
Flink powered stream processing platform at Pinterest
 
Securing Kafka
Securing Kafka Securing Kafka
Securing Kafka
 
New Approaches for Fraud Detection on Apache Kafka and KSQL
New Approaches for Fraud Detection on Apache Kafka and KSQLNew Approaches for Fraud Detection on Apache Kafka and KSQL
New Approaches for Fraud Detection on Apache Kafka and KSQL
 
Introduction to KSQL: Streaming SQL for Apache Kafka®
Introduction to KSQL: Streaming SQL for Apache Kafka®Introduction to KSQL: Streaming SQL for Apache Kafka®
Introduction to KSQL: Streaming SQL for Apache Kafka®
 
Workflow Engines & Event Streaming Brokers - Can they work together? [Current...
Workflow Engines & Event Streaming Brokers - Can they work together? [Current...Workflow Engines & Event Streaming Brokers - Can they work together? [Current...
Workflow Engines & Event Streaming Brokers - Can they work together? [Current...
 
Microservices Integration Patterns with Kafka
Microservices Integration Patterns with KafkaMicroservices Integration Patterns with Kafka
Microservices Integration Patterns with Kafka
 
Scouter와 influx db – grafana 연동 가이드
Scouter와 influx db – grafana 연동 가이드Scouter와 influx db – grafana 연동 가이드
Scouter와 influx db – grafana 연동 가이드
 
ksqlDB: A Stream-Relational Database System
ksqlDB: A Stream-Relational Database SystemksqlDB: A Stream-Relational Database System
ksqlDB: A Stream-Relational Database System
 
Introduction to Apache Kafka and Confluent... and why they matter
Introduction to Apache Kafka and Confluent... and why they matterIntroduction to Apache Kafka and Confluent... and why they matter
Introduction to Apache Kafka and Confluent... and why they matter
 
Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...
Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...
Lessons Learned Building a Connector Using Kafka Connect (Katherine Stanley &...
 
Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...
Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...
Event Driven Architecture with a RESTful Microservices Architecture (Kyle Ben...
 
Spring Boot+Kafka: the New Enterprise Platform
Spring Boot+Kafka: the New Enterprise PlatformSpring Boot+Kafka: the New Enterprise Platform
Spring Boot+Kafka: the New Enterprise Platform
 
Migration d'une Architecture Microservice vers une Architecture Event-Driven ...
Migration d'une Architecture Microservice vers une Architecture Event-Driven ...Migration d'une Architecture Microservice vers une Architecture Event-Driven ...
Migration d'une Architecture Microservice vers une Architecture Event-Driven ...
 
Serverless integration with Knative and Apache Camel on Kubernetes
Serverless integration with Knative and Apache Camel on KubernetesServerless integration with Knative and Apache Camel on Kubernetes
Serverless integration with Knative and Apache Camel on Kubernetes
 
Kafka Tutorial: Kafka Security
Kafka Tutorial: Kafka SecurityKafka Tutorial: Kafka Security
Kafka Tutorial: Kafka Security
 
Kafka Intro With Simple Java Producer Consumers
Kafka Intro With Simple Java Producer ConsumersKafka Intro With Simple Java Producer Consumers
Kafka Intro With Simple Java Producer Consumers
 
Exactly-Once Financial Data Processing at Scale with Flink and Pinot
Exactly-Once Financial Data Processing at Scale with Flink and PinotExactly-Once Financial Data Processing at Scale with Flink and Pinot
Exactly-Once Financial Data Processing at Scale with Flink and Pinot
 
Consumer offset management in Kafka
Consumer offset management in KafkaConsumer offset management in Kafka
Consumer offset management in Kafka
 
Event driven architecture with Kafka
Event driven architecture with KafkaEvent driven architecture with Kafka
Event driven architecture with Kafka
 

Ähnlich wie With Kafka on the way to production/Kafka in produktion_ausblick

Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“
Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“
Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“OPEN KNOWLEDGE GmbH
 
Apache Kafka
Apache KafkaApache Kafka
Apache Kafkagedoplan
 
Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)
Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)
Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)sebastianschinzel
 
Event Sourcing mit Apache Kafka
Event Sourcing mit Apache KafkaEvent Sourcing mit Apache Kafka
Event Sourcing mit Apache Kafkapredic8
 
Problemlöser Cloud Technologie: Advanced IT im Unternehmenseinsatz
Problemlöser Cloud Technologie: Advanced IT im UnternehmenseinsatzProblemlöser Cloud Technologie: Advanced IT im Unternehmenseinsatz
Problemlöser Cloud Technologie: Advanced IT im UnternehmenseinsatzcloudSME
 
IPv6 ist da - warum es jetzt keine Ausreden mehr gibt
IPv6 ist da - warum es jetzt keine Ausreden mehr gibtIPv6 ist da - warum es jetzt keine Ausreden mehr gibt
IPv6 ist da - warum es jetzt keine Ausreden mehr gibtMartin Krengel
 
Compilers Everywhere
Compilers EverywhereCompilers Everywhere
Compilers Everywhereberndmueller
 
Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)
Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)
Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)Praxistage
 
Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...
Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...
Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...inovex GmbH
 
Steinzeit war gestern! Wege der Cloud-nativen Evolution.
Steinzeit war gestern! Wege der Cloud-nativen Evolution.Steinzeit war gestern! Wege der Cloud-nativen Evolution.
Steinzeit war gestern! Wege der Cloud-nativen Evolution.QAware GmbH
 
Amazon Web Services: Flaggschiff des Cloud Computings
Amazon Web Services: Flaggschiff des Cloud ComputingsAmazon Web Services: Flaggschiff des Cloud Computings
Amazon Web Services: Flaggschiff des Cloud ComputingsLothar Wieske
 
Günzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloud
Günzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloudGünzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloud
Günzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloudAndreas Günzel
 
Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...
Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...
Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...QAware GmbH
 
Cloud Computing, the next generation of internet hosting
Cloud Computing, the next generation of internet hostingCloud Computing, the next generation of internet hosting
Cloud Computing, the next generation of internet hostingCloudAngels
 
OpenLaszlo - Advanced RIAs for the OpenWeb
OpenLaszlo - Advanced RIAs for the OpenWebOpenLaszlo - Advanced RIAs for the OpenWeb
OpenLaszlo - Advanced RIAs for the OpenWebRaju Bitter
 
IoT Cloud2Cloud Connector
IoT Cloud2Cloud ConnectorIoT Cloud2Cloud Connector
IoT Cloud2Cloud ConnectorMark Teichmann
 
Webinar: Gamechanger Microsoft Power Plattform
Webinar: Gamechanger Microsoft Power PlattformWebinar: Gamechanger Microsoft Power Plattform
Webinar: Gamechanger Microsoft Power PlattformA. Baggenstos & Co. AG
 

Ähnlich wie With Kafka on the way to production/Kafka in produktion_ausblick (20)

Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“
Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“
Auf gehts in die Cloud: „Das kann doch nicht so schwer sein!“
 
Apache Kafka
Apache KafkaApache Kafka
Apache Kafka
 
Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)
Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)
Schwachstellen In Sap Web Anwendungen (OWASP Germany 2009)
 
Event Sourcing mit Apache Kafka
Event Sourcing mit Apache KafkaEvent Sourcing mit Apache Kafka
Event Sourcing mit Apache Kafka
 
Boston webcast hyperconverged_2016-06
Boston webcast hyperconverged_2016-06Boston webcast hyperconverged_2016-06
Boston webcast hyperconverged_2016-06
 
Problemlöser Cloud Technologie: Advanced IT im Unternehmenseinsatz
Problemlöser Cloud Technologie: Advanced IT im UnternehmenseinsatzProblemlöser Cloud Technologie: Advanced IT im Unternehmenseinsatz
Problemlöser Cloud Technologie: Advanced IT im Unternehmenseinsatz
 
IPv6 ist da - warum es jetzt keine Ausreden mehr gibt
IPv6 ist da - warum es jetzt keine Ausreden mehr gibtIPv6 ist da - warum es jetzt keine Ausreden mehr gibt
IPv6 ist da - warum es jetzt keine Ausreden mehr gibt
 
Compilers Everywhere
Compilers EverywhereCompilers Everywhere
Compilers Everywhere
 
Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)
Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)
Frank Schlotter, Mag. Christoph Domanig (Active Business Consult – Cenit)
 
Industrie 4.0: Symposium an der RFH Köln
Industrie 4.0: Symposium an der RFH KölnIndustrie 4.0: Symposium an der RFH Köln
Industrie 4.0: Symposium an der RFH Köln
 
Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...
Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...
Cloud Wars – what‘s the smartest data platform? Vergleich Microsoft Azure, Am...
 
Steinzeit war gestern! Wege der Cloud-nativen Evolution.
Steinzeit war gestern! Wege der Cloud-nativen Evolution.Steinzeit war gestern! Wege der Cloud-nativen Evolution.
Steinzeit war gestern! Wege der Cloud-nativen Evolution.
 
Warum sap hana sql data warehousing
Warum sap hana sql data warehousingWarum sap hana sql data warehousing
Warum sap hana sql data warehousing
 
Amazon Web Services: Flaggschiff des Cloud Computings
Amazon Web Services: Flaggschiff des Cloud ComputingsAmazon Web Services: Flaggschiff des Cloud Computings
Amazon Web Services: Flaggschiff des Cloud Computings
 
Günzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloud
Günzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloudGünzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloud
Günzel/Griesbaum -OpenShift und GitLab: Continuous delivery in der cloud
 
Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...
Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...
Cloud Native Migration: Wie IT-Landschaften ihren Weg auf eine Cloud-Native-P...
 
Cloud Computing, the next generation of internet hosting
Cloud Computing, the next generation of internet hostingCloud Computing, the next generation of internet hosting
Cloud Computing, the next generation of internet hosting
 
OpenLaszlo - Advanced RIAs for the OpenWeb
OpenLaszlo - Advanced RIAs for the OpenWebOpenLaszlo - Advanced RIAs for the OpenWeb
OpenLaszlo - Advanced RIAs for the OpenWeb
 
IoT Cloud2Cloud Connector
IoT Cloud2Cloud ConnectorIoT Cloud2Cloud Connector
IoT Cloud2Cloud Connector
 
Webinar: Gamechanger Microsoft Power Plattform
Webinar: Gamechanger Microsoft Power PlattformWebinar: Gamechanger Microsoft Power Plattform
Webinar: Gamechanger Microsoft Power Plattform
 

Mehr von confluent

Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...
Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...
Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...confluent
 
Santander Stream Processing with Apache Flink
Santander Stream Processing with Apache FlinkSantander Stream Processing with Apache Flink
Santander Stream Processing with Apache Flinkconfluent
 
Unlocking the Power of IoT: A comprehensive approach to real-time insights
Unlocking the Power of IoT: A comprehensive approach to real-time insightsUnlocking the Power of IoT: A comprehensive approach to real-time insights
Unlocking the Power of IoT: A comprehensive approach to real-time insightsconfluent
 
Workshop híbrido: Stream Processing con Flink
Workshop híbrido: Stream Processing con FlinkWorkshop híbrido: Stream Processing con Flink
Workshop híbrido: Stream Processing con Flinkconfluent
 
Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...
Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...
Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...confluent
 
AWS Immersion Day Mapfre - Confluent
AWS Immersion Day Mapfre   -   ConfluentAWS Immersion Day Mapfre   -   Confluent
AWS Immersion Day Mapfre - Confluentconfluent
 
Eventos y Microservicios - Santander TechTalk
Eventos y Microservicios - Santander TechTalkEventos y Microservicios - Santander TechTalk
Eventos y Microservicios - Santander TechTalkconfluent
 
Q&A with Confluent Experts: Navigating Networking in Confluent Cloud
Q&A with Confluent Experts: Navigating Networking in Confluent CloudQ&A with Confluent Experts: Navigating Networking in Confluent Cloud
Q&A with Confluent Experts: Navigating Networking in Confluent Cloudconfluent
 
Citi TechTalk Session 2: Kafka Deep Dive
Citi TechTalk Session 2: Kafka Deep DiveCiti TechTalk Session 2: Kafka Deep Dive
Citi TechTalk Session 2: Kafka Deep Diveconfluent
 
Build real-time streaming data pipelines to AWS with Confluent
Build real-time streaming data pipelines to AWS with ConfluentBuild real-time streaming data pipelines to AWS with Confluent
Build real-time streaming data pipelines to AWS with Confluentconfluent
 
Q&A with Confluent Professional Services: Confluent Service Mesh
Q&A with Confluent Professional Services: Confluent Service MeshQ&A with Confluent Professional Services: Confluent Service Mesh
Q&A with Confluent Professional Services: Confluent Service Meshconfluent
 
Citi Tech Talk: Event Driven Kafka Microservices
Citi Tech Talk: Event Driven Kafka MicroservicesCiti Tech Talk: Event Driven Kafka Microservices
Citi Tech Talk: Event Driven Kafka Microservicesconfluent
 
Confluent & GSI Webinars series - Session 3
Confluent & GSI Webinars series - Session 3Confluent & GSI Webinars series - Session 3
Confluent & GSI Webinars series - Session 3confluent
 
Citi Tech Talk: Messaging Modernization
Citi Tech Talk: Messaging ModernizationCiti Tech Talk: Messaging Modernization
Citi Tech Talk: Messaging Modernizationconfluent
 
Citi Tech Talk: Data Governance for streaming and real time data
Citi Tech Talk: Data Governance for streaming and real time dataCiti Tech Talk: Data Governance for streaming and real time data
Citi Tech Talk: Data Governance for streaming and real time dataconfluent
 
Confluent & GSI Webinars series: Session 2
Confluent & GSI Webinars series: Session 2Confluent & GSI Webinars series: Session 2
Confluent & GSI Webinars series: Session 2confluent
 
Data In Motion Paris 2023
Data In Motion Paris 2023Data In Motion Paris 2023
Data In Motion Paris 2023confluent
 
Confluent Partner Tech Talk with Synthesis
Confluent Partner Tech Talk with SynthesisConfluent Partner Tech Talk with Synthesis
Confluent Partner Tech Talk with Synthesisconfluent
 
The Future of Application Development - API Days - Melbourne 2023
The Future of Application Development - API Days - Melbourne 2023The Future of Application Development - API Days - Melbourne 2023
The Future of Application Development - API Days - Melbourne 2023confluent
 
The Playful Bond Between REST And Data Streams
The Playful Bond Between REST And Data StreamsThe Playful Bond Between REST And Data Streams
The Playful Bond Between REST And Data Streamsconfluent
 

Mehr von confluent (20)

Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...
Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...
Catch the Wave: SAP Event-Driven and Data Streaming for the Intelligence Ente...
 
Santander Stream Processing with Apache Flink
Santander Stream Processing with Apache FlinkSantander Stream Processing with Apache Flink
Santander Stream Processing with Apache Flink
 
Unlocking the Power of IoT: A comprehensive approach to real-time insights
Unlocking the Power of IoT: A comprehensive approach to real-time insightsUnlocking the Power of IoT: A comprehensive approach to real-time insights
Unlocking the Power of IoT: A comprehensive approach to real-time insights
 
Workshop híbrido: Stream Processing con Flink
Workshop híbrido: Stream Processing con FlinkWorkshop híbrido: Stream Processing con Flink
Workshop híbrido: Stream Processing con Flink
 
Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...
Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...
Industry 4.0: Building the Unified Namespace with Confluent, HiveMQ and Spark...
 
AWS Immersion Day Mapfre - Confluent
AWS Immersion Day Mapfre   -   ConfluentAWS Immersion Day Mapfre   -   Confluent
AWS Immersion Day Mapfre - Confluent
 
Eventos y Microservicios - Santander TechTalk
Eventos y Microservicios - Santander TechTalkEventos y Microservicios - Santander TechTalk
Eventos y Microservicios - Santander TechTalk
 
Q&A with Confluent Experts: Navigating Networking in Confluent Cloud
Q&A with Confluent Experts: Navigating Networking in Confluent CloudQ&A with Confluent Experts: Navigating Networking in Confluent Cloud
Q&A with Confluent Experts: Navigating Networking in Confluent Cloud
 
Citi TechTalk Session 2: Kafka Deep Dive
Citi TechTalk Session 2: Kafka Deep DiveCiti TechTalk Session 2: Kafka Deep Dive
Citi TechTalk Session 2: Kafka Deep Dive
 
Build real-time streaming data pipelines to AWS with Confluent
Build real-time streaming data pipelines to AWS with ConfluentBuild real-time streaming data pipelines to AWS with Confluent
Build real-time streaming data pipelines to AWS with Confluent
 
Q&A with Confluent Professional Services: Confluent Service Mesh
Q&A with Confluent Professional Services: Confluent Service MeshQ&A with Confluent Professional Services: Confluent Service Mesh
Q&A with Confluent Professional Services: Confluent Service Mesh
 
Citi Tech Talk: Event Driven Kafka Microservices
Citi Tech Talk: Event Driven Kafka MicroservicesCiti Tech Talk: Event Driven Kafka Microservices
Citi Tech Talk: Event Driven Kafka Microservices
 
Confluent & GSI Webinars series - Session 3
Confluent & GSI Webinars series - Session 3Confluent & GSI Webinars series - Session 3
Confluent & GSI Webinars series - Session 3
 
Citi Tech Talk: Messaging Modernization
Citi Tech Talk: Messaging ModernizationCiti Tech Talk: Messaging Modernization
Citi Tech Talk: Messaging Modernization
 
Citi Tech Talk: Data Governance for streaming and real time data
Citi Tech Talk: Data Governance for streaming and real time dataCiti Tech Talk: Data Governance for streaming and real time data
Citi Tech Talk: Data Governance for streaming and real time data
 
Confluent & GSI Webinars series: Session 2
Confluent & GSI Webinars series: Session 2Confluent & GSI Webinars series: Session 2
Confluent & GSI Webinars series: Session 2
 
Data In Motion Paris 2023
Data In Motion Paris 2023Data In Motion Paris 2023
Data In Motion Paris 2023
 
Confluent Partner Tech Talk with Synthesis
Confluent Partner Tech Talk with SynthesisConfluent Partner Tech Talk with Synthesis
Confluent Partner Tech Talk with Synthesis
 
The Future of Application Development - API Days - Melbourne 2023
The Future of Application Development - API Days - Melbourne 2023The Future of Application Development - API Days - Melbourne 2023
The Future of Application Development - API Days - Melbourne 2023
 
The Playful Bond Between REST And Data Streams
The Playful Bond Between REST And Data StreamsThe Playful Bond Between REST And Data Streams
The Playful Bond Between REST And Data Streams
 

With Kafka on the way to production/Kafka in produktion_ausblick

  • 1. MIT KAFKA AUF DEM WEG IN DIE PRODUKTION MOTIVATION, HERAUSFORDERUNGEN, AUSBLICK W. Rothmayer, M. Strobl
  • 2. Seite 2Mit Kafka auf dem Weg in die Produktion | 06.06.2019 MOTIVATION EINSATZ KAFKA WENN ES WIRKLICH KRITISCH WIRD… ProductVision „Our product is supposed to deal with external JIS and JIT material call offs for production line supply. It will replacethe existing SPAB central and de-central systems.“ è Time to Recovery: 30 min è Sonst Bandstillstand è Kritikalität wie Produktionssteuerung! Quelle: Produkthomepage iJIX https://atc.bmwgroup.net/confluence/display/SPABIJIX/Produkt+Homepage+iJIX Versorgungskontrolle (CSC) JIT/JIS Abruferstellung (iJIX)
  • 3. Seite 3Mit Kafka auf dem Weg in die Produktion | 06.06.2019 MOTIVATION EINSATZ KAFKA … UND EXTERNE ENTKOPPLUNG ERST RECHT… Quelle: Produkthomepage iJIX https://atc.bmwgroup.net/confluence/display/SPABIJIX/Produkt+Homepage+iJIX JIT/JIS Abruferstellung (iJIX) Anbindung externer Systeme mit Kafka-Topics àTopics als asynchrone public API Interne Entkopplung durch Kafka-Topics Versorgungskontrolle SAP Datalake
  • 4. Seite 4Mit Kafka auf dem Weg in die Produktion | 06.06.2019 MOTIVATION EINSATZ KAFKA VERTIKALE VS. HORIZONTALE ARCHITEKTUR § Klassischer Ansatz (GUI à Applicationserver à Datenbank) à „Vertikale Architektur“ - User-Interaktionen (kurz) - EchteTransaktionen (REST-Calls) - API mittels Request/Response § Broker-Architektur (Daten à Prozess à Daten) à „Horizontale Architektur“ - Datenorientierung - Lose Kopplung - API mittels Events (Publish-Subscribe) à Interne und Externe Entkopplung!!! èKafka als wesentliche Infrastruktur-Komponente für datenorientierte Services èKafka als wesentlicher Bestandteil einer Plattformstrategie für Produkte oder Domänen èKafka als wesentliches Strukturierungselement für lose Kopplung intern und oder extern
  • 5. Seite 5Mit Kafka auf dem Weg in die Produktion | 06.06.2019 HERAUSFORDERUNGEN ALLES HAT SEINEN PREIS… § Ein paar Herausforderungen… - Komplexe Infrastruktur mit einem komplexen Aufbau und einem komplexen Programmiermodell - Ohne intensive Beschäftigung mit Kafka kein Erfolg à Zumindest Grundverständnis notwendig. - Mapping der Technik auf die wirklichen fachlichen Anforderungen entscheidend àWann brauche ich eine horizontale Architektur wirklich? - Aufsetzenvon Kafka in der OpenShift (Kann man machen, Delegieren ist möglich) - Kafka selbst betreiben (im FeatureTeam)? à Besser Managed Service nutzen. Bildquelle: Designing Event-Driven Systems; Ben Stopford; May 2018; O’Reilly Media, Inc.
  • 6. Seite 6Mit Kafka auf dem Weg in die Produktion | 06.06.2019 AUSBLICK WHAT COMES NEXT… § Lücken in der „horizontalen“ Architektur schließen - Zuviele Glue-Code (Mapping, Mapping ohne Ende) à Verschwendung wenn es „einfacher“ geht - UseCase zur Verwendungvon Consumer und Producer API meist nicht gegeben. - Was kann Kafka-Streams und KSQL? - Was kann Kafka-Connect? - Wie werden wir schlanker und skalierbarer? § Ausweitung der Managed Services klären und vereinbaren - Kafka-REST-Proxy à Keine Kafka-API Calls erforderlich, Interaktion wie gewohnt mittels REST - Kafka-Streams, in Kombination mit KSQL à Stream-Processing - Kafka-Connect à Anbindung Legacy (z.B. MQS), Datenbanken, MQTT § Securitythemen klären und transparent machen - OffenesThema - Lösungsansätzevorhanden, Sicherheitsstufen nicht so richtig klar - Verschlüsselte Übertragung, ACLs möglich
  • 7. Seite 7Mit Kafka auf dem Weg in die Produktion | 06.06.2019 APPLIKATION ORDIC. STAND IST. FG-7 Kafka PIMA Kafka ORDICMatching Eigene Consumer Implementierungen Kombination beider Topics alsTeil der Applikation Persistierenvon Daten die bereits in Kafka persistent gehalten werden Topics auf verschiedenen Kafka-Clusternverteilt Kafka Consumer Loop Kafka Consumer Loop ORDIC Core
  • 8. Seite 8Mit Kafka auf dem Weg in die Produktion | 06.06.2019 APPLIKATION ORDIC. ZIELBILD – SCHRITT 1. FG-7 Kafka PIMA Kafka ORDICMatching Spiegelung externer Topics um Streaming Operationen auf zentralem Cluster zu ermöglichen Kafka Consumer Loop Kafka Consumer Loop Kafka Mirror Maker ORDIC Core
  • 9. Seite 9Mit Kafka auf dem Weg in die Produktion | 06.06.2019 APPLIKATION ORDIC. ZIELBILD – SCHRITT 2. FG-7 Kafka PIMA Kafka ORDICMatching Kafka Mirror Maker Nutzung der Kafka Streams API zur Kombination beider Topics und Ausgabe in ein neuesTopic Kafka Consumer Loop ORDIC Core
  • 10. Seite 10Mit Kafka auf dem Weg in die Produktion | 06.06.2019 APPLIKATION ORDIC. ZIELBILD – SCHRITT 3. FG-7 Kafka PIMA Kafka ORDIC Kafka Consumer Loop Rückbau der Persistenzschicht und des Matchings in ORDIC Kafka Mirror Maker ORDIC Core
  • 11. Seite 11Mit Kafka auf dem Weg in die Produktion | 06.06.2019 APPLIKATION ORDIC. ZIELBILD – SCHRITT 4. FG-7 Kafka PIMA Kafka Kafka Mirror Maker Kafka REST Proxy HTTP Nutzung des Kafka REST Proxy – keinerlei Abhängigkeiten zu Kafka seitens ORDIC Applikation ORDIC ORDIC Core
  • 12. Seite 12Mit Kafka auf dem Weg in die Produktion | 06.06.2019 Q&A ABGESCHRECKT ODER NEUGIERIG GEWORDEN?