SlideShare ist ein Scribd-Unternehmen logo
1 von 23
Downloaden Sie, um offline zu lesen
www.fromdual.com
1 / 23
Weltweite Produktionsdatenverwaltung
mit MySQL-Replikation
DOAG Konferenz 2015, Nürnberg
Oli Sennhauser
Senior MySQL Consultant, FromDual GmbH
oli.sennhauser@fromdual.com
www.fromdual.com
2 / 23
Über FromDual GmbH
Support
remote-DBA
Schulung
Beratung
www.fromdual.com
3 / 23
Inhalt
HA Solutions
➢
Read scale-out
➢
Replication set-up for HA
➢
Active/passive fail-over
➢
MySQL Cluster
➢
Replication Cluster
➢
Storage-Engine-Replication
Weltweite Produktionsdatenverwaltung mit MySQL
➢
Ausgangslage
➢
Probleme die sich stellen
➢
Wer darf welche Daten kriegen?
➢
Wie werden Daten verteilt?
➢
Produktionsdaten zurück?
➢
MySQL multi-Source Replikation
➢
Bertriebsverantwortung
➢
Hochverfügbarkeit
➢
Sensitive Daten
➢
Wer darf welche Daten sehen?
➢
MySQL Row Filterung
➢
Nachträgliche Forderungen
www.fromdual.com
4 / 23
● Immer mehr deutsche Unternehmen lagern Ihre
Produktion ins nahe und ferne Ausland aus.
● Das hat organisatorische und sicherheits-
technische Überlegungen zur Folge.
● Insbesondere dann, wenn man dem Partner im
Ausland nicht 100% traut.
● Und staatliche und pri-
vate Organisationen
Begehrlichkeiten zei-
gen...
Ausgangslage
www.fromdual.com
5 / 23
Probleme, die sich stellen
● Wer darf welche Daten kriegen?
● Wie werden die Daten verteilt?
● Wie kriegen wir die Produktionsdaten
wieder zurück in die Zentrale?
● Wer hat die Verantwortung über welche
Komponenten?
● Wie stellen wir sicher, dass geheime Daten
nicht nachträglich eingefordert werden
können?
www.fromdual.com
6 / 23
Wer darf welche Daten kriegen?
● Welche Daten?
● Anforderungen?
www.fromdual.com
7 / 23
Wer darf welche Daten kriegen?
● Welche Daten haben wir überhaupt?
● Produktions-Rezepturen
● Daten, die verbaut werden
● Produktions-Messdaten
● Anforderungen
● Land A soll NICHT Daten von Land B sehen!
● Zentrale soll alle Messdaten erhalten
● Verbaute Daten nur in kleinen Häppchen
verteilen (Missbrauch).
www.fromdual.com
8 / 23
Wie werden Daten verteilt?
● Hinweg
www.fromdual.com
9 / 23
Wie werden Daten verteilt?
● Hinweg, 2 Möglichkeiten:
● Applikatorisch :-(
● MySQL Master/Slave Replikation
● Kunde hat MySQL M/S Replikation gewählt
● Einfach und robust
● Schnell zu implementieren
● Standard out-of-the-box Verfahren
www.fromdual.com
10 / 23
Produktionsdaten zurück?
www.fromdual.com
11 / 23
Produktionsdaten zurück?
● Wie kriegen wir die Produktionsdaten wieder zurück in die
Zentrale?
● Rückweg
● Applikatorisch :-(
● MySQL multi-Source Replikation (5.7)
● Kunde hat vorerst applikatorisch gewählt
● da recht einfache Logik
REPLACE INTO zentrale
SELECT * FROM land WHERE ts > <letzter_lauf>;
● MySQL multi-Source Replikation noch nicht GA war
● Sommer 2015
● Betrieb nicht ganz trivial ist
www.fromdual.com
12 / 23
multi-Source Replikation
● Was wir bisher konnten:
Master/Slave
● und Master/Master:
● neu ist multi-Source:
Master
Slave 1 Slave 2 Slave 3
Master 1
Master 2
Slave
Master 1 Master 2 Master 3
www.fromdual.com
13 / 23
Betriebsverantwortung
● Wer hat die Verantwortung über welche
Komponenten?
www.fromdual.com
14 / 23
Hochverfügbarkeit
Wie wir das gan-
ze noch hoch-
verfügbar aus-
gelegt?
www.fromdual.com
15 / 23
Sensitive Daten
● Wie stellen wir sicher, dass sensitive Daten,
das Haus nicht verlassen?
● Wie funktioniert MySQL Replikation?
Application
Disk
Master (RAM)
Disk
Slave (RAM)
binary log relay log
Hauptsitz Land X
www.fromdual.com
16 / 23
Wer darf welche Daten sehen?
● Land A soll nicht Daten von Land B sehen!
● d.h. Land A soll nicht Daten von Land B kriegen!!!
● Sonst kann der gewiefte Admin die auch sehen...!
● Wie? MySQL Replikationsfilterung!
● Master: binlog-db, binlog-ignore-db
● Slave: replicate-do-db, replicate-ignore-db,
replicate-do-table, replicate-ignore-table
● Problem: Filtern auf dem Master :-(
● zwar nicht in Replikation aber
● auch nicht verfügbar für Point-in-Time-Recovery!
www.fromdual.com
17 / 23
Lösung?
● Blackhole Storage Engine!
● /dev/null
Application
Disk
Master (RAM)
/dev/null
Slave (RAM)
binary log relay log
Hauptsitz Hauptsitz
Disk
Slave (RAM)
relay log
Land X
kein
Filter!
Filtern!
www.fromdual.com
18 / 23
MySQL Row Filterung?
● Schema Filterung?
● Tabellen Filterung?
● d.h. aber, wir müssen unsere Applikation ev.
umbauen?!?
● 1 Schema pro Land
● Vielleicht gar nicht so schlechte Idee, aber Arbeit!
● Row Filterung?
● MySQL :-(
● aber ...
www.fromdual.com
19 / 23
MySQL Row Filterung?
● MySQL kann das nicht.
● Aber, Lego-Kiste auf...
CREATE TRIGGER filter_row
BEFORE INSERT ON manufacturing_data
FOR EACH ROW
BEGIN
IF ( NEW.manufacture_plant != 'China' ) THEN
SIGNAL SQLSTATE '45000'
SET MESSAGE_TEXT = 'Row was filtered out.'
, CLASS_ORIGIN = 'FromDual filter trigger'
, SUBCLASS_ORIGIN = 'filter_row'
, CONSTRAINT_SCHEMA = 'erp'
, CONSTRAINT_NAME = 'filer_row'
, SCHEMA_NAME = 'erp'
, TABLE_NAME = 'manufacturing_data'
, COLUMN_NAME = ''
, MYSQL_ERRNO = 1644
;
END IF;
END;
www.fromdual.com
20 / 23
Nachträgliche Forderungen
● Wie stellen wir sicher, dass geheime Daten
nicht nachträglich eingefordert werden
können?
● „Es“ will da mitgucken/mithören!
www.fromdual.com
21 / 23
Nachträgliche Forderungen
Application
Disk
Master (RAM)
/dev/null
Slave (RAM)
binary log relay log
Hauptsitz Hauptsitz
Disk
Slave (RAM)
relay log
Land X
kein
Filter!
Filtern!
● Gar nicht ausliefern
● Nur so wenig wie möglich
● Asap wieder sauber löschen
www.fromdual.com
22 / 23
http://fromdual.com/controlling-worldwide-manufacturing-plants-with-mysql
Schulung: MySQL Operations
und Hochverfügbarkeitsarchitekturen
ca. 6 x im Jahr (Berlin und Essen)
Stand 308
www.fromdual.com
23 / 23
Q & A
Fragen ?
Diskussion?
Wir haben Zeit für ein persönliches Gespräch...
● FromDual bietet neutral und unabhängig:
● Beratung
● Remote-DBA
● Support für MySQL, Galera, Percona Server und MariaDB
● Schulung
www.fromdual.com/presentations

Weitere ähnliche Inhalte

Was ist angesagt?

MySQL - New Features 5.6
MySQL - New Features 5.6MySQL - New Features 5.6
MySQL - New Features 5.6FromDual GmbH
 
MySQL Performance Tuning für Entwickler
MySQL Performance Tuning für EntwicklerMySQL Performance Tuning für Entwickler
MySQL Performance Tuning für EntwicklerFromDual GmbH
 
DOAG 2011: MySQL Replication
DOAG 2011: MySQL ReplicationDOAG 2011: MySQL Replication
DOAG 2011: MySQL ReplicationFromDual GmbH
 
MySQL Replication for Beginners
MySQL Replication for BeginnersMySQL Replication for Beginners
MySQL Replication for BeginnersFromDual GmbH
 
DOAG 2011: MySQL Performance Tuning
DOAG 2011: MySQL Performance TuningDOAG 2011: MySQL Performance Tuning
DOAG 2011: MySQL Performance TuningFromDual GmbH
 
DOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA'sDOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA'sFromDual GmbH
 
FROSCON 2011: MySQL Replication
FROSCON 2011: MySQL ReplicationFROSCON 2011: MySQL Replication
FROSCON 2011: MySQL ReplicationFromDual GmbH
 
FROSCON 2011: MySQL Performance Tuning
FROSCON 2011: MySQL Performance TuningFROSCON 2011: MySQL Performance Tuning
FROSCON 2011: MySQL Performance TuningFromDual GmbH
 
DAOG SIG: HA Architekturen mit MySQL
DAOG SIG: HA Architekturen mit MySQLDAOG SIG: HA Architekturen mit MySQL
DAOG SIG: HA Architekturen mit MySQLFromDual GmbH
 
Internet Briefing 2011: NoSQL with MySQL
Internet Briefing 2011: NoSQL with MySQLInternet Briefing 2011: NoSQL with MySQL
Internet Briefing 2011: NoSQL with MySQLFromDual GmbH
 
DOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, Backup
DOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, BackupDOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, Backup
DOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, BackupFromDual GmbH
 
MySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenMySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenLenz Grimmer
 
MySQL HA and Security
MySQL HA and SecurityMySQL HA and Security
MySQL HA and SecurityFromDual GmbH
 
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQLInternet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQLFromDual GmbH
 
Microservices and Container Management with Mesosphere DC/OS
Microservices and Container Management with Mesosphere DC/OSMicroservices and Container Management with Mesosphere DC/OS
Microservices and Container Management with Mesosphere DC/OSRalf Ernst
 
MySQL High Availability Solutions
MySQL High Availability SolutionsMySQL High Availability Solutions
MySQL High Availability SolutionsFromDual GmbH
 
MySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenMySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenLenz Grimmer
 
Grundlagen postgresql
Grundlagen postgresqlGrundlagen postgresql
Grundlagen postgresqlinovex GmbH
 

Was ist angesagt? (20)

MySQL - New Features 5.6
MySQL - New Features 5.6MySQL - New Features 5.6
MySQL - New Features 5.6
 
MySQL Backup
MySQL BackupMySQL Backup
MySQL Backup
 
MySQL Performance Tuning für Entwickler
MySQL Performance Tuning für EntwicklerMySQL Performance Tuning für Entwickler
MySQL Performance Tuning für Entwickler
 
DOAG 2011: MySQL Replication
DOAG 2011: MySQL ReplicationDOAG 2011: MySQL Replication
DOAG 2011: MySQL Replication
 
MySQL Replication for Beginners
MySQL Replication for BeginnersMySQL Replication for Beginners
MySQL Replication for Beginners
 
DOAG 2011: MySQL Performance Tuning
DOAG 2011: MySQL Performance TuningDOAG 2011: MySQL Performance Tuning
DOAG 2011: MySQL Performance Tuning
 
DOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA'sDOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA's
 
FROSCON 2011: MySQL Replication
FROSCON 2011: MySQL ReplicationFROSCON 2011: MySQL Replication
FROSCON 2011: MySQL Replication
 
FROSCON 2011: MySQL Performance Tuning
FROSCON 2011: MySQL Performance TuningFROSCON 2011: MySQL Performance Tuning
FROSCON 2011: MySQL Performance Tuning
 
DAOG SIG: HA Architekturen mit MySQL
DAOG SIG: HA Architekturen mit MySQLDAOG SIG: HA Architekturen mit MySQL
DAOG SIG: HA Architekturen mit MySQL
 
Internet Briefing 2011: NoSQL with MySQL
Internet Briefing 2011: NoSQL with MySQLInternet Briefing 2011: NoSQL with MySQL
Internet Briefing 2011: NoSQL with MySQL
 
DOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, Backup
DOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, BackupDOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, Backup
DOAG SIG: MySQL Replikation, Scale-Out, Master- Master Replikation, Backup
 
MySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenMySQL Hochverfügbarkeitslösungen
MySQL Hochverfügbarkeitslösungen
 
MySQL HA and Security
MySQL HA and SecurityMySQL HA and Security
MySQL HA and Security
 
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQLInternet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
 
Microservices and Container Management with Mesosphere DC/OS
Microservices and Container Management with Mesosphere DC/OSMicroservices and Container Management with Mesosphere DC/OS
Microservices and Container Management with Mesosphere DC/OS
 
MySQL High Availability Solutions
MySQL High Availability SolutionsMySQL High Availability Solutions
MySQL High Availability Solutions
 
Hazelcast
HazelcastHazelcast
Hazelcast
 
MySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenMySQL Hochverfügbarkeitslösungen
MySQL Hochverfügbarkeitslösungen
 
Grundlagen postgresql
Grundlagen postgresqlGrundlagen postgresql
Grundlagen postgresql
 

Andere mochten auch

Habilidades (almarales y teheran)
Habilidades (almarales y teheran)Habilidades (almarales y teheran)
Habilidades (almarales y teheran)Katterine Teheran
 
Photovoltaik: SOLON 230/07. SOLON-Qualität für alle Dächer.
Photovoltaik: SOLON 230/07.  SOLON-Qualität für alle Dächer.Photovoltaik: SOLON 230/07.  SOLON-Qualität für alle Dächer.
Photovoltaik: SOLON 230/07. SOLON-Qualität für alle Dächer.Solon
 
Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.
Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.
Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.Solon
 
Unternehmenspräsentation Francotyp-Postalia Gruppe Deutschland
Unternehmenspräsentation Francotyp-Postalia Gruppe DeutschlandUnternehmenspräsentation Francotyp-Postalia Gruppe Deutschland
Unternehmenspräsentation Francotyp-Postalia Gruppe DeutschlandFrancotyp-Postalia GmbH
 
Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.
Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.
Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.Solon
 
La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...
La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...
La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...Lourdesferia
 
LA ORIENTACIÓN EN EDUCACIÓN INFANTIL
LA ORIENTACIÓN EN EDUCACIÓN INFANTILLA ORIENTACIÓN EN EDUCACIÓN INFANTIL
LA ORIENTACIÓN EN EDUCACIÓN INFANTILMiriamcaguana
 
Tutorial de persistencia de java
Tutorial de persistencia de javaTutorial de persistencia de java
Tutorial de persistencia de javaCarlos Anrango
 
Sistemas de est._hei-engel
Sistemas de est._hei-engelSistemas de est._hei-engel
Sistemas de est._hei-engelMiguel Reyes
 

Andere mochten auch (20)

Movies
MoviesMovies
Movies
 
Habilidades (almarales y teheran)
Habilidades (almarales y teheran)Habilidades (almarales y teheran)
Habilidades (almarales y teheran)
 
Linea Eco.
Linea Eco.Linea Eco.
Linea Eco.
 
Hhss
HhssHhss
Hhss
 
Photovoltaik: SOLON 230/07. SOLON-Qualität für alle Dächer.
Photovoltaik: SOLON 230/07.  SOLON-Qualität für alle Dächer.Photovoltaik: SOLON 230/07.  SOLON-Qualität für alle Dächer.
Photovoltaik: SOLON 230/07. SOLON-Qualität für alle Dächer.
 
Lo de etica
Lo de eticaLo de etica
Lo de etica
 
Trabajo
TrabajoTrabajo
Trabajo
 
J vanek1
J vanek1J vanek1
J vanek1
 
Audiencias de televisión
Audiencias de televisiónAudiencias de televisión
Audiencias de televisión
 
Blog
BlogBlog
Blog
 
Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.
Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.
Solarenergie: SOLON SOLfixx. Photovoltaik-System für Flachdächer.
 
Blog
BlogBlog
Blog
 
virus informaticos marina
virus informaticos marinavirus informaticos marina
virus informaticos marina
 
Lo de etica
Lo de eticaLo de etica
Lo de etica
 
Unternehmenspräsentation Francotyp-Postalia Gruppe Deutschland
Unternehmenspräsentation Francotyp-Postalia Gruppe DeutschlandUnternehmenspräsentation Francotyp-Postalia Gruppe Deutschland
Unternehmenspräsentation Francotyp-Postalia Gruppe Deutschland
 
Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.
Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.
Photovoltaik: SOLON 220/16 - Qualität und Rendite für Ihr Projektgeschäft.
 
La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...
La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...
La convivencia de los recursos electrónicos comerciales y de acceso abierto: ...
 
LA ORIENTACIÓN EN EDUCACIÓN INFANTIL
LA ORIENTACIÓN EN EDUCACIÓN INFANTILLA ORIENTACIÓN EN EDUCACIÓN INFANTIL
LA ORIENTACIÓN EN EDUCACIÓN INFANTIL
 
Tutorial de persistencia de java
Tutorial de persistencia de javaTutorial de persistencia de java
Tutorial de persistencia de java
 
Sistemas de est._hei-engel
Sistemas de est._hei-engelSistemas de est._hei-engel
Sistemas de est._hei-engel
 

Ähnlich wie Weltweite Produktionsdatenverwaltung mit MySQL-Replikation

MySQL Replikation - Die Eier legende Wollmilchsau?
MySQL Replikation - Die Eier legende Wollmilchsau?MySQL Replikation - Die Eier legende Wollmilchsau?
MySQL Replikation - Die Eier legende Wollmilchsau?FromDual GmbH
 
MySQL Security SLAC 2015
MySQL Security SLAC 2015MySQL Security SLAC 2015
MySQL Security SLAC 2015FromDual GmbH
 
Data Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQLData Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQLFromDual GmbH
 
DOAG: NoSQL with MySQL
DOAG: NoSQL with MySQLDOAG: NoSQL with MySQL
DOAG: NoSQL with MySQLFromDual GmbH
 
Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...
Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...
Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...Markus Flechtner
 
Introduction into Oracle Data Pump 11g/12c - Export and Import Data
Introduction into Oracle Data Pump 11g/12c - Export and Import DataIntroduction into Oracle Data Pump 11g/12c - Export and Import Data
Introduction into Oracle Data Pump 11g/12c - Export and Import DataGunther Pippèrr
 
Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)
Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)
Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)data://disrupted®
 
Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?
Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?
Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?Trivadis
 
DB2 High Availability für IBM Connections, Sametime oder Traveler
DB2 High Availability für IBM Connections, Sametime oder TravelerDB2 High Availability für IBM Connections, Sametime oder Traveler
DB2 High Availability für IBM Connections, Sametime oder TravelerNico Meisenzahl
 
Nagios Conference 2007 | Nagios Workshop für Einsteiger by Sven Velt
Nagios Conference 2007 |  Nagios Workshop für Einsteiger by Sven VeltNagios Conference 2007 |  Nagios Workshop für Einsteiger by Sven Velt
Nagios Conference 2007 | Nagios Workshop für Einsteiger by Sven VeltNETWAYS
 
Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)
Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)
Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)Ulrike Schwinn
 
Oracle Core für Einsteiger: Datenbank I/O
Oracle Core für Einsteiger: Datenbank I/OOracle Core für Einsteiger: Datenbank I/O
Oracle Core für Einsteiger: Datenbank I/OMartin Klier
 
Leveraging the Power of Solr with Spark
Leveraging the Power of Solr with SparkLeveraging the Power of Solr with Spark
Leveraging the Power of Solr with SparkQAware GmbH
 

Ähnlich wie Weltweite Produktionsdatenverwaltung mit MySQL-Replikation (15)

MySQL Replikation - Die Eier legende Wollmilchsau?
MySQL Replikation - Die Eier legende Wollmilchsau?MySQL Replikation - Die Eier legende Wollmilchsau?
MySQL Replikation - Die Eier legende Wollmilchsau?
 
MySQL Security SLAC 2015
MySQL Security SLAC 2015MySQL Security SLAC 2015
MySQL Security SLAC 2015
 
Froscon 2012 DWH
Froscon 2012 DWHFroscon 2012 DWH
Froscon 2012 DWH
 
Data Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQLData Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQL
 
DOAG: NoSQL with MySQL
DOAG: NoSQL with MySQLDOAG: NoSQL with MySQL
DOAG: NoSQL with MySQL
 
Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...
Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...
Die Datenbank ist nicht immer Schuld - Gründe warum Datenbank-Migration schei...
 
MySQL Security
MySQL SecurityMySQL Security
MySQL Security
 
Introduction into Oracle Data Pump 11g/12c - Export and Import Data
Introduction into Oracle Data Pump 11g/12c - Export and Import DataIntroduction into Oracle Data Pump 11g/12c - Export and Import Data
Introduction into Oracle Data Pump 11g/12c - Export and Import Data
 
Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)
Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)
Hochleistungsspeichersysteme für Datenanalyse an der TU Dresden (Michael Kluge)
 
Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?
Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?
Oracle12c threaded execution - Ressourcen sparen zum Nulltarif?!?
 
DB2 High Availability für IBM Connections, Sametime oder Traveler
DB2 High Availability für IBM Connections, Sametime oder TravelerDB2 High Availability für IBM Connections, Sametime oder Traveler
DB2 High Availability für IBM Connections, Sametime oder Traveler
 
Nagios Conference 2007 | Nagios Workshop für Einsteiger by Sven Velt
Nagios Conference 2007 |  Nagios Workshop für Einsteiger by Sven VeltNagios Conference 2007 |  Nagios Workshop für Einsteiger by Sven Velt
Nagios Conference 2007 | Nagios Workshop für Einsteiger by Sven Velt
 
Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)
Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)
Überblick: 18c und Autonomous Data Warehouse Cloud (ADWC)
 
Oracle Core für Einsteiger: Datenbank I/O
Oracle Core für Einsteiger: Datenbank I/OOracle Core für Einsteiger: Datenbank I/O
Oracle Core für Einsteiger: Datenbank I/O
 
Leveraging the Power of Solr with Spark
Leveraging the Power of Solr with SparkLeveraging the Power of Solr with Spark
Leveraging the Power of Solr with Spark
 

Mehr von FromDual GmbH

MariaDB/MySQL pitfalls - And how to come out again...
MariaDB/MySQL pitfalls - And how to come out again...MariaDB/MySQL pitfalls - And how to come out again...
MariaDB/MySQL pitfalls - And how to come out again...FromDual GmbH
 
MariaDB / MySQL tripping hazard and how to get out again?
MariaDB / MySQL tripping hazard and how to get out again?MariaDB / MySQL tripping hazard and how to get out again?
MariaDB / MySQL tripping hazard and how to get out again?FromDual GmbH
 
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration WorkshopPXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration WorkshopFromDual GmbH
 
IT Tage 2019 MariaDB 10.4 New Features
IT Tage 2019 MariaDB 10.4 New FeaturesIT Tage 2019 MariaDB 10.4 New Features
IT Tage 2019 MariaDB 10.4 New FeaturesFromDual GmbH
 
MariaDB 10.4 New Features
MariaDB 10.4 New FeaturesMariaDB 10.4 New Features
MariaDB 10.4 New FeaturesFromDual GmbH
 
MariaDB 10.2 New Features
MariaDB 10.2 New FeaturesMariaDB 10.2 New Features
MariaDB 10.2 New FeaturesFromDual GmbH
 
PERFORMANCE_SCHEMA and sys schema
PERFORMANCE_SCHEMA and sys schemaPERFORMANCE_SCHEMA and sys schema
PERFORMANCE_SCHEMA and sys schemaFromDual GmbH
 
Reading MySQL fingerprints
Reading MySQL fingerprintsReading MySQL fingerprints
Reading MySQL fingerprintsFromDual GmbH
 
High-availability with Galera Cluster for MySQL
High-availability with Galera Cluster for MySQLHigh-availability with Galera Cluster for MySQL
High-availability with Galera Cluster for MySQLFromDual GmbH
 
MySQL always-up with Galera Cluster
MySQL always-up with Galera ClusterMySQL always-up with Galera Cluster
MySQL always-up with Galera ClusterFromDual GmbH
 
MySQL Indexierung CeBIT 2014
MySQL Indexierung CeBIT 2014MySQL Indexierung CeBIT 2014
MySQL Indexierung CeBIT 2014FromDual GmbH
 
Need for Speed: Mysql indexing
Need for Speed: Mysql indexingNeed for Speed: Mysql indexing
Need for Speed: Mysql indexingFromDual GmbH
 
MySQL for Oracle DBAs
MySQL for Oracle DBAsMySQL for Oracle DBAs
MySQL for Oracle DBAsFromDual GmbH
 
MySQL Performance Tuning Variables
MySQL Performance Tuning VariablesMySQL Performance Tuning Variables
MySQL Performance Tuning VariablesFromDual GmbH
 

Mehr von FromDual GmbH (15)

MariaDB/MySQL pitfalls - And how to come out again...
MariaDB/MySQL pitfalls - And how to come out again...MariaDB/MySQL pitfalls - And how to come out again...
MariaDB/MySQL pitfalls - And how to come out again...
 
MariaDB / MySQL tripping hazard and how to get out again?
MariaDB / MySQL tripping hazard and how to get out again?MariaDB / MySQL tripping hazard and how to get out again?
MariaDB / MySQL tripping hazard and how to get out again?
 
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration WorkshopPXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
 
IT Tage 2019 MariaDB 10.4 New Features
IT Tage 2019 MariaDB 10.4 New FeaturesIT Tage 2019 MariaDB 10.4 New Features
IT Tage 2019 MariaDB 10.4 New Features
 
MariaDB 10.4 New Features
MariaDB 10.4 New FeaturesMariaDB 10.4 New Features
MariaDB 10.4 New Features
 
MariaDB 10.2 New Features
MariaDB 10.2 New FeaturesMariaDB 10.2 New Features
MariaDB 10.2 New Features
 
PERFORMANCE_SCHEMA and sys schema
PERFORMANCE_SCHEMA and sys schemaPERFORMANCE_SCHEMA and sys schema
PERFORMANCE_SCHEMA and sys schema
 
Reading MySQL fingerprints
Reading MySQL fingerprintsReading MySQL fingerprints
Reading MySQL fingerprints
 
High-availability with Galera Cluster for MySQL
High-availability with Galera Cluster for MySQLHigh-availability with Galera Cluster for MySQL
High-availability with Galera Cluster for MySQL
 
MySQL always-up with Galera Cluster
MySQL always-up with Galera ClusterMySQL always-up with Galera Cluster
MySQL always-up with Galera Cluster
 
HA with Galera
HA with GaleraHA with Galera
HA with Galera
 
MySQL Indexierung CeBIT 2014
MySQL Indexierung CeBIT 2014MySQL Indexierung CeBIT 2014
MySQL Indexierung CeBIT 2014
 
Need for Speed: Mysql indexing
Need for Speed: Mysql indexingNeed for Speed: Mysql indexing
Need for Speed: Mysql indexing
 
MySQL for Oracle DBAs
MySQL for Oracle DBAsMySQL for Oracle DBAs
MySQL for Oracle DBAs
 
MySQL Performance Tuning Variables
MySQL Performance Tuning VariablesMySQL Performance Tuning Variables
MySQL Performance Tuning Variables
 

Weltweite Produktionsdatenverwaltung mit MySQL-Replikation

  • 1. www.fromdual.com 1 / 23 Weltweite Produktionsdatenverwaltung mit MySQL-Replikation DOAG Konferenz 2015, Nürnberg Oli Sennhauser Senior MySQL Consultant, FromDual GmbH oli.sennhauser@fromdual.com
  • 2. www.fromdual.com 2 / 23 Über FromDual GmbH Support remote-DBA Schulung Beratung
  • 3. www.fromdual.com 3 / 23 Inhalt HA Solutions ➢ Read scale-out ➢ Replication set-up for HA ➢ Active/passive fail-over ➢ MySQL Cluster ➢ Replication Cluster ➢ Storage-Engine-Replication Weltweite Produktionsdatenverwaltung mit MySQL ➢ Ausgangslage ➢ Probleme die sich stellen ➢ Wer darf welche Daten kriegen? ➢ Wie werden Daten verteilt? ➢ Produktionsdaten zurück? ➢ MySQL multi-Source Replikation ➢ Bertriebsverantwortung ➢ Hochverfügbarkeit ➢ Sensitive Daten ➢ Wer darf welche Daten sehen? ➢ MySQL Row Filterung ➢ Nachträgliche Forderungen
  • 4. www.fromdual.com 4 / 23 ● Immer mehr deutsche Unternehmen lagern Ihre Produktion ins nahe und ferne Ausland aus. ● Das hat organisatorische und sicherheits- technische Überlegungen zur Folge. ● Insbesondere dann, wenn man dem Partner im Ausland nicht 100% traut. ● Und staatliche und pri- vate Organisationen Begehrlichkeiten zei- gen... Ausgangslage
  • 5. www.fromdual.com 5 / 23 Probleme, die sich stellen ● Wer darf welche Daten kriegen? ● Wie werden die Daten verteilt? ● Wie kriegen wir die Produktionsdaten wieder zurück in die Zentrale? ● Wer hat die Verantwortung über welche Komponenten? ● Wie stellen wir sicher, dass geheime Daten nicht nachträglich eingefordert werden können?
  • 6. www.fromdual.com 6 / 23 Wer darf welche Daten kriegen? ● Welche Daten? ● Anforderungen?
  • 7. www.fromdual.com 7 / 23 Wer darf welche Daten kriegen? ● Welche Daten haben wir überhaupt? ● Produktions-Rezepturen ● Daten, die verbaut werden ● Produktions-Messdaten ● Anforderungen ● Land A soll NICHT Daten von Land B sehen! ● Zentrale soll alle Messdaten erhalten ● Verbaute Daten nur in kleinen Häppchen verteilen (Missbrauch).
  • 8. www.fromdual.com 8 / 23 Wie werden Daten verteilt? ● Hinweg
  • 9. www.fromdual.com 9 / 23 Wie werden Daten verteilt? ● Hinweg, 2 Möglichkeiten: ● Applikatorisch :-( ● MySQL Master/Slave Replikation ● Kunde hat MySQL M/S Replikation gewählt ● Einfach und robust ● Schnell zu implementieren ● Standard out-of-the-box Verfahren
  • 11. www.fromdual.com 11 / 23 Produktionsdaten zurück? ● Wie kriegen wir die Produktionsdaten wieder zurück in die Zentrale? ● Rückweg ● Applikatorisch :-( ● MySQL multi-Source Replikation (5.7) ● Kunde hat vorerst applikatorisch gewählt ● da recht einfache Logik REPLACE INTO zentrale SELECT * FROM land WHERE ts > <letzter_lauf>; ● MySQL multi-Source Replikation noch nicht GA war ● Sommer 2015 ● Betrieb nicht ganz trivial ist
  • 12. www.fromdual.com 12 / 23 multi-Source Replikation ● Was wir bisher konnten: Master/Slave ● und Master/Master: ● neu ist multi-Source: Master Slave 1 Slave 2 Slave 3 Master 1 Master 2 Slave Master 1 Master 2 Master 3
  • 13. www.fromdual.com 13 / 23 Betriebsverantwortung ● Wer hat die Verantwortung über welche Komponenten?
  • 14. www.fromdual.com 14 / 23 Hochverfügbarkeit Wie wir das gan- ze noch hoch- verfügbar aus- gelegt?
  • 15. www.fromdual.com 15 / 23 Sensitive Daten ● Wie stellen wir sicher, dass sensitive Daten, das Haus nicht verlassen? ● Wie funktioniert MySQL Replikation? Application Disk Master (RAM) Disk Slave (RAM) binary log relay log Hauptsitz Land X
  • 16. www.fromdual.com 16 / 23 Wer darf welche Daten sehen? ● Land A soll nicht Daten von Land B sehen! ● d.h. Land A soll nicht Daten von Land B kriegen!!! ● Sonst kann der gewiefte Admin die auch sehen...! ● Wie? MySQL Replikationsfilterung! ● Master: binlog-db, binlog-ignore-db ● Slave: replicate-do-db, replicate-ignore-db, replicate-do-table, replicate-ignore-table ● Problem: Filtern auf dem Master :-( ● zwar nicht in Replikation aber ● auch nicht verfügbar für Point-in-Time-Recovery!
  • 17. www.fromdual.com 17 / 23 Lösung? ● Blackhole Storage Engine! ● /dev/null Application Disk Master (RAM) /dev/null Slave (RAM) binary log relay log Hauptsitz Hauptsitz Disk Slave (RAM) relay log Land X kein Filter! Filtern!
  • 18. www.fromdual.com 18 / 23 MySQL Row Filterung? ● Schema Filterung? ● Tabellen Filterung? ● d.h. aber, wir müssen unsere Applikation ev. umbauen?!? ● 1 Schema pro Land ● Vielleicht gar nicht so schlechte Idee, aber Arbeit! ● Row Filterung? ● MySQL :-( ● aber ...
  • 19. www.fromdual.com 19 / 23 MySQL Row Filterung? ● MySQL kann das nicht. ● Aber, Lego-Kiste auf... CREATE TRIGGER filter_row BEFORE INSERT ON manufacturing_data FOR EACH ROW BEGIN IF ( NEW.manufacture_plant != 'China' ) THEN SIGNAL SQLSTATE '45000' SET MESSAGE_TEXT = 'Row was filtered out.' , CLASS_ORIGIN = 'FromDual filter trigger' , SUBCLASS_ORIGIN = 'filter_row' , CONSTRAINT_SCHEMA = 'erp' , CONSTRAINT_NAME = 'filer_row' , SCHEMA_NAME = 'erp' , TABLE_NAME = 'manufacturing_data' , COLUMN_NAME = '' , MYSQL_ERRNO = 1644 ; END IF; END;
  • 20. www.fromdual.com 20 / 23 Nachträgliche Forderungen ● Wie stellen wir sicher, dass geheime Daten nicht nachträglich eingefordert werden können? ● „Es“ will da mitgucken/mithören!
  • 21. www.fromdual.com 21 / 23 Nachträgliche Forderungen Application Disk Master (RAM) /dev/null Slave (RAM) binary log relay log Hauptsitz Hauptsitz Disk Slave (RAM) relay log Land X kein Filter! Filtern! ● Gar nicht ausliefern ● Nur so wenig wie möglich ● Asap wieder sauber löschen
  • 22. www.fromdual.com 22 / 23 http://fromdual.com/controlling-worldwide-manufacturing-plants-with-mysql Schulung: MySQL Operations und Hochverfügbarkeitsarchitekturen ca. 6 x im Jahr (Berlin und Essen) Stand 308
  • 23. www.fromdual.com 23 / 23 Q & A Fragen ? Diskussion? Wir haben Zeit für ein persönliches Gespräch... ● FromDual bietet neutral und unabhängig: ● Beratung ● Remote-DBA ● Support für MySQL, Galera, Percona Server und MariaDB ● Schulung www.fromdual.com/presentations