SlideShare ist ein Scribd-Unternehmen logo
1 von 33
Downloaden Sie, um offline zu lesen
MySQL Replikation für Einsteiger

 DOAG Conference 2011, Nürnberg


            Oli Sennhauser
     Senior MySQL Consultant at FromDual GmbH

       oli.sennhauser@fromdual.com

                  www.fromdual.com              1
FromDual GmbH
●   FromDual bietet neutral und unabhängig:
    ●   Beratung für MySQL (vor Ort und remote)
    ●   Remote-DBA / MySQL Betrieb
    ●   Support für Galera (synchrone Replikation)
    ●   Support für MySQL (Basic und Silber)
    ●   Schulung für MySQL
●   Consulting Partner der Open Database Alliance
    (ODBA.org)
●   Oracle Silber Partner (OPN)
●   Mehr Informationen unter:
                      http://www.fromdual.com
                             www.fromdual.com        2
Kunden




         www.fromdual.com   3
Inhalt


     MySQL Replikation
     ➢
         Was ist Replikation?
     ➢
         Wie funktioniert MySQL Replikation?
     ➢
         Wie wird Replikation aufgesetzt?
     ➢
         Wann brauche ich MySQL Replikation?
     ➢
         Neuerungen in 5.1, 5.5 und 5.6
     ➢
         Varianten der Replikation




                            www.fromdual.com   4
Was ist Replikation?
●   Daten von einer Datenbank auf eine oder
    mehrere andere Datenbanken weiterreichen:
            Applikation




              Master                         Slave



●   Daten = UPDATE, INSERT, DELETE, ... (= DML
    Statements) oder (binäre) „Events“
                          www.fromdual.com           5
MySQL Replikation
●   Wie funktioniert die MySQL Replikation?
    Applikation            binlog dump
                                                                               IO_thread
                              thread
                                                                                                 master.info




                                   Initialer Dump                                              SQL_thread
          Master                     asynchron                  Slave
                                                                                                     relay-log.info

                                        binary log
                                       writer thread
    ...   bin-log.m   bin-log.n                                    ...   relay-log.m   relay-log.n




                   bin-log.index




                                             www.fromdual.com                                                         6
Vorbereiten des Masters
●   Auf dem Master im my.cnf:
    ●   Binary log einschalten:
            log­bin = bin­log
    ●   Server ID setzen:
            server_id = 42
        –   Muss im Replikations-Setup Unique sein!
●   Server neu starten (downtime!)



                            www.fromdual.com          7
User anlegen und Dump ziehen
●   Immer noch auf dem Master:
●   Replikations-User anlegen:
      CREATE USER 'replication'@'192.168.1.%'
      IDENTIFIED BY 'secret';
      GRANT REPLICATION SLAVE ON *.*
      TO 'replication'@'192.168.1.%';
●   Initialen konsistenten! Dump ziehen:
      mysqldump ­­all­databases ­­single­
      transaction (­­lock­all­tables) 
      ­­master­data > full_dump.sql
                     www.fromdual.com           8
Aufsetzen des Slaves
●   Neue Datenbank erstellen (2. Maschine)
        ./scripts/mysql_install_db  
        ­­datadir=/var/lib/mysql
●   Andere Server ID setzen:
    ●   server_id = 43
●   Slave auf seinen Master ansetzen:
    ●   CHANGE MASTER TO master_host='192.168.1.42'
        , master_port=3306, master_user='replication'
        , master_password='secret';
●   Initialen konsistenten Dump einspielen:
        mysql ­u root < full_dump.sql
                         www.fromdual.com               9
Kontrolle und starten
●   Kontrolle:
      SHOW SLAVE STATUSG
          Slave_IO_State:
             Master_Host: 192.168.1.42
             Master_User: replication
             Master_Port: 3306
         Master_Log_File: bin­log.000001
     Read_Master_Log_Pos: 51819
          Relay_Log_File: relay­bin.000001
           Relay_Log_Pos: 4
        Slave_IO_Running: No
       Slave_SQL_Running: No


●   Starten des Slaves:
      SLAVE START;
                                 www.fromdual.com   10
Probleme beim Aufsetzen
●   MySQL Replikation funktioniert grundsätzlich gut!
●   Gründe warum Probleme auftreten:
    ●   Nicht sauberes befolgen der Anleitungen!
    ●   Nicht konsistentes Backup
        –   ohne ­­single­transaction / ­­lock­all­tables :-(
        –   Jedes Schema einzeln (­­all­databases) :-(
●   MySQL Dokumentation: How to Set Up Replication
        http://dev.mysql.com/doc/refman/5.1/en/replication-
        howto.html




                                www.fromdual.com                11
Probleme beim Betrieb
●   Slave wird nicht überwacht
●   Binary logs werden nicht aufgeräumt
      expire_logs_days = n
      PURGE BINARY LOGS TO 'bin­log.000013';
●   Fummeln auf dem Slave
●   Master/Slave Lag (hinterher hinken)
●   Master/Slave Drift (auseinander laufen)
      → Wenn Master und Slave auseinander laufen MUSS der
      Slave neu aufgesetzt werden
●   Filtern auf dem Master ist meist keine gute Idee!
                        www.fromdual.com                12
Master/Slave Drift
●   Master und Slave können auseinander laufen weil:
    ●   Auf dem Slave geschrieben wird (rumfummeln!)
    ●   sql_bin_log = 0
    ●   sql_slave_skip_counter = 1
    ●   slave_skip_errors=...
    ●   Nicht-deterministische Abfragen/Funktionen → viel besser mit Row Based
        Replikation (RBR)
    ●   Filtern auf Master oder Slave
    ●   Temporäre Tabellen mit SBR
●   Unterschiede können gefunden werden mit Tools aus dem Maatkit:
        mk­table­checksum
●   und gefixed werden mit:
        mk­table­sync
●   Ansonsten → Slave neu aufsetzen!!!
                                        www.fromdual.com                         13
Wann brauche ich die MySQL
Replikation?
●   Es gibt verschiedene Szenarien:
    ●   Scale-Out Lösungen
    ●   Backup Slave
    ●   Datenanalyse, Reporting
    ●   Hochverfügbarkeit (HA)
    ●   Zeitversetzte Datenstände vorhalten




                        www.fromdual.com      14
MySQL Scale-Out vs Scale-Up

         ● Kosten
                             Scale-Up
         ● MySQL Design

         ● Phsikalische Flaschenhälse




     ●   „Relaxation of Constraints“
                               Scale-Out

                        www.fromdual.com   15
Der MySQL Scale-Out Ansatz

                          Applikation
                    ro
                                   rtw
                                                Slave Reporting
          Slave M             Master

                                                    Slave Backup

     Slave 1        Slave 2         Slave 3
                                              ...


               Load balancer




                         www.fromdual.com                          16
Neuerungen in MySQL 5.1, 5.5
und 5.6
●   Row-Based Replikation (5.1)
●   Semi-Synchrone Replikation (5.5)
●   Row Image Control (5.6)
●   Crash Safe Binary Logs (5.6)
●   Remote binary log shipping (5.6)
●   ...



                     www.fromdual.com   17
Row-Based Replikation (5.1)
●   Alt (<= 5.0) Statement-Based Replikation (SBR)
        → Statements werden übermittelt
    ●   Problem: nicht-deterministische Abfragen/Funktionen
        → inkonsistente Daten zwischen Master und Slave
●   Neu (>= 5.1) Row-Based Replikation (RBR)
        → Events / Trx werden übermittelt
    ●   binlog_format = {ROW | MIXED | STATEMENT}
    ●   RBR ist die sicherste Art der Replikation!
    ●   Wie sehe ich trotzdem was passiert?
        mysqlbinlog ­­base64­output=DECODE­ROWS 
        ­­verbose bin­log.000069
    ●   Mehr binlog Traffic, unterschiedliche Performance → Testen!
                               www.fromdual.com                   18
Semi-Synchrone Replikation (5.5)
●   Default asynchrone Replikation
    ●   Master wartet NICHT auf Slave!
    ●   Bei Crash: Trx ist nicht zwingend auf Slave
●   Neu (5.5) optional semi-synchrone Replikation
    ●   Plug-in (muss auf Master UND Slave aktiv sein!)
    ●   Master wartet auf Slave bis Timeout!
        –   Nach Timeout (default 10 s) → Fallback auf asynchron
    ●   Bis Slave in Relay Log (sync) geschrieben hat
    ●   Bessere Datenintegrität (Master + mind. 1 Slave)
    ●   Schlechtere Performance (Commit + NW Roundtrip + Commit)
    ●   Master Commit, dann Crash, möglich dass Trx Slave nicht
        erreicht hat!
                                   www.fromdual.com                19
Semi-synchrone Replikation
●   Wie funktioniert die semi-synchrone
    Replikation?
    Applikation

                                                                                    master.info




          Master                                Slave
              OK                                                                        relay-log.info




    ...   bin-log.m   bin-log.n                       ...   relay-log.m      OK
                                                                          relay-log.n




                   bin-log.index


                                   www.fromdual.com                                                      20
Semi-synchrone Replikation
●   Plug-ins aktivieren:
      INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so';
      INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so';
●   Prüfen ob erfolgreich:

      SHOW PLUGINS;
      +­­­­­­­­­­­­­­­­­­­­­­­+­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+
      | Name                  | Status | Type               | Library            |
      +­­­­­­­­­­­­­­­­­­­­­­­+­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+
      | rpl_semi_sync_master  | ACTIVE | REPLICATION        | semisync_master.so |
      | rpl_semi_sync_slave   | ACTIVE | REPLICATION        | semisync_slave.so  |
      +­­­­­­­­­­­­­­­­­­­­­­­+­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+


●   Semi-synchrone Replikation einschalten:
      SET GLOBAL rpl_semi_sync_master_enabled = 1;
      SET GLOBAL rpl_semi_sync_slave_enabled  = 1;
●   Slave (neu) starten:
      STOP SLAVE IO_THREAD; START SLAVE IO_THREAD;
                                         www.fromdual.com                            21
Replikation in MySQL 5.6
●   Row Image Control
    ●   binlog_row_image = {full | minimal | noblob}
●   Crash safe Binary Logs
    ●   Vollständige Events/Trx werden geloggt
    ●   Event-Länge + CRC32 Checksumme
●   Slave: master.info und relay­log.info
    zusätzlich in (MyISAM) Tabellen
    ●   slave_master_info + slave_relay_log_info
    ●   Umwandeln in InnoDB?


                            www.fromdual.com           22
Replikation in MySQL 5.6
●   Remote Binary Log Shipping:
        mysqlbinlog ­­read­from­remote­server ­­raw bin­
        log.000001 > bin­log.000001.dup
●   Delayed Replication
        CHANGE MASTER TO MASTER_DELAY=n;
    ●   Früher mk­slave­delay (Maatkit)
●   Neue Variablen:
    ●   log_bin_basename und log_bin
●   Aus den Oracle Labs:
    ●   Multi-threaded Slave / Parallel Slave
    ●   Multi-source Replikation?
                               www.fromdual.com        23
Synchrone Replikation mit Galera
●   Codership (www.codership.com)
●   Synchrone Replikation
    ●   “Certification Based Replication”, kein 2PC!
●   Echte Multi-Master Replication
●   Skaliert sowohl lesend als auch schreibend




                         www.fromdual.com              24
Galera (synchronous) Replication


           App         App            App



             Load balancing (LB)



          Node 1     Node 2      Node 3
           wsrep       wsrep          wsrep
              Galera replication




                   www.fromdual.com           25
Galera (synchronous) Replication


           App         App            App



             Load balancing (LB)



          Node 1     Node 2      Node 3
           wsrep       wsrep          wsrep
              Galera replication




                   www.fromdual.com           26
Galera im Master-Slave Modus


             App          App        App
          write                                  read


              VIP        Load Balancing
          write                                  read


           Node 1        Node 2     Node 3              ...
              wsrep        wsrep         wsrep

                  Galera replication




                      www.fromdual.com                        27
Galera über Standortgrenzen

     App          App                                App          App
                      Location A            Location B
             LB                                              LB


    Node 2    Node 1                               Node 3     Node 4
     wsrep        wsrep                              wsrep        wsrep

                            Galera replication
                                    wsrep

                                   garbd

                              Location C


                              www.fromdual.com                            28
Vorteil und Nachteile von Galera
Synchrone Replikation
Basiert auf der InnoDB SE (andere SE theoretisch möglich)
Echte aktiv-aktiv Multi-Master Topology
Lesen und Schreiben auf alle Cluster-Knoten
Automatisches Membership Control (wer darf dazugehören)
Echtes paralleles Replizieren auf Zeilenebene
Kein Slave-Lag (Hinterherhinken)
Keine verlorenen Transaktionen
Skaliet für Lese- UND Schreib-Operationen (Read Scale-Out!)
Patch der MySQL Binaries (Codership stellt Binaries zur Verfügung)
Vorsicht bei Hotspots auf einzelnen Rows
Höhere Wahrscheinlichkeit für Dead Locks
Snapshot State Transfer (initiales Syncen) blockiert fürs Schreiben → 3 Knoten
Initiales Syncen für sehr grosse DB's (>>50 Gbyte) noch mit mysqldump
                                 www.fromdual.com                            29
Tungsten Replicator
●   Continuent (www.continuent.com)
●   Master/Slave Replikation (asynchron)
    ●   Basiert auf MySQL Binary Logs!
●   Für MySQL und PostgreSQL!
●   Benötigt Java und Ruby
    ●   Führt eine “globale Transaktions-ID” ein
●   Multi-Source Replikation möglich!
●   Parallele Replikation (pro Schema)
    ●   Hoster, SaaS
●   MySQL Versionen spielen keine Rolle
                             www.fromdual.com      30
Tungsten Replicator Architektur




             www.fromdual.com     31
MySQL Community Event
    Heute Dienstag 15. November 18:00
  Restaurant El Canto (peruanische Küche)
            unterhalb der Burg


         Keine Meerschweinchen!


        Bei Interesse bitte melden!

                www.fromdual.com            32
Q&A


                Fragen ?

              Diskussion?


  Wir haben noch Zeit für persönliche und
         indviduelle Beratungen...


                 www.fromdual.com           33

Weitere ähnliche Inhalte

Was ist angesagt?

MySQL - New Features 5.6
MySQL - New Features 5.6MySQL - New Features 5.6
MySQL - New Features 5.6
FromDual GmbH
 
DOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA'sDOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA's
FromDual GmbH
 
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQLInternet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
FromDual GmbH
 
DOAG: NoSQL with MySQL
DOAG: NoSQL with MySQLDOAG: NoSQL with MySQL
DOAG: NoSQL with MySQL
FromDual GmbH
 

Was ist angesagt? (20)

NoSQL with MySQL
NoSQL with MySQLNoSQL with MySQL
NoSQL with MySQL
 
MySQL - New Features 5.6
MySQL - New Features 5.6MySQL - New Features 5.6
MySQL - New Features 5.6
 
MySQL-Server im Teamwork - Replikation und Cluster
MySQL-Server im Teamwork - Replikation und ClusterMySQL-Server im Teamwork - Replikation und Cluster
MySQL-Server im Teamwork - Replikation und Cluster
 
DOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA'sDOAG 2010: MySQL Architekturen für Oracle DBA's
DOAG 2010: MySQL Architekturen für Oracle DBA's
 
MySQL Beispiele aus der Praxis - Wie setzen Kunden MySQL ein?
MySQL Beispiele aus der Praxis - Wie setzen Kunden MySQL ein?MySQL Beispiele aus der Praxis - Wie setzen Kunden MySQL ein?
MySQL Beispiele aus der Praxis - Wie setzen Kunden MySQL ein?
 
MySQL für Oracle DBA's
MySQL für Oracle DBA'sMySQL für Oracle DBA's
MySQL für Oracle DBA's
 
MySQL Performance Tuning für Oracle-DBA's
MySQL Performance Tuning für Oracle-DBA'sMySQL Performance Tuning für Oracle-DBA's
MySQL Performance Tuning für Oracle-DBA's
 
MySQL Backup
MySQL BackupMySQL Backup
MySQL Backup
 
Der Datenbank-Backup ist gemacht - was nun?
Der Datenbank-Backup ist gemacht - was nun?Der Datenbank-Backup ist gemacht - was nun?
Der Datenbank-Backup ist gemacht - was nun?
 
Weltweite Produktionsdatenverwaltung mit MySQL-Replikation
Weltweite Produktionsdatenverwaltung mit MySQL-ReplikationWeltweite Produktionsdatenverwaltung mit MySQL-Replikation
Weltweite Produktionsdatenverwaltung mit MySQL-Replikation
 
MySQL Cluster with Galera Cluster for MySQL
MySQL Cluster with Galera Cluster for MySQLMySQL Cluster with Galera Cluster for MySQL
MySQL Cluster with Galera Cluster for MySQL
 
MySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenMySQL Hochverfügbarkeitslösungen
MySQL Hochverfügbarkeitslösungen
 
MySQL Performance Tuning für Entwickler
MySQL Performance Tuning für EntwicklerMySQL Performance Tuning für Entwickler
MySQL Performance Tuning für Entwickler
 
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQLInternet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
Internet Briefing 2010: Performance Tuning & Scale-Out mit MySQL
 
MySQL Hochverfügbarkeitslösungen
MySQL HochverfügbarkeitslösungenMySQL Hochverfügbarkeitslösungen
MySQL Hochverfügbarkeitslösungen
 
DOAG: NoSQL with MySQL
DOAG: NoSQL with MySQLDOAG: NoSQL with MySQL
DOAG: NoSQL with MySQL
 
MySQL HA and Security
MySQL HA and SecurityMySQL HA and Security
MySQL HA and Security
 
Nagios Conference 2007 | Vmware Monitoring by Ingo Latschner
Nagios Conference 2007 | Vmware Monitoring by Ingo LatschnerNagios Conference 2007 | Vmware Monitoring by Ingo Latschner
Nagios Conference 2007 | Vmware Monitoring by Ingo Latschner
 
MySQL High Availability Solutions
MySQL High Availability SolutionsMySQL High Availability Solutions
MySQL High Availability Solutions
 
Microservices and Container Management with Mesosphere DC/OS
Microservices and Container Management with Mesosphere DC/OSMicroservices and Container Management with Mesosphere DC/OS
Microservices and Container Management with Mesosphere DC/OS
 

Ähnlich wie DOAG 2011: MySQL Replication

Software Defined Freifunk Backbones
Software Defined Freifunk BackbonesSoftware Defined Freifunk Backbones
Software Defined Freifunk Backbones
Maximilian Wilhelm
 
Software Defined Freifunk Backbones
Software Defined Freifunk BackbonesSoftware Defined Freifunk Backbones
Software Defined Freifunk Backbones
Maximilan Wilhelm
 
Data Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQLData Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQL
FromDual GmbH
 
Einführung in Puppet und Vagrant
Einführung in Puppet und VagrantEinführung in Puppet und Vagrant
Einführung in Puppet und Vagrant
s0enke
 

Ähnlich wie DOAG 2011: MySQL Replication (16)

MySQL Replikation - Die Eier legende Wollmilchsau?
MySQL Replikation - Die Eier legende Wollmilchsau?MySQL Replikation - Die Eier legende Wollmilchsau?
MySQL Replikation - Die Eier legende Wollmilchsau?
 
MySQL Security SLAC 2015
MySQL Security SLAC 2015MySQL Security SLAC 2015
MySQL Security SLAC 2015
 
Big Data Community Webinar vom 16. Mai 2019: Oracle NoSQL DB im Überblick
Big Data Community Webinar vom 16. Mai 2019: Oracle NoSQL DB im ÜberblickBig Data Community Webinar vom 16. Mai 2019: Oracle NoSQL DB im Überblick
Big Data Community Webinar vom 16. Mai 2019: Oracle NoSQL DB im Überblick
 
Icsug conf 14_tipps-und-skripts-fuer-ibm-connections-administratoren
Icsug conf 14_tipps-und-skripts-fuer-ibm-connections-administratorenIcsug conf 14_tipps-und-skripts-fuer-ibm-connections-administratoren
Icsug conf 14_tipps-und-skripts-fuer-ibm-connections-administratoren
 
bccon-2014 adm01 tipps-und-skripts-aus-dem-leben-eines-ibm-connections-admins
bccon-2014 adm01 tipps-und-skripts-aus-dem-leben-eines-ibm-connections-adminsbccon-2014 adm01 tipps-und-skripts-aus-dem-leben-eines-ibm-connections-admins
bccon-2014 adm01 tipps-und-skripts-aus-dem-leben-eines-ibm-connections-admins
 
Tipps und Skripts aus dem Leben eines Connections Admins
Tipps und Skripts aus dem Leben eines Connections AdminsTipps und Skripts aus dem Leben eines Connections Admins
Tipps und Skripts aus dem Leben eines Connections Admins
 
Software Defined Freifunk Backbones
Software Defined Freifunk BackbonesSoftware Defined Freifunk Backbones
Software Defined Freifunk Backbones
 
Software Defined Freifunk Backbones
Software Defined Freifunk BackbonesSoftware Defined Freifunk Backbones
Software Defined Freifunk Backbones
 
Data Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQLData Warehouse (DWH) with MySQL
Data Warehouse (DWH) with MySQL
 
Froscon 2012 DWH
Froscon 2012 DWHFroscon 2012 DWH
Froscon 2012 DWH
 
DB2 High Availability für IBM Connections, Sametime oder Traveler
DB2 High Availability für IBM Connections, Sametime oder TravelerDB2 High Availability für IBM Connections, Sametime oder Traveler
DB2 High Availability für IBM Connections, Sametime oder Traveler
 
Einführung in Puppet und Vagrant
Einführung in Puppet und VagrantEinführung in Puppet und Vagrant
Einführung in Puppet und Vagrant
 
Skalieren von Rails Anwendungen mit Amazon S3 und EC2
Skalieren von Rails Anwendungen mit Amazon S3 und EC2Skalieren von Rails Anwendungen mit Amazon S3 und EC2
Skalieren von Rails Anwendungen mit Amazon S3 und EC2
 
Cloud-native and Enterprise Java? Hold my beer!
Cloud-native and Enterprise Java? Hold my beer!Cloud-native and Enterprise Java? Hold my beer!
Cloud-native and Enterprise Java? Hold my beer!
 
Server 2012 Hyper-V & Client Hyper-V
Server 2012 Hyper-V & Client Hyper-VServer 2012 Hyper-V & Client Hyper-V
Server 2012 Hyper-V & Client Hyper-V
 
Back to Basics - Webinar 6: Produktivsetzung einer Anwendung
Back to Basics - Webinar 6: Produktivsetzung einer AnwendungBack to Basics - Webinar 6: Produktivsetzung einer Anwendung
Back to Basics - Webinar 6: Produktivsetzung einer Anwendung
 

Mehr von FromDual GmbH

Mehr von FromDual GmbH (16)

MariaDB/MySQL pitfalls - And how to come out again...
MariaDB/MySQL pitfalls - And how to come out again...MariaDB/MySQL pitfalls - And how to come out again...
MariaDB/MySQL pitfalls - And how to come out again...
 
MariaDB / MySQL tripping hazard and how to get out again?
MariaDB / MySQL tripping hazard and how to get out again?MariaDB / MySQL tripping hazard and how to get out again?
MariaDB / MySQL tripping hazard and how to get out again?
 
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration WorkshopPXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
PXC 5.5 to MariaDB 10.4 Galera Cluster Migration Workshop
 
IT Tage 2019 MariaDB 10.4 New Features
IT Tage 2019 MariaDB 10.4 New FeaturesIT Tage 2019 MariaDB 10.4 New Features
IT Tage 2019 MariaDB 10.4 New Features
 
MariaDB 10.4 New Features
MariaDB 10.4 New FeaturesMariaDB 10.4 New Features
MariaDB 10.4 New Features
 
MariaDB 10.2 New Features
MariaDB 10.2 New FeaturesMariaDB 10.2 New Features
MariaDB 10.2 New Features
 
PERFORMANCE_SCHEMA and sys schema
PERFORMANCE_SCHEMA and sys schemaPERFORMANCE_SCHEMA and sys schema
PERFORMANCE_SCHEMA and sys schema
 
Reading MySQL fingerprints
Reading MySQL fingerprintsReading MySQL fingerprints
Reading MySQL fingerprints
 
High-availability with Galera Cluster for MySQL
High-availability with Galera Cluster for MySQLHigh-availability with Galera Cluster for MySQL
High-availability with Galera Cluster for MySQL
 
MySQL always-up with Galera Cluster
MySQL always-up with Galera ClusterMySQL always-up with Galera Cluster
MySQL always-up with Galera Cluster
 
HA with Galera
HA with GaleraHA with Galera
HA with Galera
 
MySQL Indexierung CeBIT 2014
MySQL Indexierung CeBIT 2014MySQL Indexierung CeBIT 2014
MySQL Indexierung CeBIT 2014
 
Need for Speed: Mysql indexing
Need for Speed: Mysql indexingNeed for Speed: Mysql indexing
Need for Speed: Mysql indexing
 
MySQL for Oracle DBAs
MySQL for Oracle DBAsMySQL for Oracle DBAs
MySQL for Oracle DBAs
 
MySQL Security
MySQL SecurityMySQL Security
MySQL Security
 
MySQL Performance Tuning Variables
MySQL Performance Tuning VariablesMySQL Performance Tuning Variables
MySQL Performance Tuning Variables
 

DOAG 2011: MySQL Replication

  • 1. MySQL Replikation für Einsteiger DOAG Conference 2011, Nürnberg Oli Sennhauser Senior MySQL Consultant at FromDual GmbH oli.sennhauser@fromdual.com www.fromdual.com 1
  • 2. FromDual GmbH ● FromDual bietet neutral und unabhängig: ● Beratung für MySQL (vor Ort und remote) ● Remote-DBA / MySQL Betrieb ● Support für Galera (synchrone Replikation) ● Support für MySQL (Basic und Silber) ● Schulung für MySQL ● Consulting Partner der Open Database Alliance (ODBA.org) ● Oracle Silber Partner (OPN) ● Mehr Informationen unter: http://www.fromdual.com www.fromdual.com 2
  • 3. Kunden www.fromdual.com 3
  • 4. Inhalt MySQL Replikation ➢ Was ist Replikation? ➢ Wie funktioniert MySQL Replikation? ➢ Wie wird Replikation aufgesetzt? ➢ Wann brauche ich MySQL Replikation? ➢ Neuerungen in 5.1, 5.5 und 5.6 ➢ Varianten der Replikation www.fromdual.com 4
  • 5. Was ist Replikation? ● Daten von einer Datenbank auf eine oder mehrere andere Datenbanken weiterreichen: Applikation Master Slave ● Daten = UPDATE, INSERT, DELETE, ... (= DML Statements) oder (binäre) „Events“ www.fromdual.com 5
  • 6. MySQL Replikation ● Wie funktioniert die MySQL Replikation? Applikation binlog dump IO_thread thread master.info Initialer Dump SQL_thread Master asynchron Slave relay-log.info binary log writer thread ... bin-log.m bin-log.n ... relay-log.m relay-log.n bin-log.index www.fromdual.com 6
  • 7. Vorbereiten des Masters ● Auf dem Master im my.cnf: ● Binary log einschalten: log­bin = bin­log ● Server ID setzen: server_id = 42 – Muss im Replikations-Setup Unique sein! ● Server neu starten (downtime!) www.fromdual.com 7
  • 8. User anlegen und Dump ziehen ● Immer noch auf dem Master: ● Replikations-User anlegen: CREATE USER 'replication'@'192.168.1.%' IDENTIFIED BY 'secret'; GRANT REPLICATION SLAVE ON *.* TO 'replication'@'192.168.1.%'; ● Initialen konsistenten! Dump ziehen: mysqldump ­­all­databases ­­single­ transaction (­­lock­all­tables)  ­­master­data > full_dump.sql www.fromdual.com 8
  • 9. Aufsetzen des Slaves ● Neue Datenbank erstellen (2. Maschine) ./scripts/mysql_install_db   ­­datadir=/var/lib/mysql ● Andere Server ID setzen: ● server_id = 43 ● Slave auf seinen Master ansetzen: ● CHANGE MASTER TO master_host='192.168.1.42' , master_port=3306, master_user='replication' , master_password='secret'; ● Initialen konsistenten Dump einspielen: mysql ­u root < full_dump.sql www.fromdual.com 9
  • 10. Kontrolle und starten ● Kontrolle: SHOW SLAVE STATUSG      Slave_IO_State:         Master_Host: 192.168.1.42         Master_User: replication         Master_Port: 3306     Master_Log_File: bin­log.000001 Read_Master_Log_Pos: 51819      Relay_Log_File: relay­bin.000001       Relay_Log_Pos: 4    Slave_IO_Running: No   Slave_SQL_Running: No ● Starten des Slaves: SLAVE START; www.fromdual.com 10
  • 11. Probleme beim Aufsetzen ● MySQL Replikation funktioniert grundsätzlich gut! ● Gründe warum Probleme auftreten: ● Nicht sauberes befolgen der Anleitungen! ● Nicht konsistentes Backup – ohne ­­single­transaction / ­­lock­all­tables :-( – Jedes Schema einzeln (­­all­databases) :-( ● MySQL Dokumentation: How to Set Up Replication http://dev.mysql.com/doc/refman/5.1/en/replication- howto.html www.fromdual.com 11
  • 12. Probleme beim Betrieb ● Slave wird nicht überwacht ● Binary logs werden nicht aufgeräumt expire_logs_days = n PURGE BINARY LOGS TO 'bin­log.000013'; ● Fummeln auf dem Slave ● Master/Slave Lag (hinterher hinken) ● Master/Slave Drift (auseinander laufen) → Wenn Master und Slave auseinander laufen MUSS der Slave neu aufgesetzt werden ● Filtern auf dem Master ist meist keine gute Idee! www.fromdual.com 12
  • 13. Master/Slave Drift ● Master und Slave können auseinander laufen weil: ● Auf dem Slave geschrieben wird (rumfummeln!) ● sql_bin_log = 0 ● sql_slave_skip_counter = 1 ● slave_skip_errors=... ● Nicht-deterministische Abfragen/Funktionen → viel besser mit Row Based Replikation (RBR) ● Filtern auf Master oder Slave ● Temporäre Tabellen mit SBR ● Unterschiede können gefunden werden mit Tools aus dem Maatkit: mk­table­checksum ● und gefixed werden mit: mk­table­sync ● Ansonsten → Slave neu aufsetzen!!! www.fromdual.com 13
  • 14. Wann brauche ich die MySQL Replikation? ● Es gibt verschiedene Szenarien: ● Scale-Out Lösungen ● Backup Slave ● Datenanalyse, Reporting ● Hochverfügbarkeit (HA) ● Zeitversetzte Datenstände vorhalten www.fromdual.com 14
  • 15. MySQL Scale-Out vs Scale-Up ● Kosten Scale-Up ● MySQL Design ● Phsikalische Flaschenhälse ● „Relaxation of Constraints“ Scale-Out www.fromdual.com 15
  • 16. Der MySQL Scale-Out Ansatz Applikation ro rtw Slave Reporting Slave M Master Slave Backup Slave 1 Slave 2 Slave 3 ... Load balancer www.fromdual.com 16
  • 17. Neuerungen in MySQL 5.1, 5.5 und 5.6 ● Row-Based Replikation (5.1) ● Semi-Synchrone Replikation (5.5) ● Row Image Control (5.6) ● Crash Safe Binary Logs (5.6) ● Remote binary log shipping (5.6) ● ... www.fromdual.com 17
  • 18. Row-Based Replikation (5.1) ● Alt (<= 5.0) Statement-Based Replikation (SBR) → Statements werden übermittelt ● Problem: nicht-deterministische Abfragen/Funktionen → inkonsistente Daten zwischen Master und Slave ● Neu (>= 5.1) Row-Based Replikation (RBR) → Events / Trx werden übermittelt ● binlog_format = {ROW | MIXED | STATEMENT} ● RBR ist die sicherste Art der Replikation! ● Wie sehe ich trotzdem was passiert? mysqlbinlog ­­base64­output=DECODE­ROWS  ­­verbose bin­log.000069 ● Mehr binlog Traffic, unterschiedliche Performance → Testen! www.fromdual.com 18
  • 19. Semi-Synchrone Replikation (5.5) ● Default asynchrone Replikation ● Master wartet NICHT auf Slave! ● Bei Crash: Trx ist nicht zwingend auf Slave ● Neu (5.5) optional semi-synchrone Replikation ● Plug-in (muss auf Master UND Slave aktiv sein!) ● Master wartet auf Slave bis Timeout! – Nach Timeout (default 10 s) → Fallback auf asynchron ● Bis Slave in Relay Log (sync) geschrieben hat ● Bessere Datenintegrität (Master + mind. 1 Slave) ● Schlechtere Performance (Commit + NW Roundtrip + Commit) ● Master Commit, dann Crash, möglich dass Trx Slave nicht erreicht hat! www.fromdual.com 19
  • 20. Semi-synchrone Replikation ● Wie funktioniert die semi-synchrone Replikation? Applikation master.info Master Slave OK relay-log.info ... bin-log.m bin-log.n ... relay-log.m OK relay-log.n bin-log.index www.fromdual.com 20
  • 21. Semi-synchrone Replikation ● Plug-ins aktivieren: INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so'; INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so'; ● Prüfen ob erfolgreich: SHOW PLUGINS; +­­­­­­­­­­­­­­­­­­­­­­­+­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+ | Name                  | Status | Type               | Library            | +­­­­­­­­­­­­­­­­­­­­­­­+­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+ | rpl_semi_sync_master  | ACTIVE | REPLICATION        | semisync_master.so | | rpl_semi_sync_slave   | ACTIVE | REPLICATION        | semisync_slave.so  | +­­­­­­­­­­­­­­­­­­­­­­­+­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+­­­­­­­­­­­­­­­­­­­­+ ● Semi-synchrone Replikation einschalten: SET GLOBAL rpl_semi_sync_master_enabled = 1; SET GLOBAL rpl_semi_sync_slave_enabled  = 1; ● Slave (neu) starten: STOP SLAVE IO_THREAD; START SLAVE IO_THREAD; www.fromdual.com 21
  • 22. Replikation in MySQL 5.6 ● Row Image Control ● binlog_row_image = {full | minimal | noblob} ● Crash safe Binary Logs ● Vollständige Events/Trx werden geloggt ● Event-Länge + CRC32 Checksumme ● Slave: master.info und relay­log.info zusätzlich in (MyISAM) Tabellen ● slave_master_info + slave_relay_log_info ● Umwandeln in InnoDB? www.fromdual.com 22
  • 23. Replikation in MySQL 5.6 ● Remote Binary Log Shipping: mysqlbinlog ­­read­from­remote­server ­­raw bin­ log.000001 > bin­log.000001.dup ● Delayed Replication CHANGE MASTER TO MASTER_DELAY=n; ● Früher mk­slave­delay (Maatkit) ● Neue Variablen: ● log_bin_basename und log_bin ● Aus den Oracle Labs: ● Multi-threaded Slave / Parallel Slave ● Multi-source Replikation? www.fromdual.com 23
  • 24. Synchrone Replikation mit Galera ● Codership (www.codership.com) ● Synchrone Replikation ● “Certification Based Replication”, kein 2PC! ● Echte Multi-Master Replication ● Skaliert sowohl lesend als auch schreibend www.fromdual.com 24
  • 25. Galera (synchronous) Replication App App App Load balancing (LB) Node 1 Node 2 Node 3 wsrep wsrep wsrep Galera replication www.fromdual.com 25
  • 26. Galera (synchronous) Replication App App App Load balancing (LB) Node 1 Node 2 Node 3 wsrep wsrep wsrep Galera replication www.fromdual.com 26
  • 27. Galera im Master-Slave Modus App App App write read VIP Load Balancing write read Node 1 Node 2 Node 3 ... wsrep wsrep wsrep Galera replication www.fromdual.com 27
  • 28. Galera über Standortgrenzen App App App App Location A Location B LB LB Node 2 Node 1 Node 3 Node 4 wsrep wsrep wsrep wsrep Galera replication wsrep garbd Location C www.fromdual.com 28
  • 29. Vorteil und Nachteile von Galera Synchrone Replikation Basiert auf der InnoDB SE (andere SE theoretisch möglich) Echte aktiv-aktiv Multi-Master Topology Lesen und Schreiben auf alle Cluster-Knoten Automatisches Membership Control (wer darf dazugehören) Echtes paralleles Replizieren auf Zeilenebene Kein Slave-Lag (Hinterherhinken) Keine verlorenen Transaktionen Skaliet für Lese- UND Schreib-Operationen (Read Scale-Out!) Patch der MySQL Binaries (Codership stellt Binaries zur Verfügung) Vorsicht bei Hotspots auf einzelnen Rows Höhere Wahrscheinlichkeit für Dead Locks Snapshot State Transfer (initiales Syncen) blockiert fürs Schreiben → 3 Knoten Initiales Syncen für sehr grosse DB's (>>50 Gbyte) noch mit mysqldump www.fromdual.com 29
  • 30. Tungsten Replicator ● Continuent (www.continuent.com) ● Master/Slave Replikation (asynchron) ● Basiert auf MySQL Binary Logs! ● Für MySQL und PostgreSQL! ● Benötigt Java und Ruby ● Führt eine “globale Transaktions-ID” ein ● Multi-Source Replikation möglich! ● Parallele Replikation (pro Schema) ● Hoster, SaaS ● MySQL Versionen spielen keine Rolle www.fromdual.com 30
  • 31. Tungsten Replicator Architektur www.fromdual.com 31
  • 32. MySQL Community Event Heute Dienstag 15. November 18:00 Restaurant El Canto (peruanische Küche) unterhalb der Burg Keine Meerschweinchen! Bei Interesse bitte melden! www.fromdual.com 32
  • 33. Q&A Fragen ? Diskussion? Wir haben noch Zeit für persönliche und indviduelle Beratungen... www.fromdual.com 33