SlideShare a Scribd company logo
1 of 21
海量数据迁移方案 徐进挺 新浪围脖: tb 丁原 Mail:dingyuan@taobao.com 日期: 201104
[object Object],[object Object],[object Object],[object Object],大纲
[object Object],[object Object],[object Object],场景是什么 enq: HW - contention enq: TX - row lock contention enq: TX - index contention 需求: 表需要从 1 个库迁移到另外的库中 迁移对应关系可能是 1->1, 1->N, N->1,N->M 源,目标端环境可能是: Oracle <-> oracle , Oracle <-> mysql , Oracle <-> nosql
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],目标是什么
[object Object],[object Object],[object Object],[object Object],大纲
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],全量迁移
使用过哪些方案 选择简单,高效,高可靠性的方案
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],全量迁移的风险点 全量迁移: 建议化整为零分片迁移
[object Object],[object Object],[object Object],[object Object],[object Object],化整为零之 extent 方案 File# Block# Row# data_object_id# File# Block# Row# 1 Segment  N  extent N*N Block N*N*N rowid
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],化整为零之 extent 方案
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],化整为零之 extent 方案
[object Object],[object Object],[object Object],[object Object],大纲
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],增量迁移 备注: 每个表必须要有 创建时间和修改时间 两个字段 问题: 如果迁移过程中,需要加上业务处理逻辑,哪种方式更容易满足呢 ?
trigger/procedure
dbsync
Tddl 复制中心
[object Object],[object Object],[object Object],[object Object],大纲
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Oracle-my(no)sql
[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Sqluldr/load data
[object Object],[object Object],[object Object],[object Object],小结
 

More Related Content

What's hot

初學R語言的60分鐘
初學R語言的60分鐘初學R語言的60分鐘
初學R語言的60分鐘Chen-Pan Liao
 
大话redis设计实现
大话redis设计实现大话redis设计实现
大话redis设计实现rfyiamcool
 
R 語言教學: 探索性資料分析與文字探勘初探
R 語言教學: 探索性資料分析與文字探勘初探R 語言教學: 探索性資料分析與文字探勘初探
R 語言教學: 探索性資料分析與文字探勘初探Sean Yu
 
Chapter 5 array and struct
Chapter 5 array and structChapter 5 array and struct
Chapter 5 array and structhhliu
 
Mysql 高级优化之 逻辑处理
Mysql 高级优化之 逻辑处理Mysql 高级优化之 逻辑处理
Mysql 高级优化之 逻辑处理nigel889
 
Mongo db技术分享
Mongo db技术分享Mongo db技术分享
Mongo db技术分享晓锋 陈
 
自下而上的数据仓库构建方法
自下而上的数据仓库构建方法自下而上的数据仓库构建方法
自下而上的数据仓库构建方法tongxiaojun
 
[系列活動] 手把手教你R語言資料分析實務
[系列活動] 手把手教你R語言資料分析實務[系列活動] 手把手教你R語言資料分析實務
[系列活動] 手把手教你R語言資料分析實務台灣資料科學年會
 
Rde packagean zhuang_ji_ji_ben_cao_zuo_
Rde packagean zhuang_ji_ji_ben_cao_zuo_Rde packagean zhuang_ji_ji_ben_cao_zuo_
Rde packagean zhuang_ji_ji_ben_cao_zuo_vinsin27
 
Hadoop 0.20 程式設計
Hadoop 0.20 程式設計Hadoop 0.20 程式設計
Hadoop 0.20 程式設計Wei-Yu Chen
 
手把手教你 R 語言分析實務
手把手教你 R 語言分析實務手把手教你 R 語言分析實務
手把手教你 R 語言分析實務Helen Afterglow
 
Oracle 数据类型
Oracle 数据类型Oracle 数据类型
Oracle 数据类型yzsind
 
The ruby way iii
The ruby way iiiThe ruby way iii
The ruby way iiiDeng Peng
 
PostGIS 初入門應用
PostGIS 初入門應用PostGIS 初入門應用
PostGIS 初入門應用Chengtao Lin
 
cnYes 如何使用 elasticsearch
cnYes 如何使用 elasticsearchcnYes 如何使用 elasticsearch
cnYes 如何使用 elasticsearchSzuping Wang
 
Memcached分享
Memcached分享Memcached分享
Memcached分享princehaku
 

What's hot (20)

初學R語言的60分鐘
初學R語言的60分鐘初學R語言的60分鐘
初學R語言的60分鐘
 
大话redis设计实现
大话redis设计实现大话redis设计实现
大话redis设计实现
 
Linq 入门
Linq 入门Linq 入门
Linq 入门
 
R 語言教學: 探索性資料分析與文字探勘初探
R 語言教學: 探索性資料分析與文字探勘初探R 語言教學: 探索性資料分析與文字探勘初探
R 語言教學: 探索性資料分析與文字探勘初探
 
Chapter 5 array and struct
Chapter 5 array and structChapter 5 array and struct
Chapter 5 array and struct
 
Mysql 高级优化之 逻辑处理
Mysql 高级优化之 逻辑处理Mysql 高级优化之 逻辑处理
Mysql 高级优化之 逻辑处理
 
Mongo db技术分享
Mongo db技术分享Mongo db技术分享
Mongo db技术分享
 
自下而上的数据仓库构建方法
自下而上的数据仓库构建方法自下而上的数据仓库构建方法
自下而上的数据仓库构建方法
 
[系列活動] 手把手教你R語言資料分析實務
[系列活動] 手把手教你R語言資料分析實務[系列活動] 手把手教你R語言資料分析實務
[系列活動] 手把手教你R語言資料分析實務
 
Rde packagean zhuang_ji_ji_ben_cao_zuo_
Rde packagean zhuang_ji_ji_ben_cao_zuo_Rde packagean zhuang_ji_ji_ben_cao_zuo_
Rde packagean zhuang_ji_ji_ben_cao_zuo_
 
Hadoop 0.20 程式設計
Hadoop 0.20 程式設計Hadoop 0.20 程式設計
Hadoop 0.20 程式設計
 
手把手教你 R 語言分析實務
手把手教你 R 語言分析實務手把手教你 R 語言分析實務
手把手教你 R 語言分析實務
 
Oracle 数据类型
Oracle 数据类型Oracle 数据类型
Oracle 数据类型
 
The ruby way iii
The ruby way iiiThe ruby way iii
The ruby way iii
 
C語言陣列與字串
C語言陣列與字串C語言陣列與字串
C語言陣列與字串
 
Os讀書會20170616
Os讀書會20170616Os讀書會20170616
Os讀書會20170616
 
PostGIS 初入門應用
PostGIS 初入門應用PostGIS 初入門應用
PostGIS 初入門應用
 
cnYes 如何使用 elasticsearch
cnYes 如何使用 elasticsearchcnYes 如何使用 elasticsearch
cnYes 如何使用 elasticsearch
 
Xapian介绍
Xapian介绍Xapian介绍
Xapian介绍
 
Memcached分享
Memcached分享Memcached分享
Memcached分享
 

Similar to 海量数据迁移方案

丁原:海量数据迁移方案
丁原:海量数据迁移方案丁原:海量数据迁移方案
丁原:海量数据迁移方案YANGL *
 
Hadoop Map Reduce 程式設計
Hadoop Map Reduce 程式設計Hadoop Map Reduce 程式設計
Hadoop Map Reduce 程式設計Wei-Yu Chen
 
分布式存储与TDDL
分布式存储与TDDL分布式存储与TDDL
分布式存储与TDDLmysqlops
 
Ria的强力后盾:rest+海量存储
Ria的强力后盾:rest+海量存储 Ria的强力后盾:rest+海量存储
Ria的强力后盾:rest+海量存储 zhen chen
 
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise 美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise 美团点评技术团队
 
Hadoop系统及其关键技术
Hadoop系统及其关键技术Hadoop系统及其关键技术
Hadoop系统及其关键技术冬 陈
 
Sql Server 高级技巧系列之三整体优化
Sql Server 高级技巧系列之三整体优化Sql Server 高级技巧系列之三整体优化
Sql Server 高级技巧系列之三整体优化向 翔
 
Mysql遇到的一些问题
Mysql遇到的一些问题Mysql遇到的一些问题
Mysql遇到的一些问题wang tongchao
 
線上埋碼資料收集實作
線上埋碼資料收集實作線上埋碼資料收集實作
線上埋碼資料收集實作FEG
 
Hadoop学习总结
Hadoop学习总结Hadoop学习总结
Hadoop学习总结ordinary2012
 
Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構
Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構
Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構Etu Solution
 
Qcon2013 罗李 - hadoop在阿里
Qcon2013 罗李 - hadoop在阿里Qcon2013 罗李 - hadoop在阿里
Qcon2013 罗李 - hadoop在阿里li luo
 
PHP Coding Standard and 50+ Programming Skills
PHP Coding Standard and 50+ Programming SkillsPHP Coding Standard and 50+ Programming Skills
PHP Coding Standard and 50+ Programming SkillsHo Kim
 
Cassandra简介.ppt
Cassandra简介.pptCassandra简介.ppt
Cassandra简介.pptjames tong
 
大資料趨勢介紹與相關使用技術
大資料趨勢介紹與相關使用技術大資料趨勢介紹與相關使用技術
大資料趨勢介紹與相關使用技術Wei-Yu Chen
 
Anthill: A Distributed DBMS Based On MapReduce
Anthill: A Distributed DBMS Based On MapReduceAnthill: A Distributed DBMS Based On MapReduce
Anthill: A Distributed DBMS Based On MapReduceMin Zhou
 
数据处理算法设计要点
数据处理算法设计要点数据处理算法设计要点
数据处理算法设计要点thinkinlamp
 

Similar to 海量数据迁移方案 (20)

丁原:海量数据迁移方案
丁原:海量数据迁移方案丁原:海量数据迁移方案
丁原:海量数据迁移方案
 
Hadoop Map Reduce 程式設計
Hadoop Map Reduce 程式設計Hadoop Map Reduce 程式設計
Hadoop Map Reduce 程式設計
 
分布式存储与TDDL
分布式存储与TDDL分布式存储与TDDL
分布式存储与TDDL
 
Ria的强力后盾:rest+海量存储
Ria的强力后盾:rest+海量存储 Ria的强力后盾:rest+海量存储
Ria的强力后盾:rest+海量存储
 
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise 美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise
 
Hadoop系统及其关键技术
Hadoop系统及其关键技术Hadoop系统及其关键技术
Hadoop系统及其关键技术
 
Hadoop ecosystem
Hadoop ecosystemHadoop ecosystem
Hadoop ecosystem
 
Sql Server 高级技巧系列之三整体优化
Sql Server 高级技巧系列之三整体优化Sql Server 高级技巧系列之三整体优化
Sql Server 高级技巧系列之三整体优化
 
Mysql遇到的一些问题
Mysql遇到的一些问题Mysql遇到的一些问题
Mysql遇到的一些问题
 
線上埋碼資料收集實作
線上埋碼資料收集實作線上埋碼資料收集實作
線上埋碼資料收集實作
 
Hadoop学习总结
Hadoop学习总结Hadoop学习总结
Hadoop学习总结
 
Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構
Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構
Track A-3 Enterprise Data Lake in Action - 搭建「活」的企業 Big Data 生態架構
 
Optimzing mysql
Optimzing mysqlOptimzing mysql
Optimzing mysql
 
Qcon2013 罗李 - hadoop在阿里
Qcon2013 罗李 - hadoop在阿里Qcon2013 罗李 - hadoop在阿里
Qcon2013 罗李 - hadoop在阿里
 
PHP Coding Standard and 50+ Programming Skills
PHP Coding Standard and 50+ Programming SkillsPHP Coding Standard and 50+ Programming Skills
PHP Coding Standard and 50+ Programming Skills
 
Hadoop 介紹 20141024
Hadoop 介紹 20141024Hadoop 介紹 20141024
Hadoop 介紹 20141024
 
Cassandra简介.ppt
Cassandra简介.pptCassandra简介.ppt
Cassandra简介.ppt
 
大資料趨勢介紹與相關使用技術
大資料趨勢介紹與相關使用技術大資料趨勢介紹與相關使用技術
大資料趨勢介紹與相關使用技術
 
Anthill: A Distributed DBMS Based On MapReduce
Anthill: A Distributed DBMS Based On MapReduceAnthill: A Distributed DBMS Based On MapReduce
Anthill: A Distributed DBMS Based On MapReduce
 
数据处理算法设计要点
数据处理算法设计要点数据处理算法设计要点
数据处理算法设计要点
 

More from orczhou

2012 dtcc-itpub-runing-critical-data-on-mysql
2012 dtcc-itpub-runing-critical-data-on-mysql2012 dtcc-itpub-runing-critical-data-on-mysql
2012 dtcc-itpub-runing-critical-data-on-mysqlorczhou
 
MySQL自动切换设计与实现
MySQL自动切换设计与实现MySQL自动切换设计与实现
MySQL自动切换设计与实现orczhou
 
MySQL Replication新功能介绍
MySQL Replication新功能介绍 MySQL Replication新功能介绍
MySQL Replication新功能介绍 orczhou
 
飞信核心库Ha设计及实现
飞信核心库Ha设计及实现飞信核心库Ha设计及实现
飞信核心库Ha设计及实现orczhou
 
MySQL新技术研究与实践
MySQL新技术研究与实践MySQL新技术研究与实践
MySQL新技术研究与实践orczhou
 
Manage MySQL with open source
Manage MySQL with open sourceManage MySQL with open source
Manage MySQL with open sourceorczhou
 
MySQL Replication
MySQL ReplicationMySQL Replication
MySQL Replicationorczhou
 
MySQL Replication
MySQL ReplicationMySQL Replication
MySQL Replicationorczhou
 

More from orczhou (8)

2012 dtcc-itpub-runing-critical-data-on-mysql
2012 dtcc-itpub-runing-critical-data-on-mysql2012 dtcc-itpub-runing-critical-data-on-mysql
2012 dtcc-itpub-runing-critical-data-on-mysql
 
MySQL自动切换设计与实现
MySQL自动切换设计与实现MySQL自动切换设计与实现
MySQL自动切换设计与实现
 
MySQL Replication新功能介绍
MySQL Replication新功能介绍 MySQL Replication新功能介绍
MySQL Replication新功能介绍
 
飞信核心库Ha设计及实现
飞信核心库Ha设计及实现飞信核心库Ha设计及实现
飞信核心库Ha设计及实现
 
MySQL新技术研究与实践
MySQL新技术研究与实践MySQL新技术研究与实践
MySQL新技术研究与实践
 
Manage MySQL with open source
Manage MySQL with open sourceManage MySQL with open source
Manage MySQL with open source
 
MySQL Replication
MySQL ReplicationMySQL Replication
MySQL Replication
 
MySQL Replication
MySQL ReplicationMySQL Replication
MySQL Replication
 

海量数据迁移方案