SlideShare ist ein Scribd-Unternehmen logo
1 von 12
Downloaden Sie, um offline zu lesen
北京美地森科技有限公司




                永不宕机的云服务器
              一种基于服务器、集群存储和虚拟机的实现

                         2011年4月
主机可用性面临的挑战
主机  性 临的 战
 主机存储不可用带来的风险
 主机存储   带来的 险
  存储失败导致无法提供服务
  存储无法恢复导致无法恢复服务
 主机存储共享的困难
  主机在物理机之间迁移需要灵活的存储共享机制


存储是服务的基础,存储的失败会带来灾难性的后果
虚拟机为存储提出了更高的要求
应对挑战的方案:传统存储
应对 战的方案 传统存储

 SAN+clusteredfs(gfs2/vmfs)
 NAS
 SAN/NASneverfail?
   expensive SAN/NASneverfail,maybe



 传统的方案相对成熟可靠,能够解决传统IT领域的大部分问题。然而对于成本敏感
 传统的方案相对成熟可靠 能够解决传统IT领域的大部分问题 然而对于成本敏感
 领域,比如互联网,并不是最好的选择
应对挑战的方案:分布式文件系统
应对 战的方案 分布式文件 统
 一致性:
  致性:
     多数dfs实现为最终一致性
     主机要求顺序一致性
 性能
     Dynamo:300ms@500iops/pernode
     主机一般需要控制在20ms级别

DFS在web、分布式计算已经有大量成功的应用,然而多数DFS并不适合用来存储虚拟机镜像,主
DFS在web 分布式计算已经有大量成功的应用 然而多数DFS并不适合用来存储虚拟机镜像 主
要表现在延迟和一致性两个方面。
我们都知道,latencywillkilltheperformance
那么,我们能不能实现一个对虚拟机友好的DFS?
我们的方案:特性
我们的方案 特性
  为虚拟机优化的集群文件系统
    Googlefilesystemlikearch
  一致性:
    Seque ce co s ste t
    Sequenceconsistent
  性能:
    Read:30ms avg @ 200 iops/per disk
                  @200iops/perdisk
    Write:10ms avg @70iops/perdisk


在一个32节点,192块盘的集群中,我们得到3万iops的读性能和5000iops的写性能
我们的方案:难度
我们的方案 难度
 强一致,高可用,低延迟的要求导致分区容忍性下降。限制了
 强 致 高 用 低延迟的要求导致分区容忍性 降 限制了
 集群的规模
 单master构架带来性能瓶颈,需要尽量避免master操作
 缓存 致性带来代码复杂度的挑战
 缓存一致性带来代码复杂度的挑战



CAP原理:
     一致性(Consistency)
     可用性(Availability)
     分区容忍性(Partitiontolerance)
三者不可得兼。所有分布式系统都只是在这三种特性中取舍平衡而来
三者不可得兼 所有分布式系统都只是在这三种特性中取舍平衡而来
我们的方案:实现
我们的方案 实
 分区:
 分区
     较小规模的集群减少跨交换机带来的延迟(32node)

 一致性:
     所有副本writethrough
     采用oplock解决缓存一致性
     采用 l k解决缓存 致性

 可用性:
     master一主多备
            主多备
     多副本

完全基于x86服务器的解决方案,存储和虚拟机和并在一组服务器中,尽可能减少网络延迟对性能
造成的影响
writethrough并不可怕,只要适当的优化,仍然可以获得良好的性能
盛大游戏案例
运行情况
2010年6月启动
100个测试节点(上海电信外高桥机房50台,北京联通亦庄机房50台)
虚拟机、存储共用一组X86架构服务器
虚拟化比例5:1
宕机实时处理时间大幅降低
盛大游戏案例
功能
通过UI进行虚拟机管理
支持虚拟机在线迁移
保证物理器宕机时虚拟机的高可用(可以自动在其它物理服务器上启动)
性能
大文件的顺序读写性能优秀
小文件的随机读写性能优秀
读写性能随集群服务器(存储节点)增加而提升
可靠性
在不大于数据冗余份数的前提下,发生以下故障时,系统仍可正常工作:
磁盘损坏,服务器网络中断,服务器宕机(宕机服务器所运行的虚拟机会在其它服务
磁盘损坏   务  络中   务 宕机 宕机 务  运行的虚拟机会在其它 务
器上重新启动)
在整个集群断网或断电情况下,做到数据安全不丢失,恢复后虚拟机仍可继续使用.
未来:新的构架
未来 新的构架
 按照设备的物理分布划分存储域,在不增加延
 按  备的物 分布划分存储域 在 增加
 迟的情况下缓解可小集群带来的管 问题
 迟的情况下缓解可小集群带来的管理问题
 分布式的master,缓解单master的写性能问
 题
美地森科技介绍
名称由来:美地森/MediaCenter
技术积累:始于2004年
成立时间:2007年5月
核心技术: 集群存储
初创成果:研发成功核心技术YFS集群文件系统,在此基础上实现
USS - Universal Storage System
 SS     i     lS        S
WHS - Web Hosting System                中国铁通
                g y
WSS- WebStorageSystem
                                 中国移动
                                 中               澳客网
                                        美地森科技

                                 盛大游戏           湖南卫视
                                        安博教育
Thankyou!
Thank you!

Weitere ähnliche Inhalte

Ähnlich wie 永不宕机的服务器-Qcon2011

Cibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qconCibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qconYiwei Ma
 
Cibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qconCibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qconYiwei Ma
 
众行业公司系统架构案例介绍
众行业公司系统架构案例介绍众行业公司系统架构案例介绍
众行业公司系统架构案例介绍mysqlops
 
OpenStack Network Planning
OpenStack Network PlanningOpenStack Network Planning
OpenStack Network PlanningHui Cheng
 
容器云对研发工作的挑战与机遇
容器云对研发工作的挑战与机遇 容器云对研发工作的挑战与机遇
容器云对研发工作的挑战与机遇 大伟 李
 
AI使能网络自动驾驶 AI Building Autonomous Driving Network
AI使能网络自动驾驶 AI Building Autonomous Driving NetworkAI使能网络自动驾驶 AI Building Autonomous Driving Network
AI使能网络自动驾驶 AI Building Autonomous Driving NetworkLeo Zhou
 
章文嵩:使用Lvs集群架设高可扩展的网络服务
章文嵩:使用Lvs集群架设高可扩展的网络服务章文嵩:使用Lvs集群架设高可扩展的网络服务
章文嵩:使用Lvs集群架设高可扩展的网络服务drewz lin
 
徐晓 Qq空间技术架构之峥嵘岁月
徐晓 Qq空间技术架构之峥嵘岁月徐晓 Qq空间技术架构之峥嵘岁月
徐晓 Qq空间技术架构之峥嵘岁月drewz lin
 
云计算在电信业务中的应用分析 罗圣美
云计算在电信业务中的应用分析 罗圣美云计算在电信业务中的应用分析 罗圣美
云计算在电信业务中的应用分析 罗圣美Riquelme624
 
使用LVS集群架设高可扩展的网络服务
使用LVS集群架设高可扩展的网络服务使用LVS集群架设高可扩展的网络服务
使用LVS集群架设高可扩展的网络服务Wensong Zhang
 
Dreaming Infrastructure
Dreaming InfrastructureDreaming Infrastructure
Dreaming Infrastructurekyhpudding
 
全端物聯網探索之旅 - 重點整理版
全端物聯網探索之旅 - 重點整理版全端物聯網探索之旅 - 重點整理版
全端物聯網探索之旅 - 重點整理版Simen Li
 
Linux运维趋势 第15期 虚拟化管理软件选型
Linux运维趋势 第15期 虚拟化管理软件选型Linux运维趋势 第15期 虚拟化管理软件选型
Linux运维趋势 第15期 虚拟化管理软件选型51CTO
 
Big Data World Forum
Big Data World ForumBig Data World Forum
Big Data World Forumbigdatawf
 
Hp Storage
Hp StorageHp Storage
Hp Storageamulopan
 
腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍George Ang
 
阿里云技术实践
阿里云技术实践阿里云技术实践
阿里云技术实践drewz lin
 

Ähnlich wie 永不宕机的服务器-Qcon2011 (20)

Cibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qconCibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qcon
 
Cibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qconCibank arch-zhouweiran-qcon
Cibank arch-zhouweiran-qcon
 
Vplex
VplexVplex
Vplex
 
众行业公司系统架构案例介绍
众行业公司系统架构案例介绍众行业公司系统架构案例介绍
众行业公司系统架构案例介绍
 
OpenStack Network Planning
OpenStack Network PlanningOpenStack Network Planning
OpenStack Network Planning
 
容器云对研发工作的挑战与机遇
容器云对研发工作的挑战与机遇 容器云对研发工作的挑战与机遇
容器云对研发工作的挑战与机遇
 
AI使能网络自动驾驶 AI Building Autonomous Driving Network
AI使能网络自动驾驶 AI Building Autonomous Driving NetworkAI使能网络自动驾驶 AI Building Autonomous Driving Network
AI使能网络自动驾驶 AI Building Autonomous Driving Network
 
章文嵩:使用Lvs集群架设高可扩展的网络服务
章文嵩:使用Lvs集群架设高可扩展的网络服务章文嵩:使用Lvs集群架设高可扩展的网络服务
章文嵩:使用Lvs集群架设高可扩展的网络服务
 
徐晓 Qq空间技术架构之峥嵘岁月
徐晓 Qq空间技术架构之峥嵘岁月徐晓 Qq空间技术架构之峥嵘岁月
徐晓 Qq空间技术架构之峥嵘岁月
 
云计算在电信业务中的应用分析 罗圣美
云计算在电信业务中的应用分析 罗圣美云计算在电信业务中的应用分析 罗圣美
云计算在电信业务中的应用分析 罗圣美
 
LVS
LVSLVS
LVS
 
使用LVS集群架设高可扩展的网络服务
使用LVS集群架设高可扩展的网络服务使用LVS集群架设高可扩展的网络服务
使用LVS集群架设高可扩展的网络服务
 
Openstack网络规划
Openstack网络规划Openstack网络规划
Openstack网络规划
 
Dreaming Infrastructure
Dreaming InfrastructureDreaming Infrastructure
Dreaming Infrastructure
 
全端物聯網探索之旅 - 重點整理版
全端物聯網探索之旅 - 重點整理版全端物聯網探索之旅 - 重點整理版
全端物聯網探索之旅 - 重點整理版
 
Linux运维趋势 第15期 虚拟化管理软件选型
Linux运维趋势 第15期 虚拟化管理软件选型Linux运维趋势 第15期 虚拟化管理软件选型
Linux运维趋势 第15期 虚拟化管理软件选型
 
Big Data World Forum
Big Data World ForumBig Data World Forum
Big Data World Forum
 
Hp Storage
Hp StorageHp Storage
Hp Storage
 
腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍
 
阿里云技术实践
阿里云技术实践阿里云技术实践
阿里云技术实践
 

Mehr von Yiwei Ma

Taobao casestudy-yufeng-qcon
Taobao casestudy-yufeng-qconTaobao casestudy-yufeng-qcon
Taobao casestudy-yufeng-qconYiwei Ma
 
Alibaba server-zhangxuseng-qcon
Alibaba server-zhangxuseng-qconAlibaba server-zhangxuseng-qcon
Alibaba server-zhangxuseng-qconYiwei Ma
 
Zhongxing practice-suchunshan-qcon
Zhongxing practice-suchunshan-qconZhongxing practice-suchunshan-qcon
Zhongxing practice-suchunshan-qconYiwei Ma
 
Taobao practice-liyu-qcon
Taobao practice-liyu-qconTaobao practice-liyu-qcon
Taobao practice-liyu-qconYiwei Ma
 
Thoughtworks practice-hukai-qcon
Thoughtworks practice-hukai-qconThoughtworks practice-hukai-qcon
Thoughtworks practice-hukai-qconYiwei Ma
 
Ufida design-chijianqiang-qcon
Ufida design-chijianqiang-qconUfida design-chijianqiang-qcon
Ufida design-chijianqiang-qconYiwei Ma
 
Spring design-juergen-qcon
Spring design-juergen-qconSpring design-juergen-qcon
Spring design-juergen-qconYiwei Ma
 
Netflix web-adrian-qcon
Netflix web-adrian-qconNetflix web-adrian-qcon
Netflix web-adrian-qconYiwei Ma
 
Google arch-fangkun-qcon
Google arch-fangkun-qconGoogle arch-fangkun-qcon
Google arch-fangkun-qconYiwei Ma
 
Alibaba arch-jiangtao-qcon
Alibaba arch-jiangtao-qconAlibaba arch-jiangtao-qcon
Alibaba arch-jiangtao-qconYiwei Ma
 
Twitter keynote-evan-qcon
Twitter keynote-evan-qconTwitter keynote-evan-qcon
Twitter keynote-evan-qconYiwei Ma
 
Netflix keynote-adrian-qcon
Netflix keynote-adrian-qconNetflix keynote-adrian-qcon
Netflix keynote-adrian-qconYiwei Ma
 
Facebook keynote-nicolas-qcon
Facebook keynote-nicolas-qconFacebook keynote-nicolas-qcon
Facebook keynote-nicolas-qconYiwei Ma
 
Domainlang keynote-eric-qcon
Domainlang keynote-eric-qconDomainlang keynote-eric-qcon
Domainlang keynote-eric-qconYiwei Ma
 
Devjam keynote-david-qcon
Devjam keynote-david-qconDevjam keynote-david-qcon
Devjam keynote-david-qconYiwei Ma
 
Baidu keynote-wubo-qcon
Baidu keynote-wubo-qconBaidu keynote-wubo-qcon
Baidu keynote-wubo-qconYiwei Ma
 
淘宝线上线下性能跟踪体系和容量规划-Qcon2011
淘宝线上线下性能跟踪体系和容量规划-Qcon2011淘宝线上线下性能跟踪体系和容量规划-Qcon2011
淘宝线上线下性能跟踪体系和容量规划-Qcon2011Yiwei Ma
 
网游服务器性能优化-Qcon2011
网游服务器性能优化-Qcon2011网游服务器性能优化-Qcon2011
网游服务器性能优化-Qcon2011Yiwei Ma
 
Xietingbao-Qcon2011
Xietingbao-Qcon2011Xietingbao-Qcon2011
Xietingbao-Qcon2011Yiwei Ma
 
Wushi-Qcon2011
Wushi-Qcon2011Wushi-Qcon2011
Wushi-Qcon2011Yiwei Ma
 

Mehr von Yiwei Ma (20)

Taobao casestudy-yufeng-qcon
Taobao casestudy-yufeng-qconTaobao casestudy-yufeng-qcon
Taobao casestudy-yufeng-qcon
 
Alibaba server-zhangxuseng-qcon
Alibaba server-zhangxuseng-qconAlibaba server-zhangxuseng-qcon
Alibaba server-zhangxuseng-qcon
 
Zhongxing practice-suchunshan-qcon
Zhongxing practice-suchunshan-qconZhongxing practice-suchunshan-qcon
Zhongxing practice-suchunshan-qcon
 
Taobao practice-liyu-qcon
Taobao practice-liyu-qconTaobao practice-liyu-qcon
Taobao practice-liyu-qcon
 
Thoughtworks practice-hukai-qcon
Thoughtworks practice-hukai-qconThoughtworks practice-hukai-qcon
Thoughtworks practice-hukai-qcon
 
Ufida design-chijianqiang-qcon
Ufida design-chijianqiang-qconUfida design-chijianqiang-qcon
Ufida design-chijianqiang-qcon
 
Spring design-juergen-qcon
Spring design-juergen-qconSpring design-juergen-qcon
Spring design-juergen-qcon
 
Netflix web-adrian-qcon
Netflix web-adrian-qconNetflix web-adrian-qcon
Netflix web-adrian-qcon
 
Google arch-fangkun-qcon
Google arch-fangkun-qconGoogle arch-fangkun-qcon
Google arch-fangkun-qcon
 
Alibaba arch-jiangtao-qcon
Alibaba arch-jiangtao-qconAlibaba arch-jiangtao-qcon
Alibaba arch-jiangtao-qcon
 
Twitter keynote-evan-qcon
Twitter keynote-evan-qconTwitter keynote-evan-qcon
Twitter keynote-evan-qcon
 
Netflix keynote-adrian-qcon
Netflix keynote-adrian-qconNetflix keynote-adrian-qcon
Netflix keynote-adrian-qcon
 
Facebook keynote-nicolas-qcon
Facebook keynote-nicolas-qconFacebook keynote-nicolas-qcon
Facebook keynote-nicolas-qcon
 
Domainlang keynote-eric-qcon
Domainlang keynote-eric-qconDomainlang keynote-eric-qcon
Domainlang keynote-eric-qcon
 
Devjam keynote-david-qcon
Devjam keynote-david-qconDevjam keynote-david-qcon
Devjam keynote-david-qcon
 
Baidu keynote-wubo-qcon
Baidu keynote-wubo-qconBaidu keynote-wubo-qcon
Baidu keynote-wubo-qcon
 
淘宝线上线下性能跟踪体系和容量规划-Qcon2011
淘宝线上线下性能跟踪体系和容量规划-Qcon2011淘宝线上线下性能跟踪体系和容量规划-Qcon2011
淘宝线上线下性能跟踪体系和容量规划-Qcon2011
 
网游服务器性能优化-Qcon2011
网游服务器性能优化-Qcon2011网游服务器性能优化-Qcon2011
网游服务器性能优化-Qcon2011
 
Xietingbao-Qcon2011
Xietingbao-Qcon2011Xietingbao-Qcon2011
Xietingbao-Qcon2011
 
Wushi-Qcon2011
Wushi-Qcon2011Wushi-Qcon2011
Wushi-Qcon2011
 

永不宕机的服务器-Qcon2011