• Мировой рынок ЦОД. Изменение динамики роста ЦОД, появление новых технологий, закрытие старых ЦОДов.
• Крупнейшие ЦОДы в мире.
• Российский рынок ЦОД. Объемы, выручка, рост.
• Определяющие тенденции ЦОДо-строения: модульность, PUE, масштабируемость, экологичность
• Рынок ЦОД в России. Операторы связи, коммерческие, корпоративные.
• Статистика рынка ЦОД. Игроки, объемы, распределение по стране.
• Модульные технологии Stack Data Network, новые проекты.
Зайцев Сергей Валерьевич, директор Управления регионального развития Stack Data Network(Москва)[/b]
2. Рынок услуг дата-центров в мире
Перераспределение сил на рынке дата-центров
• Глобальный рынок дата-центров снижает динамику роста, в то время как рынки развивающихся стран (Бразилия,
Индия, Россия, Китай) остаются быстрорастущими
• Лидером рынка остаются США, но и они вынуждены пересматривать свои стратегии. Отказ от неэффективных ЦОД,
переход на новые инженерные решения
• США планируют закрыть 800 правительственных дата-центров к 2015 году, Правительство Канады планирует закрыть
280 из 300 ЦОДов.
Определяющие тренды
• Новые подходы к дизайну
– Разделение дата-центра на зоны. Различные возможности по энергопотреблению и охлаждению
• Усиление внимания к экологичности
– Рост значимости стандарта PUE (pover utilization effisiency)
• Тенденция к уплотнению
– В настоящий момент средняя нагрузка на стойку 60% от расчетной. Рост до 85-90%
• Развитие облачных вычислений
– В корпоративных дата-центрах останутся только критические приложения. Все остальные будут перенесены в
«облако»
3. Рынок услуг дата-центров в мире
Крупнейшие дата-центры
•350 EAST CERMAK, Чикаго, 102000 м2. 1999 год
•QTS METRO DATA CENTER, Атланта, 91975 м2. 2006 год
•NAP OF THE AMERICAS, Майами, 70000 м2. 2001 год
•NEXT GENERATION DATA EUROPE, Уэльс, 70000 м2. 2008 год
•MICROSOFT CHICAGO DATA CENTER, Чикаго, 65000 м2. 2009 год
•MICROSOFT DATA CENTER, Дублин, 51100 м2. 2009 год
•DuPONT FABROS CH1, ЭЛК ГРОУВ ВИЛЛИДЖ, Иллинойс, 45000 м2
• ДАТА-ЦЕНТРЫ MICROSOFT вКвинси и Сан-Антонио, 43665 м2
•EQUINIX, Сингапур, 23400 м2
•TELECITY GROUP, Лондон, 10000 м2, 2009 г.
•EVOSWITCH Амстердам, 9285 м2, 2006 г.
4. Рынок услуг дата-центров в мире
Динамика выручки глобального и российского рынков ЦОД, 2000-2015, млрд. $
Мировой США Россия
рынок
2000 16 5
2005 32 10
2010 50 14 0,2
2015 (прогноз) 88 16 0,4
100
90
80
70
60
Мировой рынок
50
США
40
30 Россия
20
10
0
1995 2000 2005 2010 2015 2020
5. Рынок услуг дата-центров в России
Текущее состояние
• Рост более 25% в год.
• Выручка в 2010 г. 140 млн.$, 180 млн.$ в 2011 г.
• Суммарная площадь дата-центров в 2011 г. – 83 000 кв. м.
• В стране насчитывается 130 коммерческих дата-центров
• В 2008 году реализовывалось 1-2 проекта новых датацентров, в 2011 г. – более 5
Соотношение доли Москвы и регионов РФ на рынке коммерческих ЦОД (млрд руб.)
Рост средней загрузки дата-центров
2009 год – 40%
2010 год – 66%
2011 год – 69%
2012 год (прогноз) – 78%
6. Рынок дата-центров в России
Объем и динамика рынка ЦОД в России (млн. долл.)
Динамика роста числа стоек (тыс.)
8. Новые технологии дата-центров - модульные
2010 г. IIJ (Япония)
2008 г. Microsoft 2009 Cisco+IBM
2008 г. Lamperzt
2010 г. Stack.КУБ
2010 г. HP
9. Модульные дата-центры – требование времени
МОДУЛЬНЫЕ ДАТА-ЦЕНТРЫ SDN – ПЕРВЫЕ ДАТА-ЦЕНТРЫ НОВОГО ПОКОЛЕНИЯ
ИСТОРИЯ ПРОЕКТА:
ОТ РОЖДЕНИЯ КОНЦЕПЦИИ ДО ПРАКТИЧЕСКОЙ РЕАЛИЗАЦИИ
10. НЕМНОГО ИСТОРИИ
ХРОНОЛОГИЯ СОЗДАНИЯ МОДУЛЬНОГО ДАТА-ЦЕНТРА
• ПОСТАВЛЕНЫ ЗАДАЧИ:
– оптимизировать капитальные и операционные затраты при строительстве;
– выйти на уровень энергоэффективности PUE <= 1.25, при средних текущих характеристиках действующих дата-центров
PUE>=2,0;
2008
– реализовать уровень отказоустойчивости и доступности не ниже 99.95%;
– осуществить возможность ввода дополнительных ресурсов и мощностей без приостановки оказания услуг дата-центра;
– обеспечить возможность оперативного запуска новых площадок с низким риском морального устаревания
– учесть лучшие практики по безопасности; обеспечить возможность обслуживания инженерных систем ДЦ без влияния на
оказываемый сервис;
2009 • РАЗРАБОТАНА КОНЦЕПЦИЯ И ВЫПОЛНЕН ЭСКИЗНЫЙ ПРОЕКТ МДЦ НОВОГО ПОКОЛЕНИЯ.
• ИЗГОТОВЛЕН И АПРОБИРОВАН ПРОТОТИП БАЗОВОЙ (ТРЁХБЛОЧНОЙ) КОНФИГУРАЦИИ МДЦ.
• ПРОВЕДЕН АНАЛИЗ РЕЗУЛЬТАТОВ ИСПЫТАНИЙ И ПОСЛЕДУЮЩЕГО МОНИТОРИНГА.
2010
• ПОДГОТОВЛЕНЫ ПРОЕКТЫ ПОД РЕАЛЬНЫЕ ПЛОЩАДКИ.
2011 • ПОЛУЧЕН ПАТЕНТ НА ТЕХНОЛОГИЮ СТРОИТЕЛЬСТВА МОДУЛЬНОГО ДЦ И ПРИНЦИПОВ ЕГО
ФУНКЦИОНИРОВАНИЯ.
• НАЧАТО СОЗДАНИЕ НОВЫХ УЗЛОВ СЕТИ SDN В САНКТ-ПЕТЕРБУРГЕ И КАЗАНИ.
11. ПРИНЦИП РЕАЛИЗАЦИИ МОДУЛЬНОГО ДАТА-ЦЕНТРА Stack.КУБ
ШАГ №1: подготовка серверной ячейки
Серверная ячейка Серверная ячейка с шинопроводами, Собранная серверная ячейка
кабельными системами, элементами
пожаротушения.
ШАГ №2: организация систем энергоснабжения и холодоснабжения
Серверная ячейка с системой Готовый дата-центр из одной серверной
Серверная ячейка с системой
бесперебойного энергоснабжения и ячейки – один из модулей будущего дата-
бесперебойного
холодоснабжения центра
энергоснабжения
12. ПОШАГОВОЕ НАРАЩИВАНИЕ МОДУЛЬНОГО ДАТА-ЦЕНТРА
ШАГ №1: подготовка серверной ячейки
ШАГ №2: организация систем энергоснабжения и холодоснабжения
ШАГ №3: масштабирование за счет подключения новых ячеек
ШАГ №4: увеличение мощности дата-центра для подключения новых ячеек
ШАГ №5: масштабирование за счет подключения новых ячеек Базовые элементы
ШАГ №6: масштабирование за счет подключения новых модулей
ВОЗМОЖНЫЕ КОНФИГУРАЦИИ МОДУЛЬНОГО ДАТА-ЦЕНТРА
Дата-центр с двумя ячейками Дата-центр с тремя ячейками Дата-центр с четырьмя ячейками
(в данной конфигурации является модулем)
…
Дата-центр с шестью ячейками
Дата-центр с девятью серверными ячейками (два модуля)
13. ОСОБЕННОСТИ ТЕХНОЛОГИЧЕСКИХ РЕШЕНИЙ МОДУЛЬНЫХ ДАТА-ЦЕНТРОВ SDN
ЭНЕРГОСНАБЖЕНИЕ
• Полная мощность энергопотребления ДЦ со всеми потребителями электроэнергии
резервируется автономными электрогенераторами
• Электроснабжение критичной нагрузки осуществляется минимум двумя активными вводами
с полным резервом мощности по каждому вводу.
• Электроснабжение потребителей ДЦ осуществляется напряжением
230 В одна фаза, 400 В три фазы
• В энергоснабжении ДЦ применяются системы выравнивания характеристик питающей
сети и бесперебойного питания при поддержке автономными генераторами
• Общая система энергоснабжения имеет поэлементную реализацию, благодаря
чему не возникает необходимости организовывать и обслуживать избыточные
ресурсы, а элементы системы можно вводить в эксплуатацию по мере
необходимости без модернизации общей системы и приостановки оказания услуг
ХОЛОДОСНАБЖЕНИЕ
• В качестве основного в ДЦ применяется охлаждение по принципу «FREECOOLING» с возможностью
дополнительного принудительного охлаждения
• Системы холодоснабжения зарезервированы по элементам системы с возможностью вывода на
обслуживание любого элемента с сохранением необходимой мощности холодоснабжения
• Обеспечивается резервирование по электроснабжению элементов системы холодоснабжения
14. ОСНОВНЫЕ СВОЙСТВА МОДУЛЬНЫХ ДАТА-ЦЕНТРОВ SDN
БЕЗОПАСНОСТЬ
• Интегрированная многоуровневая система контроля доступа,
видеонаблюдение периметровых, входных, проходных, технологических
и сервисных зон
• Физическое разграничение доступа и рабочих зон в соответствии с
уровнями доступа и должностными обязанностями сотрудников
ГИБКОСТЬ И ВАРИАТИВНОСТЬ ТЕХНОЛОГИЧЕСКИХ РЕШЕНИЙ
• Соответствие требованиям роста и изменений бизнеса ―
ввод ресурсов и мощностей по мере необходимости
• Оперативное подключение ИТ оборудования к системам
энергообеспечения
• Возможность в последующем адаптации «новых» модулей под
изменяющиеся требования и технологии без влияния на качество и
согласованные с клиентом режим предоставляемых сервисов
• Реализация в рамках одного дата-центра разного уровня надежности
предоставляемых услуг для соответствия требованиям различных ИТ
систем клиента
… …
15. АПРОБАЦИЯ ТЕХНОЛОГИИ МОДУЛЬНОГО ДАТА-ЦЕНТРА STACK.КУБ
ОБЪЕКТ ИСПЫТАНИЙ:
полнофункциональный прототип базовой конфигурации модульного
дата-центра Stack.КУБ размером 24х6х7 куб.м и подведѐнной
от ДГУ мощностью 360 кВа.
функциональная нагрузка блоков:
• серверный зал на 20 стойко-мест, в котором смоделировано
100% заполнение стоек блейд-системами с общей нагрузкой
240 кВа
• тамбур-шлюз для подготовки оборудования к размещению
в серверной зоне; Прототип модульного дата-центра STACK.КУБ во
• инженерная "обвязка" - уникальная система воздушного время тестовых испытаний (июнь-август 2010 г.).
охлаждения В ночном демо-режиме синим цветом обозначены
с роторным теплообменником от Kyoto Cooling, изолирующая зоны и направление движения холодного воздуха,
друг от друга горячий и холодный потоки воздуха. красным – нагретого стойками
● Время проведения испытаний: 10 июня 2010 г. - август 2011
● Место проведения испытаний: Подмосковье
ПОЛУЧЕННЫЕ РЕЗУЛЬТАТЫ:
• при температуре воздуха +38 в дата-центре с подведенной мощностью 300 кВт было получено значение PUE 1,24,
при +18 был зафиксирован рекордный для отрасли PUE 1,02 (!).
• эксплуатационные затраты на обслуживание инженерных систем МДЦ Stack.КУБ ниже по сравнению с классическими
аналогами на 30%.
STACK.КУБ - КЛЮЧЕВАЯ СОСТАВЛЯЮЩАЯ КОМПЛЕКСНОЙ ПРОГРАММЫ РАЗВИТИЯ СЕТИ STACK DATA NETWORK С АВГУСТА 2010 ГОДА
16. ОСНОВНЫЕ ПРЕИМУЩЕСТВА МОДУЛЬНЫХ ТЕХНОЛОГИЙ ДЛЯ КЛИЕНТОВ SDN
• ОПЕРАТИВНОЕ ПОДКЛЮЧЕНИЕ ОБОРУДОВАНИЯ КЛИЕНТА ;
обеспечивается высоким уровнем готовности СКС и каналов передачи данных разного типа, возможностью подключения конфигураций с
нестандартными разъѐмами, присутствием в SDN точек санкционированного подключения к любому оператору.
• НАРАЩИВАНИЕ МОЩНОСТЕЙ И ПЛОЩАДЕЙ ПЛОЩАДКИ ПОД ЗАДАЧИ КЛИЕНТА В РЕЖИМЕ JUST-IN-TIME;
обеспечивается оперативностью развѐртывания и модернизации (от нескольких недель до 2-4 месяцев) в сочетании с возможностью
подключения/замены модулей в любой плоскости (и горизонтально, и вертикально).
• УХОД ОТ РИСКОВ «ЭНЕРГЕТИЧЕСКОГО ГОЛОДА» ПРИ ПЕРЕХОДЕ НА ИСПОЛЬЗОВАНИЕ РЕШЕНИЙ ВЫСОКОЙ
ПЛОТНОСТИ, В ТОМ ЧИСЛЕ ОБЛАЧНЫХ ВЫЧИСЛИТЕЛЬНЫХ РЕСУРСОВ И СРЕД;
обеспечивается возможностью подачи электрической мощности на стойку до 40÷50 кВт в сочетании с возможностью внесения изменений
«на ходу» без перерыва в предоставлении сервисов.
• ВЫСОКАЯ СТЕПЕНЬ ОТКАЗОУСТОЙЧИВОСТИ ИНЖЕНЕРНОЙ ИНФРАСТРУКТУРЫ;
обеспечивается наличием двух независимых энергетических вводов, резервированной системы воздушного охлаждения, наличием
хранилища дизельного топлива.
• СООТВЕТСТВИЕ ТРЕБОВАНИЯМ ЭКСПЛУАТАЦИИ РАЗЛИЧНЫХ ИТ-СИСТЕМ КОРПОРАТИВНОЙ ИНФРАСТРУКТУРЫ КЛИЕНТА;
обеспечивается возможностью сочетания в одной серверной зоне стоек с разным уровнем резервирования инженерной инфраструктуры
(в интервале от TIER II до TIER IV).
• ПОВЫШЕНИЕ ЗАЩИЩЁННОСТИ ИНФОРМАЦИОННЫХ , МАТЕРИАЛЬНЫХ РЕСУРСОВ КЛИЕНТА;
обеспечивается соблюдением максимально жѐстких требований физической и
информационной безопасности, в том числе, благодаря изолированности друг от друга серверных
помещений, использованию эффективных инструментов мониторинга и диагностики,
применению современных технологий предотвращения вероятности пожара.
17. ОСНОВНЫЕ СВОЙСТВА МОДУЛЬНЫХ ДАТА-ЦЕНТРОВ SDN
НАДЕЖНОСТЬ И ДОСТУПНОСТЬ
• Соответствие требованиям Concurrent Maintainable (соответствует классу Tier III в соответствии со спецификацией Uptime
Institute) с возможностью повышения уровня надежности
• Обеспечение поддержки ИТ-систем, ориентированных на сопровождение систем с высокими требованиями к надежности
Business Critical и Mission Critical ИТ систем
• Высокий уровень отказоустойчивости всех подсистем. Защита от рисков незапланированного простоя ИТ-систем.
ОЦЕНОЧНАЯ СТОИМОСТЬ ПРОСТОЯ ОСНОВНЫХ ИТ-СИСТЕМ В РАЗНЫХ ОТРАСЛЕВЫХ СЕГМЕНТАХ; $/ЧАС
источник: Мeta Group Stud
10 000 000,00
1 000 000,00
100 000,00
10 000,00
ВЫСОКАЯ ЭНЕРГОЭФФЕКТИВНОСТЬ И ЭКОЛОГИЧНОСТЬ
• Минимизация энергетических потерь в системах жизнеобеспечения. Минимизация неблагоприятного влияния на окружающую среду
• Возможность получения LEED сертификата
• Достижение минимально возможного на текущем уровне технологического развития показателя PUE: <1,25 (для международной и
отечественной практики типичен PUE >= 2,0), благодаря чему повышается снижение расходов на «сопутствующее» энергоснабжение
18. ДАТА-ЦЕНТРЫ SDN, СОЗДАВАЕМЫЕ ПО МОДУЛЬНОМУ ПРИНЦИПУ
МДЦ SDN В САНКТ-ПЕТЕРБУРГЕ
(запуск в I-м полугодии 2012 г.)
ПРОЕКТНЫЕ ПАРАМЕТРЫ
• 54 ячейки
• 1 476 стоек (6,3 кВт/ст.)
• 16 установок системы кондиционирования воздуха
• PUE (годовой) 1,2 – 1,25
• 9000 кВт холодильной мощности
• 14000 кВт электрической мощности суммарно
• Уровень резервирования системы охлаждения N+1
• Два оптических входа, подключение к оптическому кольцу
• Два независимых электрических ввода
• Отдельно стоящее здание , расположенное на охраняемом
участке площадью 3,05 Га
• Удобная транспортная доступность
Проект выполняется в соответствии с рекомендациями
международного стандарта Concurrent Maintainable (соответствует классу Tier III в классификации Uptime Institute)
20. ДАТА-ЦЕНТРЫ SDN, СОЗДАВАЕМЫЕ ПО МОДУЛЬНОМУ ПРИНЦИПУ
МДЦ SDN В КАЗАНИ
(запуск в I-м полугодии 2012 г.)
ПРОЕКТНЫЕ ПАРАМЕТРЫ
• 8 ячеек
• 376 стоек (7,3 кВт/ст)
• 4 установки системы кондиционирования воздуха
• PUE (годовой) 1,2 – 1,25
• 1800 кВт холодильной мощности
• 2500 кВт электрической мощности суммарно
• Уровень резервирования системы охлаждения N+1
• Отдельно здание стоящее на охраняемом участке
площадью 0,23 Га
• Соответствие требованиям к уровню надѐжности TIER III
• Удобная транспортная доступность как на
автомобиле, так и на городском транспорте
Проект выполняется в соответствии с рекомендациями
международного стандарта Concurrent Maintainable (соответствует классу Tier III в классификации Uptime Institute)