CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine

2758.933194
2-8-15-2
Сибирёв Андрей
1734,45
2-8-7
Co caine Clouds
A Cl oser Look 2.0

Мы делаем инфраструктуру.
2

Как и десять лет назад, обычно инфраструктура
представляет из себя бардак.
Немного истории
3
©SimpleDesktops.com

При этом, инфраструктура является основой
любого современного бизнеса.
3

При этом, инфраструктура является основой
любого современного бизнеса.
Кажется, что-то здесь не так.
3

Компании начинают с небольшого количества
серверов.
В начале был сервер
4

Компании начинают с небольшого количества
серверов.
Постепенно парк серверов растёт, вместе с
ростом пользовательской базы и,
следовательно, нагрузки.
4

Рано или поздно, компания обнаруживает у
себя кучу разнородного железа.
5

И если его использование документировано и
учтено, то всё хорошо.
5

И если его использование документировано и
учтено, то всё хорошо.
Но такое встречается редко.
5

Разнообразие — это великое зло.
6

В программах есть ошибки.
И на сервере был софт
7

Ошибки чинят и выпускают новые версии
программ, на радость пользователям.
7

Ошибки чинят и выпускают новые версии
программ, на радость пользователям.
Правда, эти новые версии сначала нужно
пользователям доставить.
7

Очевидно, чтобы выкатить новую версию
программы, нужна интеллектуальная система
деплоймента приложений.
8

Например, пять тысяч строк на Perl и Rsync!
8

Например, пять тысяч строк на Perl и Rsync!
На самом деле, нет.
8

Rsync — не инструмент деплоймента.
9

Программы, в которых есть ошибки, ломаются в
самое неподходящее время.
И софт был не очень
10

После работы пяти тысяч строк на Perl понять
где и что именно сломалось невозможно.
10

После работы пяти тысяч строк на Perl понять
где и что именно сломалось невозможно.
Бардак только что стал в два раза больше.
10

Человечество изобрело мониторинг и метрики,
чтобы такого никогда не было.
11

Только об этом надо было думать в самом
начале.
11

Только об этом надо было думать в самом
начале.
Потому что невозможно управлять хаосом.
11

Мониторинг — это контроль.
12

Иногда программисты пишут быстрые
программы.
Утилизация ресурсов
13

программы.
Звучит, вроде бы, хорошо, но, на самом деле,
это не всегда так.
13

программы.
Звучит, вроде бы, хорошо, но, на самом деле,
это не всегда так.
Обогревать датацентры серверами — не самая
хорошая экономическая модель.
13

Ваше приложение попало на главную страницу
Хабра.
Пики нагрузки
14

Хабра.
И тысяча пользователей превратилась в
пятьдесят тысяч. Вот это да, стартап окупился
за одну ночь!
14

Хабра.
И тысяча пользователей превратилась в
пятьдесят тысяч. Вот это да, стартап окупился
за одну ночь!
То есть, я хотел сказать «503 Service Temporarily
Unavailable».
14

Единообразие — это гибкость.
15

Модульная архитектура, унифицированные
вычислительные ресурсы: слоты, слайсы,
юниты.
Cloud
17

юниты.
Детерминированная система деплоймента
приложений.
Cloud
17

юниты.
Детерминированная система деплоймента
приложений.
Тесты, метрики и мониторинг. Мониторинг,
метрики и тесты.
Cloud
17

Like an OS
18

Kernel
Like an OS
18

Kernel
Drivers
Like an OS
18

Kernel
Drivers
Resource Managers
Like an OS
18

Kernel
Drivers
Resource Managers
API
Like an OS
18

Kernel
Drivers
Resource Managers
API
Userland
Like an OS
18

Kernel
Drivers
Resource Managers
API
Userland
Apps
Like an OS
18

Аналогичны модулям ядра в Linux.
Сервисы
19

Logging, Storage, Search Indexing, URL
Fetching, Geolocation, ...
Сервисы
19

Logging, Storage, Search Indexing, URL
Fetching, Geolocation, ...
Теперь все приложения — тоже сервисы.
Сервисы
19

Discovery Arbitration. Для обращения к
сервису нужно знать только его имя.
Локатор
20

Мы отказались от IDL, все метаданные о
сервисе приложение получает в рантайме.
Локатор
20

Мы отказались от IDL, все метаданные о
сервисе приложение получает в рантайме.
HTTP/2.0-like RPC. Непрозрачные бинарные
потоки, мультиплексирование, расширяемость,
распространённость.
Локатор
20

Raft реплицирует конечные автоматы. Любой
сервис можно представить в виде такого
автомата.
Raft
21

автомата.
Conﬁguration Management, Distributed Locking,
Resource Control — всё это реализовано как
сервис на Raft.
Raft
21

автомата.
Conﬁguration Management, Distributed Locking,
Resource Control — всё это реализовано как
сервис на Raft.
Мы научили Raft работать с динамическими
топологиями: машины могут входить и выходить
из кластера в любой момент.
Raft
21

Сервисы — это абстрактные фронтэнды к
разнообразным функциям инфраструктуры.
Плагины
22

Logging Service может быть реализован как
через Syslog, так и через Logstash.
Плагины
22

Logging Service может быть реализован как
через Syslog, так и через Logstash.
Смена реализации делается через изменение
конфига. Код приложений остаётся
неизменным.
Плагины
22

Система хранения — это фундамент для любой
инфраструктурной платформы.
Storage Service
23

Самое главное, такая система должна быть
надёжной, включая защиту от котиков и
безумных экскаваторщиков.
Storage Service
23

Самое главное, такая система должна быть
надёжной, включая защиту от котиков и
безумных экскаваторщиков.
Мы используем Elliptics.
Storage Service
23

Надёжнее, чем молитва.
Elliptics
24

Вторичные индексы, стриминг, кэш, server-side
processing и все остальные ключевые слова из
других систем хранения данных.
Elliptics
24

Вторичные индексы, стриминг, кэш, server-side
processing и все остальные ключевые слова из
других систем хранения данных.
И, главное, защита от атомной войны!
Elliptics
24

Контролирует работу приложений — доставка
на ноды, конфигурация, управление жизненным
циклом.
Node Service
25

циклом.
Собирает и хранит метрики и статистику о
работе приложений для балансировщика.
Node Service
25

циклом.
Управляет ресурсами кластера, распределяя
инстансы приложений наиболее оптимальным
образом по имеющимся машинам.
Node Service
25

циклом.
Управляет ресурсами кластера, распределяя
инстансы приложений наиболее оптимальным
образом по имеющимся машинам.
Поддерживаются процессы или контейнеры.
Node Service
25

Knapsack problem. Как уложить наибольшее
количество ценных вещей в рюкзак при
условии что он не резиновый, как Москва?
26

Это NP-полная задача, поэтому идеальным
образом за разумное время решить её
невозможно.
26

Это NP-полная задача, поэтому идеальным
образом за разумное время решить её
невозможно.
Сейчас решаем жадным алгоритмом, с
оверхедом по ресурсам в ~10%. Можно лучше,
но тогда надо программировать.
26

Контейнеры — это легковесная виртуализация.
Нет гипервизора, все контейнеры делят одно
ядро.
Контейнеры
27

ядро.
Процессы работают в изолированных
неймспейсах: pid, uid, ipc, network, ﬁlesystem,
mounts, ...
27

ядро.
Процессы работают в изолированных
неймспейсах: pid, uid, ipc, network, ﬁlesystem,
mounts, ...
Запуск контейнера происходит в сотни раз
быстрее, чем запуск виртуальной машины.
27

Стандарт распространения приложений на базе
Linux Containers.
Docker
28

Linux Containers.
Поддерживается Red Hat, Rackspace, Cloudﬂare,
Ebay, Mozilla, OpenStack, Chef, Puppet, ...
Docker
28

Linux Containers.
Поддерживается Red Hat, Rackspace, Cloudﬂare,
Ebay, Mozilla, OpenStack, Chef, Puppet, ...
Единый контейнер, который будет работать как
на ноутбуке разработчика, так и на кластере из
сотен машин.
Docker
28

Layer 3. Это значит не только HTTP — какие
угодно данные в любом формате.
Балансировка
29

Балансировка в ядре: IPVS, IPv6, динамические
веса, мгновенная реакция на изменения в
кластере.
29

Балансировка в ядре: IPVS, IPv6, динамические
веса, мгновенная реакция на изменения в
кластере.
Routing Groups. Расщепление траффика между
несколькими интерфейсно-совместимыми
приложениями.
29

30
Андрей Сибирёв
Руководитель службы
разработки облачных
технологий
kobolog@yandex-team.ru
@kobolog
kobolog
github.com/cocaine

CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Was ist angesagt?

Was ist angesagt? (19)

Andere mochten auch

Andere mochten auch (20)

Ähnlich wie CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine

Ähnlich wie CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine (20)

Mehr von CodeFest

Mehr von CodeFest (20)

CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine