Доклад на http://2015.happydev.ru

1. Проблемы разработки
распределённых систем
Вадим Литвинов,
MachineZone

4. Глава 1: MZBench
Или откуда пошла есть Земля Русс^WЗачем
это надо?

5. А что это?
Система нагрузочного тестирования
Генерирование нагрузки
Измерение производительности
Распределённая и масштабируемая
Готовая для «облака»

6. А зачем?
Другие системы не умеют
использовать «облака»:
Автоматически выделять машины
Устанавливать на них всё
необходимое

7. Другие системы очень проблемо
центричны:
Например Tsung заточен под XMPP

8. А как оно
работает?

9. Что делать?
Сценарий описывается Erlang-подобным языком:
[{pool, [
{size, 3},
{worker_type, dummy_worker}
], [
{loop, [{time, {15, sec}}, {rate, {1, rps}}],
[
{print, «Foo»}
]
}
]}].

10. Компоненты
Тестируемая
система
MZBench
API server
CLI
Cloud
controller

11. Запуск
Тестируемая
система
MZBench
API server
CLI
Cloud
controller
HTTP Get
Status
Allocate

12. Провизионинг
Тестируемая
система
MZBench
API server
CLI
Cloud
controllerStatus
Provision
Provision
Provision

13. Работа
Тестируемая
система
MZBench
API server
CLI
Cloud
controller
Director Node
Node
Status
Load
Load
Status

14. Завершение
Тестируемая
система
MZBench
API server
CLI
Cloud
controllerStatus
Deallocate

15. Что получается?
1.000.000 реалистичных клиентов с
≃ 50 нод

16. Глава 2: Метрология
Или философские беседы об ИТ и квантовой
механике

17. Что мы меряем?
Три типа замеров:
gauge - последнее значение
counter - сумма значений
histogram - распределение

18. 0
250
500
750
1000
Среднее
75
50
95
99
99,9

19. Как это измерить?
Использовать существующие
библиотеки:
Folsom
Exometer
Проблема: Сэмплирование по времени

20. Сэмплирование
0
1,5
3
4,5
6
0 4 8 12 16

21. Сэмплирование
0
1,5
3
4,5
6
0 4 8 12 16
Циркулярный буфер: 15 событий, 4 сек.

22. Так что же делать?
HDR Histogram:
Специализируется на временных
задержках
Варьирует точность
Проблема: Нет потоковой
безопастности

23. Относительность времени
Распределённая система:
Риск расхождения часов
ntpdate -q pool.ntp.org:
Разные сервера
Виртуальная среда

24. Глава 3: О сигналах и
блокировках
Или что общего между синхронизацией и
картографией

25. Примитивы синхронизации
Сигналы:
{set_signal, <Name>, [<Count>]}
{wait_signal, <Name>, [<Count>]}
Проблема: Написать статический
анализатор блокировок

26. От кода к AST
[{pool, [{size, 1}, {worker_type, dummy_worker}],
[…, {set_signal, «A»}, …]
},
{pool, [{size, 1}, {worker_type, dummy_worker}],
[…, {wait_signal, «A»}, …]
}].
pool
pool
[]
[]
[]
[]
size
worker_type
size
worker_type
set_signal
wait_signal

27. От AST к графу
pool pool
[] [] [] []
size w_t size w_t
set_signal(A) wait_signal(A) start
finish
set_signal(A) wait_signal(A)
start
finish
Ищем циклы с помощью digraph

28. Пример Deadlock-а
start
finish
set_signal(B)
wait_signal(B)
start
finish
set_signal(A)
wait_signal(A)

29. Важность направленности
start
finish
set_signal(B)
wait_signal(B)
start
finish
set_signal(A)
wait_signal(A)

30. Заключение
Opensource проекты:
MZBench (https://github.com/
machinezone/mzbench)
HDR Histogram (https://github.com/
machinezone/hdr_histogram_erl)
erl_terms (https://github.com/
machinezone/python_etf)