Технически директор медиапроектов Mail.ru Group, обладающий более чем 10-летним опытом разрабтки HighLoad решений, расскажет как разработчкам высоконагруженных систем сделать сервис, способный обработать миллионы событий в секунду так, что бы не потерять ни одного действия пользователей и при этом не поддерживать парк из сотен машин.

1. Миллионы запросов
в минуту!

2. Редакционные
метрики
Воронка доскроллов
сколько человек начали
читать, сколько добрались до
конца статьи?
Время чтения
на каком блоке читатель
задерживает внимание, а
что проматывает?

3. Первая версия
Jira (САДО)
Вторая версия
Прототип
Третья версия
Продукт
Как всё
начиналось

4. Разбивка
по платформам
Трафик
по источникам
Ответы
на 4 главных вопроса
Аналитика
материала

5. Пришедшие
(просмотры)
Прочитавшие
(вовлекшиеся)
Конверсия
в сравнении с медианой
Как
вовлекаются

6. Синяя воронка
показатели материала
Серая воронка
медиана за 30 дней
Данные
за все время и за 30 минут
Цветокодирование
по вовлечению
Как
скроллят

7. Время
для каждого блока
Цветокодирование
по вниманию читателя
Предполагаемое
время чтения
Реальное
время чтения
Как
читают

8. Количество шар
по соцсетям
Просмотры
из соцсетей
Количество просмотров
на 1 шару
Как
расшаривают

9. Клиент
Три простые метрики
▪ Факт просмотра
▪ Глубина скролла
▪ Время пробывания на
странице

10. DOM, события и немного магии
▪ Непостоянный размер вьюпорта
▪ Достижение границ секций и пребывание в них
▪ Интерпритация поведения
▪ Производительность страницы
Регистрация действий пользователя

11. Взаимодействие с сервером
СериализацияСессииТранспорт

12. Коллектор

13. Коллектор
VIP
NGINX
NGINX
NGINX
NGINX

14. Коллектор – SSL
ssl_protocols TLSv1 TLSv1.1 TLSv1.2;
ssl_ciphers
EECDH+ECDSA+AESGCM:EECDH+aRSA+AESGCM:E
ECDH+ECDSA+SHA384:EECDH+ECDSA+SHA256:EE
CDH+aRSA+SHA384:EECDH+aRSA+SHA256:EECDH+
aRSA+RC4:EECDH:EDH+aRSA:HIGH:AES128+SHA:C
AMELLIA:3DES:SEED:AES256:RC4:!aNULL:!eNULL:!L
OW:!MD5:!EXP:!KRB5:!PSK:!SRP:!EXPORT:!DES;

15. Коллектор – SSL
ssl_session_cache shared:SSL:256m;
ssl_session_timeout 28h;

16. Коллектор – SSL
ssl_session_ticket_key /../collector.ticket_key;
openssl rand 80 > collector.ticket_key;

17. Коллектор – SSL

18. Коллектор – TNT
NGINX
TNT
TNT
TNT
TNT

19. Tarantool

20. Tarantool
Два движка
▪ in-memory
с опциональной персистентностью
▪ дисковый
основанные на LSM-tree, с версии 1.7

21. Tarantool
Application server
▪ Хранимые процедуры - Lua, Lua JIT, C, C++
▪ non-blocking I/O
▪ fiber - кооперативная многозадачность

22. Tarantool
Indexes
▪ Secondary indexes
▪ Range queries
▪ Index iterators

23. Tarantool
Replication
▪ Асинхронная - M-M, M-S
▪ Синхронная - с версии 1.7+

24. Tarantool
Transactions
▪ ACID - все операции атомарные
▪ begin, commit, rollback

25. Коллектор – TNT
https://github.com/tarantool/nginx_upstream_module
tnt_http_rest_methods get;
tnt_pure_result on;
tnt_multireturn_skip_count 2;
tnt_pass_http_request parse_args unescape;
tnt_method
"app.collector.register_event";
tnt_pass collector_tnt;

26. Коллектор – TNT
GET /?xxx=123
upstream collector_tnt {
hash $arg_url consistent;
keepalive 100;
server 127.0.0.1:9991 max_fails=2 fail_timeout=2s;
server 127.0.0.1:9992 max_fails=2 fail_timeout=2s;
server 127.0.0.1:9993 max_fails=2 fail_timeout=2s;
server 127.0.0.1:9994 max_fails=2 fail_timeout=2s; }

27. Коллектор – TNT
TNT
TS1
TS2
TS3
TSN

28. Коллектор – TNT
UPSERT (PK, CNT1, CNT2, …, CNTN)
FIBER SWITCH SPACES
SNAPSHOTS
XLOG
PUT DAV

29. Координатор

30. Координатор
COORD
TS1
TS2
TS3
TSN

31. Координатор
PING
DAV
ALIVE
QUEUE

32. Координатор
COORD
QUEUE
QUEUE
QUEUE
QUEUE

33. Сторадж

34. Сторадж
MERGE
TS1
TS2
TS3
TSN

35. Сторадж
MERGE
TOP
MEDIAN
MERGE
SHARD

36. Вопросы?
Павел Щербинин
p.scherbinin@corp.mail.ru
mediator.media