Presentación- Mercadolibre- DEVOPSCONF2015

1. Mercadolibre’s Platform
on top of AWS & Docker

2. Gabriel Eisbruch
gabriel.eisbruch@mercadolibre.com
@geisbruch
Matias Rege
matias.rege@mercadolibre.com
@matiasrege
Nicolas Giagnoni
nicolas.giagnoni@mercadolibre.com

3. Qué es MercadoLibre (en IT) ?
Contexto

4. - ~18.000.000 de Requests por Minuto
- ~400 Deploys por dia
- ~700 Developers en 5 Centros de desarrollo
- ~20.000 Servidores Virtuales
- ~1500 Fisicos

5. Cómo nos organizamos con este CAOS?

6. Cómo mejoramos este MUNDO?

7. Cómo funciona la PLATAFORMA?

9. ● Flexible
● Autoscaling
● SDN (Software defined Network)
● Interoperabilidad con nuestro DC
● Servicios de automatización y control
● Seguridad

11. Docker permite empaquetar aplicaciones incluyendo
filesystem, codigo, librerias y todo lo necesario para
correrlas. Permitiendo correr estas imágenes en
containers dentro del sistema operativo.

13. Desarrollo
Producción
● Entornos unificados (sin importar el SO)
● Mocks simplificados
● Una única herramienta
● Simplicidad para sumarse a colaborar en un proyecto
● Codigo + Entorno en un único lugar
● No hay necesidad de bootstraps on boot
● Fast build (vs crear un ami)
● Posibilidad de bajar la imagen de producción para debug

14. Veamos cómo usa la herramienta un
developer y que pasa por debajo
Proceso de desarrollo

15. Proceso de Desarrollo
Create App

16. Proceso de Desarrollo
Create App
Code !!!

17. Proceso de Desarrollo
Create App
Code !!!
Create Version

18. Proceso de Desarrollo
Create App
Code !!!
Create Version
Deploy

19. Proceso de Desarrollo
Create App
Code !!!
Create Version
Deploy

20. Crear una Aplicación

21. Proceso de Desarrollo
Create App
Code !!!
Create Version
Deploy

22. Crear una Aplicacion
● Permite definir infraestructura
● Mantiene el estado de toda la infraestructura y sus recursos
● Permite extender el funcionamiento mediante “custom-resources”
● Resuelve acciones de rollbacks y fallas
● Guarda información de logging de todas las transacciones

23. Crear una Aplicacion
Create App Stack

24. Crear una Aplicacion

25. Crear una Aplicacion
● Creación de Repositorio (Custom)
● Creacion de subnets
○ Una por AZ
● Creación de configuraciones de jenkins para CI & Build (Custom)
● Creación de configuraciones en ES y Kibana para logging (Custom)
● Creación de SecurityGroups para la aplicación
● Creación de ACL’s de las redes e interconexión de subnets
● Configuración de reglas de interoperabilidad para conectarse a la
plataforma actual

26. Empezando a Codear

27. Proceso de Desarrollo
Create App
Code !!!
Create Version
Deploy

28. Code
Get App
(fury get)

29. Code
Get App
(fury get)
Code

30. Code
Get App
(fury get)
Code Run
(fury run)

31. Code
Dockerfile
Imagen de desarrollo y build
responsable de correr la
aplicación (y sus mocks),
testearla y empaquetarla
para producción
Los entornos de desarrollo y producción serán Dockerfile
partiendo de imágenes pre-armadas que resuelvan la
problemática básica
Dockerfile.runtime
Imagen de producción que
será deployada en cada
máquina que atienda el
servicio

32. Code
fury run

33. Code
fury run
docker build -t app_build .
docker run -v $(pwd):/app app_build
/commands/run.sh

34. Create Version

35. Create Version
Create App
Code !!!
Create Version
Deploy

36. Create Version
fury create-
version

37. Create Version
Create Version
Commit: xxxx
fury api

38. Create Version
Create Version
Commit: xxxx
fury api
Jenkins
Build

39. Create Version
Create Version
Commit: xxxx
fury api
Jenkins
Build

40. Create Version

41. Create Version
cd app
docker build -t app .
docker run app /test.sh
docker run app /package.sh
-v prod-image:/package

42. Create Version
cd app
docker build -t app .
docker run app /test.sh
docker run app /package.sh
-v prod-image:/package
cd prod-image
docker build -t prod-app .

43. Create Version
cd app
docker build -t app .
docker run app /test.sh
docker run app /package.sh
-v prod-image:/package
cd prod-image
docker build -t prod-app .
docker push app

44. Go to Prod !

45. Deploy
Create App
Code !!!
Create Version
Deploy

46. Crear un Scope

47. Crear un Scope
● Crear ELB (Elastic Load Balancer)
● Scope Domains
● Iniciar deploy

48. Deploy

49. Deploy
● Crear Máquinas
● Crear Nuevo Autoscaling group
● Intercambiar tráfico entre
versiones (swap)
● Destruir maquinas viajes (o hacer
rollback)

50. Deploy

51. Deploy

52. Deploy

53. Deploy

54. Deploy

55. Deploy

56. Deploy

57. Deploy

58. Deploy

59. En definitiva ...

60. ❖ fury get apparel-home
❖ fury run
❖ fury create-version 0.0.1
❖ DEPLOY !!!

61. Cómo queda Todo en Prod ?

62. Arquitectura
FuryCore
VPC-1
Subnet A
app 1
Subnet B
app 1
SubnetC
app 1
SubnetD
app 1
Subnet A
app 2
Subnet B
app 2
SubnetC
app 2
SubnetD
app 2
VPC-N
Subnet A
app X
Subnet B
app X
SubnetC
app X
SubnetD
app X
Az A
Az B
Az C
Az D
ServicesLogs DC-IN DC-OUT Others
External Traffic Balancing
CloudFormation
EC2
Api
ELBOthers

63. Arquitectura
VPC-1
Subnet A app 1

64. Arquitectura
VPC-1
Subnet A app 1
Server i-0XXXXX
mercadolibre/docker-
meetup:0.0.1
datadogrsyslog JMX
docker-compose.yml
local-api

65. Mantenimiento de la app

66. Mantenimiento
● Logs
● Metricas
● Ops

67. Logs

68. Logs
Logs Collector
[tags:parser]
stdout
stdout
stdout

69. Logs

70. Metricas

71. Metricas

72. Metricas

73. Operaciones

74. Operaciones

75. Operaciones
Server i-0XXXXX
mercadolibre/docker-meetup:
0.0.1
local-api
fury api
Action

76. Wrapping Up

77. Gracias
arquitectura@mercadolibre.com
Architecture Team

78. Gracias
arquitectura@mercadolibre.com
Architecture Team