SlideShare ist ein Scribd-Unternehmen logo
1 von 24
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 1PARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY
PETIT- DÉJEUNER
NOUVELLES
ARCHITECTURES
DE DONNÉES
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 2
NOUVELLES ARCHITECTURES DE DONNÉES
MERIEM BERKANE - LEADER OFFRE NAD OCTO TECHNOLOGY
Agenda du petit-déjeuner
COURBO SPARK : EXEMPLE DE MACHINE LEARNING SUR DES SÉRIES
TEMPORELLES
CHRISTOPHE SALPERWYCK - INGÉNIEUR CHERCHEUR EDF R&D
SIMON MABY - DATA SCIENTIST OCTO TECHNOLOGY
SPARK + CASSANDRA POUR UNE ARCHITECTURE ÉVÉNEMENTIELLE ET
DE L'ANALYTIQUE TEMPS RÉEL
VICTOR COUSTENOBLE - SOLUTIONS ENGINEER DATASTAX
2
5
1
4
3 PAUSE
ECHANGE
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 3
NOUVELLES ARCHITECTURES DE DONNÉES
Agenda du petit-déjeuner
COURBO SPARKSPARK : EXEMPLE DE MACHINE
LEARNING SUR DES SÉRIES TEMPORELLES
SPARK + CASSANDRA POUR UNE ARCHITECTURE
ÉVÉNEMENTIELLE ET DE L'ANALYTIQUE TEMPS RÉEL
2
5
1
4
3 PAUSE
ECHANGE
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 4
Les SI traditionnels – les constats
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 5
Des données non collectées et non traitées
Application
Données
transactionnelles
Données
immuables
Référentiels
Données
dérivées
SGBDR
Parcours
client
Données externes
brutes
Relevés bruts de
capteurs
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 6
Données cloisonnées, partagées par batch à J+1
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 7
Catalogue
produit
Analyses et
promotion
Panier
Commandes
et facturation
E-Commerce
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
BATCHS
SI traditionnels
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 8
SI traditionnels
CRM Vision client 360 Sinistres
Assurance
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
BATCHS
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 9
Catalogue
d’équipements
Analyses et
promotion
Données de
signalisation
Incidents
Industrie / Telcos
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
BATCHS
SI traditionnels
Serveur
d’application
Base de
données
Serveur
d’application
Base de
données
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 10
Des évolutions technologiques majeures
ces dernières années nous ouvrent des
nouvelles opportunités métier
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 11
Traiter au
fil de l’eau
Le bon
stockage
pour le bon
usage
Tout
collecter
Nouvelles archi
de données
Décloisonner
la donnée
Quatre principes directeurs
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 12
Tout
collecter
Nouvelles archi
de données
Premier principe
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 13
Collecteur d’événements
Commandes
Sinistres
Mouvements
de stocks
Paiements par
carte, retraits
Données externes
brutes
Relevés bruts de
capteurs Mouvements de
panier
Activité client
Appels, SMS
Premier principe : tout collecter
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 14
Traiter au
fil de l’eau
Tout
collecter
Nouvelles archi
de données
Deuxième principe
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 15
Collecteur d’événements
Événements
& données
Processus
Processus
Router immédiatement vers les
systèmes et applications
concernées par l’événement
Détection d’abandon de panier
 Remarketing
Détection d’une panne matérielle
 Contacter le client au plus tôt
Relevé de consommation
 Optimisation de ressources
Un nouveau sinistre déclaré
 La vision 360 est à jour !
Deuxième principe : tout traiter au fil de l’eau
Processus
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 16
Traiter au
fil de l’eau
Tout
collecter
Nouvelles archi
de données
Décloisonner
la donnée
Troisième principe
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 17
Collecteur d’évènements
Troisième principe : décloisonner la donnée
Commandes et
facturation
Vision 360PanierAnalytique
Et promotion
Process
Donnée
enrichie
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 18
Traiter au
fil de l’eau
Le bon
stockage
pour le bon
usage
Tout
collecter
Nouvelles archi
de données
Décloisonner
la donnée
Quatrième principe
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 19
Persistance polyglotte
Recherche/
Vision 360
Graphe
social
des clients
Archivage
Catalogue
Produit
Session
utilisateur /
panier
Analytique
temps-réel
USAGESDonnées
transaction-
nelles
Outils de
reporting
Cassandra
HDFS
Vectorwise
Neo4J
Couchbase
/Cassandra
PostgreSQL
Elasticsearch
Couchbase
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 20
Expertise
et
Polyvalence
Se donner les moyens d’y arriver
La donnée est :
• dupliquée,
• enrichie,
• partagée,
Elle doit donc être
gouvernée
Environnements
complexes
 Automatisation
de bout en bout
 DevOps
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 21
Intégration/recetteStation de
développement
- 1 instance Kafka
- 1 instance Spark
- 1 instances Zookeeper
- 1 instance Cassandra
- 1 IDE
- 1 injecteur
- 1 jeu de données
Une station de développement
par développeur
- 3 nœuds Kafka
- > 4 nœuds Spark
- 1 nœuds Zookeeper
- > 4 nœuds Cassandra
- 1 nœud applicatif
- 1 jeu de données
représentatif du flux
- EDI /EAI
Nombre de plateforme
d’intégration en fonction du
nombre de développeurs
Pré-production/Production
- 3 nœuds Kafka
- > 4 nœuds Spark
- 1 nœuds Zookeeper
- > 4 nœuds Cassandra
- 2 nœuds applicatifs
- EDI/EAI
- Connection vers le
DataLake
Une plateforme de pré-
production « iso » avec une
plateforme de production
22
© OCTO 2015
À emporter !
www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 23
Le « Batch à
J+1 » n’est plus
une fatalité !
Ce qu’il faut retenir
Quatre principes
directeurs
• Tout collecter
• Traiter en
temps-réel
• Décloisonner
• Stocker
intelligemment
• Se former
• S’outiller
• POCer !
24
© OCTO 2015
Questions

Weitere ähnliche Inhalte

Andere mochten auch

Introduction to Apache Kafka- Part 1
Introduction to Apache Kafka- Part 1Introduction to Apache Kafka- Part 1
Introduction to Apache Kafka- Part 1Knoldus Inc.
 
Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014
Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014
Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014Ippon
 
Datastax Cassandra + Spark Streaming
Datastax Cassandra + Spark StreamingDatastax Cassandra + Spark Streaming
Datastax Cassandra + Spark StreamingVictor Coustenoble
 
Internet mobile et Marketing mobile: du Mass-Media au One-to-one
Internet mobile et Marketing mobile: du Mass-Media au One-to-oneInternet mobile et Marketing mobile: du Mass-Media au One-to-one
Internet mobile et Marketing mobile: du Mass-Media au One-to-oneSwissPay.ch SA (We're hiring)
 
2 m72 groupe4_présentation
2 m72 groupe4_présentation2 m72 groupe4_présentation
2 m72 groupe4_présentationlitlematth
 
Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...
Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...
Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...Jean-Michel Franco
 
Publicité détonateur du changement ?
Publicité détonateur du changement ?Publicité détonateur du changement ?
Publicité détonateur du changement ?Toulouse3C
 
Audipresse ONE / ONE Global - Résultats 2013
Audipresse ONE / ONE Global - Résultats 2013Audipresse ONE / ONE Global - Résultats 2013
Audipresse ONE / ONE Global - Résultats 2013366
 
Présentation de Apache Zookeeper
Présentation de Apache ZookeeperPrésentation de Apache Zookeeper
Présentation de Apache ZookeeperMichaël Morello
 
HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...
HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...
HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...Modern Data Stack France
 
Monitoring des Logs
Monitoring des LogsMonitoring des Logs
Monitoring des LogsSooyoos
 
Symfony Live Paris 2016 - Ce que nous avons retenu
Symfony Live Paris 2016 - Ce que nous avons retenuSymfony Live Paris 2016 - Ce que nous avons retenu
Symfony Live Paris 2016 - Ce que nous avons retenuSooyoos
 
Spark (v1.3) - Présentation (Français)
Spark (v1.3) - Présentation (Français)Spark (v1.3) - Présentation (Français)
Spark (v1.3) - Présentation (Français)Alexis Seigneurin
 
Kafka Connect by Datio
Kafka Connect by DatioKafka Connect by Datio
Kafka Connect by DatioDatio Big Data
 
DC/OS: The definitive platform for modern apps
DC/OS: The definitive platform for modern appsDC/OS: The definitive platform for modern apps
DC/OS: The definitive platform for modern appsDatio Big Data
 
Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...
Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...
Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...Modern Data Stack France
 
I Heart Log: Real-time Data and Apache Kafka
I Heart Log: Real-time Data and Apache KafkaI Heart Log: Real-time Data and Apache Kafka
I Heart Log: Real-time Data and Apache KafkaJay Kreps
 
Base NoSql et Python
Base NoSql et PythonBase NoSql et Python
Base NoSql et Pythonyboussard
 

Andere mochten auch (20)

Introduction to Apache Kafka- Part 1
Introduction to Apache Kafka- Part 1Introduction to Apache Kafka- Part 1
Introduction to Apache Kafka- Part 1
 
Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014
Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014
Realtime Web avec Akka, Kafka, Spark et Mesos - Devoxx Paris 2014
 
Datastax Cassandra + Spark Streaming
Datastax Cassandra + Spark StreamingDatastax Cassandra + Spark Streaming
Datastax Cassandra + Spark Streaming
 
Internet mobile et Marketing mobile: du Mass-Media au One-to-one
Internet mobile et Marketing mobile: du Mass-Media au One-to-oneInternet mobile et Marketing mobile: du Mass-Media au One-to-one
Internet mobile et Marketing mobile: du Mass-Media au One-to-one
 
2 m72 groupe4_présentation
2 m72 groupe4_présentation2 m72 groupe4_présentation
2 m72 groupe4_présentation
 
Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...
Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...
Spark : 5 moyens simples et rapides pour exploiter vos Big Data avec Spark et...
 
Ben Broeckx
Ben BroeckxBen Broeckx
Ben Broeckx
 
Publicité détonateur du changement ?
Publicité détonateur du changement ?Publicité détonateur du changement ?
Publicité détonateur du changement ?
 
Audipresse ONE / ONE Global - Résultats 2013
Audipresse ONE / ONE Global - Résultats 2013Audipresse ONE / ONE Global - Résultats 2013
Audipresse ONE / ONE Global - Résultats 2013
 
Présentation de Apache Zookeeper
Présentation de Apache ZookeeperPrésentation de Apache Zookeeper
Présentation de Apache Zookeeper
 
HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...
HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...
HUGFR : Une infrastructure Kafka & Storm pour lutter contre les attaques DDoS...
 
Monitoring des Logs
Monitoring des LogsMonitoring des Logs
Monitoring des Logs
 
Apache Kafka at LinkedIn
Apache Kafka at LinkedInApache Kafka at LinkedIn
Apache Kafka at LinkedIn
 
Symfony Live Paris 2016 - Ce que nous avons retenu
Symfony Live Paris 2016 - Ce que nous avons retenuSymfony Live Paris 2016 - Ce que nous avons retenu
Symfony Live Paris 2016 - Ce que nous avons retenu
 
Spark (v1.3) - Présentation (Français)
Spark (v1.3) - Présentation (Français)Spark (v1.3) - Présentation (Français)
Spark (v1.3) - Présentation (Français)
 
Kafka Connect by Datio
Kafka Connect by DatioKafka Connect by Datio
Kafka Connect by Datio
 
DC/OS: The definitive platform for modern apps
DC/OS: The definitive platform for modern appsDC/OS: The definitive platform for modern apps
DC/OS: The definitive platform for modern apps
 
Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...
Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...
Hadoop meetup : HUGFR Construire le cluster le plus rapide pour l'analyse des...
 
I Heart Log: Real-time Data and Apache Kafka
I Heart Log: Real-time Data and Apache KafkaI Heart Log: Real-time Data and Apache Kafka
I Heart Log: Real-time Data and Apache Kafka
 
Base NoSql et Python
Base NoSql et PythonBase NoSql et Python
Base NoSql et Python
 

Ähnlich wie Petit Déjeuner Datastax 14-04-15 : Les nouvelles architectures de stockage et de traitement de la donnée

Intervention L. BECHARD
Intervention L. BECHARDIntervention L. BECHARD
Intervention L. BECHARDAssociationAF
 
Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"
Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"
Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"BoursesTechnos
 
JedisBIM & Gestion Patrimoine : L'exemple du Lycée de Carquefou
JedisBIM & Gestion Patrimoine : L'exemple du Lycée de CarquefouJedisBIM & Gestion Patrimoine : L'exemple du Lycée de Carquefou
JedisBIM & Gestion Patrimoine : L'exemple du Lycée de CarquefouNovabuild
 
Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...
Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...
Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...Jean-Michel Franco
 
Maarch RM @Documation 2016
Maarch RM @Documation 2016Maarch RM @Documation 2016
Maarch RM @Documation 2016Cyril VAZQUEZ
 
Présentation/Atelier oxya
Présentation/Atelier oxyaPrésentation/Atelier oxya
Présentation/Atelier oxyaFujitsu France
 
HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...
HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...
HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...Hitachi Data Systems France
 
Paris monitoring - 27012016 - Smart Monitoring chez Oxalide
Paris monitoring - 27012016 - Smart Monitoring chez OxalideParis monitoring - 27012016 - Smart Monitoring chez Oxalide
Paris monitoring - 27012016 - Smart Monitoring chez OxalideSébastien Lucas
 
HUG France - 20160114 industrialisation_process_big_data CanalPlus
HUG France -  20160114 industrialisation_process_big_data CanalPlusHUG France -  20160114 industrialisation_process_big_data CanalPlus
HUG France - 20160114 industrialisation_process_big_data CanalPlusModern Data Stack France
 
DataWarehouse
DataWarehouseDataWarehouse
DataWarehousenzuguem
 
Manage Traceability with Apache Atlas flexible metadata repository.
Manage Traceability with Apache Atlas flexible metadata repository.Manage Traceability with Apache Atlas flexible metadata repository.
Manage Traceability with Apache Atlas flexible metadata repository.OW2
 
CDAP, la boîte à outil pour concevoir vos applications Big Data
CDAP,  la boîte à outil pour concevoir vos applications Big DataCDAP,  la boîte à outil pour concevoir vos applications Big Data
CDAP, la boîte à outil pour concevoir vos applications Big DataSynaltic Group
 
Open Tracing Container au Salon Emballages/Manutention 2014
Open Tracing Container au Salon Emballages/Manutention 2014Open Tracing Container au Salon Emballages/Manutention 2014
Open Tracing Container au Salon Emballages/Manutention 2014Yann LE ROCH
 
REX PagesJaunes.fr - architecture micro-services asynchrone
REX PagesJaunes.fr - architecture micro-services asynchroneREX PagesJaunes.fr - architecture micro-services asynchrone
REX PagesJaunes.fr - architecture micro-services asynchroneDavid DE CARVALHO
 
L’approche Big Data en finance de marché 2/2
L’approche Big Data en finance de marché 2/2L’approche Big Data en finance de marché 2/2
L’approche Big Data en finance de marché 2/2Novencia Groupe
 
Ludovic Cinquin - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatique
Ludovic Cinquin  - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatiqueLudovic Cinquin  - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatique
Ludovic Cinquin - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatiqueLudovic Cinquin
 
Revue de presse Telecom Valley - Octobre 2015
Revue de presse Telecom Valley - Octobre 2015Revue de presse Telecom Valley - Octobre 2015
Revue de presse Telecom Valley - Octobre 2015TelecomValley
 
#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...
#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...
#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...Paris Open Source Summit
 
Reporting et Décisionnel - Mise en œuvre d’un système intégré
Reporting et Décisionnel - Mise en œuvre d’un système intégréReporting et Décisionnel - Mise en œuvre d’un système intégré
Reporting et Décisionnel - Mise en œuvre d’un système intégréConstantin ZAMORA
 

Ähnlich wie Petit Déjeuner Datastax 14-04-15 : Les nouvelles architectures de stockage et de traitement de la donnée (20)

Intervention L. BECHARD
Intervention L. BECHARDIntervention L. BECHARD
Intervention L. BECHARD
 
Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"
Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"
Slideshow Bourse aux Technologies "Big Data et Optimisation Industrielle"
 
JedisBIM & Gestion Patrimoine : L'exemple du Lycée de Carquefou
JedisBIM & Gestion Patrimoine : L'exemple du Lycée de CarquefouJedisBIM & Gestion Patrimoine : L'exemple du Lycée de Carquefou
JedisBIM & Gestion Patrimoine : L'exemple du Lycée de Carquefou
 
Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...
Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...
Big Data : au delà du proof of concept et de l'expérimentation (Matinale busi...
 
Maarch RM @Documation 2016
Maarch RM @Documation 2016Maarch RM @Documation 2016
Maarch RM @Documation 2016
 
Présentation/Atelier oxya
Présentation/Atelier oxyaPrésentation/Atelier oxya
Présentation/Atelier oxya
 
HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...
HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...
HIF Paris 2014 - LE SERVICE HDS POUR LA TRANSFORMATION VERS L'INNOVATION Fran...
 
Paris monitoring - 27012016 - Smart Monitoring chez Oxalide
Paris monitoring - 27012016 - Smart Monitoring chez OxalideParis monitoring - 27012016 - Smart Monitoring chez Oxalide
Paris monitoring - 27012016 - Smart Monitoring chez Oxalide
 
HUG France - 20160114 industrialisation_process_big_data CanalPlus
HUG France -  20160114 industrialisation_process_big_data CanalPlusHUG France -  20160114 industrialisation_process_big_data CanalPlus
HUG France - 20160114 industrialisation_process_big_data CanalPlus
 
DataWarehouse
DataWarehouseDataWarehouse
DataWarehouse
 
Manage Traceability with Apache Atlas flexible metadata repository.
Manage Traceability with Apache Atlas flexible metadata repository.Manage Traceability with Apache Atlas flexible metadata repository.
Manage Traceability with Apache Atlas flexible metadata repository.
 
CDAP, la boîte à outil pour concevoir vos applications Big Data
CDAP,  la boîte à outil pour concevoir vos applications Big DataCDAP,  la boîte à outil pour concevoir vos applications Big Data
CDAP, la boîte à outil pour concevoir vos applications Big Data
 
Open Tracing Container au Salon Emballages/Manutention 2014
Open Tracing Container au Salon Emballages/Manutention 2014Open Tracing Container au Salon Emballages/Manutention 2014
Open Tracing Container au Salon Emballages/Manutention 2014
 
REX PagesJaunes.fr - architecture micro-services asynchrone
REX PagesJaunes.fr - architecture micro-services asynchroneREX PagesJaunes.fr - architecture micro-services asynchrone
REX PagesJaunes.fr - architecture micro-services asynchrone
 
L’approche Big Data en finance de marché 2/2
L’approche Big Data en finance de marché 2/2L’approche Big Data en finance de marché 2/2
L’approche Big Data en finance de marché 2/2
 
Ludovic Cinquin - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatique
Ludovic Cinquin  - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatiqueLudovic Cinquin  - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatique
Ludovic Cinquin - OCTO - DEVOXX FR 2015 - les idées reçues de l'informatique
 
Revue de presse Telecom Valley - Octobre 2015
Revue de presse Telecom Valley - Octobre 2015Revue de presse Telecom Valley - Octobre 2015
Revue de presse Telecom Valley - Octobre 2015
 
#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...
#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...
#OSSPARIS19 - Gouvernance des données dans le contexte Big Data - REX datalak...
 
Reporting et Décisionnel - Mise en œuvre d’un système intégré
Reporting et Décisionnel - Mise en œuvre d’un système intégréReporting et Décisionnel - Mise en œuvre d’un système intégré
Reporting et Décisionnel - Mise en œuvre d’un système intégré
 
ISDay 2017 - Atelier Arcserve
ISDay 2017 - Atelier ArcserveISDay 2017 - Atelier Arcserve
ISDay 2017 - Atelier Arcserve
 

Mehr von OCTO Technology

Le Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonné
Le Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonnéLe Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonné
Le Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonnéOCTO Technology
 
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudLe Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudOCTO Technology
 
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...OCTO Technology
 
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...OCTO Technology
 
Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...
Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...
Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...OCTO Technology
 
OCTO Talks - Les IA s'invitent au chevet des développeurs
OCTO Talks - Les IA s'invitent au chevet des développeursOCTO Talks - Les IA s'invitent au chevet des développeurs
OCTO Talks - Les IA s'invitent au chevet des développeursOCTO Technology
 
OCTO Talks - Lancement du livre Culture Test
OCTO Talks - Lancement du livre Culture TestOCTO Talks - Lancement du livre Culture Test
OCTO Talks - Lancement du livre Culture TestOCTO Technology
 
Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...
Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...
Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...OCTO Technology
 
OCTO Talks - State of the art Architecture dans les frontend web
OCTO Talks - State of the art Architecture dans les frontend webOCTO Talks - State of the art Architecture dans les frontend web
OCTO Talks - State of the art Architecture dans les frontend webOCTO Technology
 
Comptoir OCTO ALD Automotive/Leaseplan
Comptoir OCTO ALD Automotive/LeaseplanComptoir OCTO ALD Automotive/Leaseplan
Comptoir OCTO ALD Automotive/LeaseplanOCTO Technology
 
Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ?
Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ? Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ?
Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ? OCTO Technology
 
Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...
Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...
Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...OCTO Technology
 
Le Comptoir OCTO - Affinez vos forecasts avec la planification distribuée et...
Le Comptoir OCTO -  Affinez vos forecasts avec la planification distribuée et...Le Comptoir OCTO -  Affinez vos forecasts avec la planification distribuée et...
Le Comptoir OCTO - Affinez vos forecasts avec la planification distribuée et...OCTO Technology
 
Le Comptoir OCTO - La formation au cœur de la stratégie d’éco-conception
Le Comptoir OCTO - La formation au cœur de la stratégie d’éco-conceptionLe Comptoir OCTO - La formation au cœur de la stratégie d’éco-conception
Le Comptoir OCTO - La formation au cœur de la stratégie d’éco-conceptionOCTO Technology
 
Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...
Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...
Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...OCTO Technology
 
Le Comptoir OCTO - L'avenir de la gestion du bilan carbone : les solutions E...
Le Comptoir OCTO - L'avenir de la gestion du bilan carbone :  les solutions E...Le Comptoir OCTO - L'avenir de la gestion du bilan carbone :  les solutions E...
Le Comptoir OCTO - L'avenir de la gestion du bilan carbone : les solutions E...OCTO Technology
 
Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...
Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...
Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...OCTO Technology
 
RefCard Tests sur tous les fronts
RefCard Tests sur tous les frontsRefCard Tests sur tous les fronts
RefCard Tests sur tous les frontsOCTO Technology
 
RefCard RESTful API Design
RefCard RESTful API DesignRefCard RESTful API Design
RefCard RESTful API DesignOCTO Technology
 

Mehr von OCTO Technology (20)

Le Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonné
Le Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonnéLe Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonné
Le Comptoir OCTO - Se conformer à la CSRD : un levier d'action insoupçonné
 
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudLe Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
 
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
 
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
 
Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...
Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...
Le Comptoir OCTO - Maîtriser le RAG : connecter les modèles d’IA génératives ...
 
OCTO Talks - Les IA s'invitent au chevet des développeurs
OCTO Talks - Les IA s'invitent au chevet des développeursOCTO Talks - Les IA s'invitent au chevet des développeurs
OCTO Talks - Les IA s'invitent au chevet des développeurs
 
OCTO Talks - Lancement du livre Culture Test
OCTO Talks - Lancement du livre Culture TestOCTO Talks - Lancement du livre Culture Test
OCTO Talks - Lancement du livre Culture Test
 
Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...
Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...
Le Comptoir OCTO - Green AI, comment éviter que votre votre potion magique d’...
 
OCTO Talks - State of the art Architecture dans les frontend web
OCTO Talks - State of the art Architecture dans les frontend webOCTO Talks - State of the art Architecture dans les frontend web
OCTO Talks - State of the art Architecture dans les frontend web
 
Refcard GraphQL
Refcard GraphQLRefcard GraphQL
Refcard GraphQL
 
Comptoir OCTO ALD Automotive/Leaseplan
Comptoir OCTO ALD Automotive/LeaseplanComptoir OCTO ALD Automotive/Leaseplan
Comptoir OCTO ALD Automotive/Leaseplan
 
Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ?
Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ? Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ?
Le Comptoir OCTO - Comment optimiser les stocks en linéaire par la Data ?
 
Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...
Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...
Le Comptoir OCTO - Retour sur 5 ans de mise en oeuvre : Comment le RGPD a réi...
 
Le Comptoir OCTO - Affinez vos forecasts avec la planification distribuée et...
Le Comptoir OCTO -  Affinez vos forecasts avec la planification distribuée et...Le Comptoir OCTO -  Affinez vos forecasts avec la planification distribuée et...
Le Comptoir OCTO - Affinez vos forecasts avec la planification distribuée et...
 
Le Comptoir OCTO - La formation au cœur de la stratégie d’éco-conception
Le Comptoir OCTO - La formation au cœur de la stratégie d’éco-conceptionLe Comptoir OCTO - La formation au cœur de la stratégie d’éco-conception
Le Comptoir OCTO - La formation au cœur de la stratégie d’éco-conception
 
Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...
Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...
Le Comptoir OCTO - Une vision de plateforme sans leadership tech n’est qu’hal...
 
Le Comptoir OCTO - L'avenir de la gestion du bilan carbone : les solutions E...
Le Comptoir OCTO - L'avenir de la gestion du bilan carbone :  les solutions E...Le Comptoir OCTO - L'avenir de la gestion du bilan carbone :  les solutions E...
Le Comptoir OCTO - L'avenir de la gestion du bilan carbone : les solutions E...
 
Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...
Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...
Le Comptoir OCTO - Continuous discovery et continuous delivery pour construir...
 
RefCard Tests sur tous les fronts
RefCard Tests sur tous les frontsRefCard Tests sur tous les fronts
RefCard Tests sur tous les fronts
 
RefCard RESTful API Design
RefCard RESTful API DesignRefCard RESTful API Design
RefCard RESTful API Design
 

Petit Déjeuner Datastax 14-04-15 : Les nouvelles architectures de stockage et de traitement de la donnée

  • 1. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 1PARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY PETIT- DÉJEUNER NOUVELLES ARCHITECTURES DE DONNÉES
  • 2. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 2 NOUVELLES ARCHITECTURES DE DONNÉES MERIEM BERKANE - LEADER OFFRE NAD OCTO TECHNOLOGY Agenda du petit-déjeuner COURBO SPARK : EXEMPLE DE MACHINE LEARNING SUR DES SÉRIES TEMPORELLES CHRISTOPHE SALPERWYCK - INGÉNIEUR CHERCHEUR EDF R&D SIMON MABY - DATA SCIENTIST OCTO TECHNOLOGY SPARK + CASSANDRA POUR UNE ARCHITECTURE ÉVÉNEMENTIELLE ET DE L'ANALYTIQUE TEMPS RÉEL VICTOR COUSTENOBLE - SOLUTIONS ENGINEER DATASTAX 2 5 1 4 3 PAUSE ECHANGE
  • 3. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 3 NOUVELLES ARCHITECTURES DE DONNÉES Agenda du petit-déjeuner COURBO SPARKSPARK : EXEMPLE DE MACHINE LEARNING SUR DES SÉRIES TEMPORELLES SPARK + CASSANDRA POUR UNE ARCHITECTURE ÉVÉNEMENTIELLE ET DE L'ANALYTIQUE TEMPS RÉEL 2 5 1 4 3 PAUSE ECHANGE
  • 4. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 4 Les SI traditionnels – les constats
  • 5. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 5 Des données non collectées et non traitées Application Données transactionnelles Données immuables Référentiels Données dérivées SGBDR Parcours client Données externes brutes Relevés bruts de capteurs
  • 6. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 6 Données cloisonnées, partagées par batch à J+1
  • 7. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 7 Catalogue produit Analyses et promotion Panier Commandes et facturation E-Commerce Serveur d’application Base de données Serveur d’application Base de données Serveur d’application Base de données Serveur d’application Base de données BATCHS SI traditionnels
  • 8. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 8 SI traditionnels CRM Vision client 360 Sinistres Assurance Serveur d’application Base de données Serveur d’application Base de données Serveur d’application Base de données BATCHS
  • 9. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 9 Catalogue d’équipements Analyses et promotion Données de signalisation Incidents Industrie / Telcos Serveur d’application Base de données Serveur d’application Base de données BATCHS SI traditionnels Serveur d’application Base de données Serveur d’application Base de données
  • 10. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 10 Des évolutions technologiques majeures ces dernières années nous ouvrent des nouvelles opportunités métier
  • 11. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 11 Traiter au fil de l’eau Le bon stockage pour le bon usage Tout collecter Nouvelles archi de données Décloisonner la donnée Quatre principes directeurs
  • 12. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 12 Tout collecter Nouvelles archi de données Premier principe
  • 13. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 13 Collecteur d’événements Commandes Sinistres Mouvements de stocks Paiements par carte, retraits Données externes brutes Relevés bruts de capteurs Mouvements de panier Activité client Appels, SMS Premier principe : tout collecter
  • 14. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 14 Traiter au fil de l’eau Tout collecter Nouvelles archi de données Deuxième principe
  • 15. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 15 Collecteur d’événements Événements & données Processus Processus Router immédiatement vers les systèmes et applications concernées par l’événement Détection d’abandon de panier  Remarketing Détection d’une panne matérielle  Contacter le client au plus tôt Relevé de consommation  Optimisation de ressources Un nouveau sinistre déclaré  La vision 360 est à jour ! Deuxième principe : tout traiter au fil de l’eau Processus
  • 16. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 16 Traiter au fil de l’eau Tout collecter Nouvelles archi de données Décloisonner la donnée Troisième principe
  • 17. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 17 Collecteur d’évènements Troisième principe : décloisonner la donnée Commandes et facturation Vision 360PanierAnalytique Et promotion Process Donnée enrichie
  • 18. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 18 Traiter au fil de l’eau Le bon stockage pour le bon usage Tout collecter Nouvelles archi de données Décloisonner la donnée Quatrième principe
  • 19. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 19 Persistance polyglotte Recherche/ Vision 360 Graphe social des clients Archivage Catalogue Produit Session utilisateur / panier Analytique temps-réel USAGESDonnées transaction- nelles Outils de reporting Cassandra HDFS Vectorwise Neo4J Couchbase /Cassandra PostgreSQL Elasticsearch Couchbase
  • 20. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 20 Expertise et Polyvalence Se donner les moyens d’y arriver La donnée est : • dupliquée, • enrichie, • partagée, Elle doit donc être gouvernée Environnements complexes  Automatisation de bout en bout  DevOps
  • 21. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 21 Intégration/recetteStation de développement - 1 instance Kafka - 1 instance Spark - 1 instances Zookeeper - 1 instance Cassandra - 1 IDE - 1 injecteur - 1 jeu de données Une station de développement par développeur - 3 nœuds Kafka - > 4 nœuds Spark - 1 nœuds Zookeeper - > 4 nœuds Cassandra - 1 nœud applicatif - 1 jeu de données représentatif du flux - EDI /EAI Nombre de plateforme d’intégration en fonction du nombre de développeurs Pré-production/Production - 3 nœuds Kafka - > 4 nœuds Spark - 1 nœuds Zookeeper - > 4 nœuds Cassandra - 2 nœuds applicatifs - EDI/EAI - Connection vers le DataLake Une plateforme de pré- production « iso » avec une plateforme de production
  • 22. 22 © OCTO 2015 À emporter !
  • 23. www.octo.com - www.usievents.comPARIS - SAO PAULO - RABAT – LAUSANNE - SYDNEY 23 Le « Batch à J+1 » n’est plus une fatalité ! Ce qu’il faut retenir Quatre principes directeurs • Tout collecter • Traiter en temps-réel • Décloisonner • Stocker intelligemment • Se former • S’outiller • POCer !

Hinweis der Redaktion

  1. Questions à la fin de chaque session
  2. Questions à la fin de chaque session
  3. Eviter big data
  4. SI Opérationnel => Analytique : Voie sans retour Architectures des années 2000, Et je ne parle pas de main frame
  5. Eviter big data
  6. SI Opérationnel => Analytique : Voie sans retour Architectures des années 2000, Et je ne parle pas de main frame
  7. SI Opérationnel => Analytique : Voie sans retour Architectures des années 2000, Et je ne parle pas de main frame
  8. SI Opérationnel => Analytique : Voie sans retour Architectures des années 2000, Et je ne parle pas de main frame
  9. Eviter big data
  10. Collecter toutes les données en temps réel, trier et traiter dans un deuxième temps Evènements critiques : commandes, paiements, etc. Evènements autres: Clics, etc. Persistance polyglotte : Le bon stockage pour le bon usage Réduire les frontières entre les systèmes de stockage, un événement peut être retravaillé et réinjecté pour qu’il alimente d’autres systèmes de stockage création d’index dans le moteur de recherche suite à l’ajout d’un nouveau client, mise à jour du graphe social suite à l’ajout d’une relation entre deux clients, etc. Traitement sur les évènements : aggrégation, event sourcing, CQRS
  11. Le flux d’événement alimente des systèmes hyper-spécialisés Et d’autre processus pour produire de nouveaux flux d’événements Cassandra + Spark EDF R&D Le collecteur d’évènements doit encaisser beaucoup de volumes, et surtout savoir scaler : Outils comme Kafka (Kinesis aussi?) savent faire ça Des process dépilent les évènements, font du traitement dessus : CEP : Complex event processing, du routage, de l’event sourcing, de l’enrichissement, etc. Approfondir cette partie patterns évènementiels. Stockage adapté à l’usage (slide d’après)
  12. Le flux d’événement alimente des systèmes hyper-spécialisés Et d’autre processus pour produire de nouveaux flux d’événements Le collecteur d’évènements doit encaisser beaucoup de volumes, et surtout savoir scaler : Outils comme Kafka (Kinesis aussi?) savent faire ça Des process dépilent les évènements, font du traitement dessus : CEP : Complex event processing, du routage, de l’event sourcing, de l’enrichissement, etc. Approfondir cette partie patterns évènementiels. Stockage adapté à l’usage (slide d’après) => Réconciliation
  13. Ce n’est pas exhaustif, ça n’est pas le but, c’est un exemple Catalogue produit => Couchbase : in-memory pour une faible latence, forts accès en lecture Session utilisateur : Cache => Redis, accès en écriture et en lecture, données volatiles Panier : Riak, Cassandra ? Haute dispo, multi-site Données transactionnelles : pas mieux que les bases relationnelles, Le NoSql par définition n’est pas la meilleure techno pour, mais y a des tentatives : Cassandra tx, etc. Très complexe à mettre en place et très limité. A voir selon le besoin. Mais surtout, challenger le besoin du transactionnel. Beaucoup de uses cases sont implémentés avec des transactions alors que ce n’est pas nécessaire (trouver exemple?). Y a des uses cases où le relationnel est néanmoins très pertinent : données financières avec des données structurées figées, et des traitements hautements transactionnels (batchs du coup) Graphe social, recommandations : Neo4j, OrientDB (pertinence du sémantique)? Reporting : Beaucoup d’outils de reporting s’intègrent bien avec des bases Sql Analytics temps réel, traitement des logs : Bases colonne : besoin de scalabilité fort, clustering bien géré, multi-site : Cassandra, hadoop
  14. REX
  15. REX