Machine Learning

© 2019, Amazon Web Services, Inc. o sue affiliate. Tutti i diritti riservati.
Machine Learning
e Intelligenza Artificiale in AWS
© 2018, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
16/10/2019
Leonardo Fenu, Sr. Solutions Architect
AWS World Wide Public Sector Italy

Una lunga storia di ML in Amazon
Droni Interazioni voice-
driven
Esperienze nuove per
i clienti
Raccomandazioni
personalizzate
Automazione
della consegna
Gestione dei
magazzini

AI, Machine Learning, and Deep Learning
Machine Learning
1980s
Tecnica che permette ai computer di eseguire compiti senza
essere esplicitamente programmati
Artificial Intelligence
1950s
Tecniche che permettono ai computer di
simulare l’intelligenza umana
Turing Test Perceptron
Deep Learning
2010s
Sottoinsieme di ML che usa reti
neurali per l’apprendimento

Modelli, algoritmi e dati
Un algoritmo di MLè il programma usato per addestrare un modello ad
imparare dai dati
Un modello di ML è il programma addestrato che mappa gli input agli
output
Image courtesy of Christoph Molnar
Dai dati di input che si ricavano i
modelli di apprendimento

Supervised Machine Learning
Task driven
• Training Data: (X,Y) (Features, Labels)
• Predict: Y, minimizing some loss
• Classification, Regression
Unsupervised Machine Learning
Data driven
• Training Data: X (features only)
• Find similar points in high-dim X-space
• Clustering
Reinforcement Learning
Decision making
• Training data: (State, Action, Reward)
• Maximize long term rewards
• Robotics, games
Tre tipologie di Machine Learning

Training Data Training
Test Data
Evaluation
Results
Trial
Model
All Labelled Data
75% 25%
Accuracy
Addestramento di un modello di ML: Supervised Learning

ML in AWS
LA NOSTRA MISSIONE
Mettere il Machine Learning a
disposizione di ogni
sviluppatore e data scientist

Decine di migliaia di clienti che sviluppano ML su AWS

F R A M E W O R K &
I N F R A S T R U T T U R A
I servizi di AI e ML di AWS
S E R V I Z I
A P P L I C A T I V I R E K O G N I T I O N
I M A G E
P O L L Y T R A N S C R I B E T R A N S L A T E C O M P R E H E N D
& C O M P R E H E N D
M E D I C A L
L E XR E K O G N I T I O N
V I D E O
Visione Parlato Chatbots
A M A Z O N
S A G E M A K E R
B U I L D T R A I N
F O R E C A S TT E X T R A C T P E R S O N A L I Z E
D E P L O Y
Pre-built algorithms & notebooks
Data labeling (G R O U N D T R U T H )
One-click model training & tuning
Model Optimization ( N E O )
One-click deployment & hosting
P I A T T A F O R M E
F r a m e w o r k I n t e r f a c c e I n f r a s t r u c t u r e
E C 2 P 3
& P 3 d n
E C 2 C 5 F P G A s G R E E N G R A S S E L A S T I C
I N F E R E N C E
Hyperparameter optimizationAlgorithms & models ( A W S M A R K E T P L A C E
F O R M A C H I N E L E A R N I N G )
Lingua Forecasting Suggerimenti
Notebook hosting Reinforcement learning
Auto-scaling
Virtual private cloud
Private Link
Elastic Inference integration
A M A Z O N
M E C H A N I C A L T U R K
RL Coach

Servizi pre addestrati che non
richiedono alcune conoscenza di
ML specifica
Aggiungi intelligenza alle tua
applicazioni semplicemente
Qualità e accuratezza grazie al
processo di apprendimento
continuo
S E R V I Z I
A P P L I C A T I V I R E K O G N I T I O N
I M A G E
P O L L Y T R A N S C R I B E T R A N S L A T E C O M P R E H E N D
& C O M P R E H E N D
M E D I C A L
L E XR E K O G N I T I O N
V I D E O
Visione Parlato Chatbots
F O R E C A S TT E X T R A C T P E R S O N A L I Z E
Lingua Forecasting Suggerimenti
I servizi di AI e ML di AWS

Moderazione di immagini Rilevamento del testoRiconoscimento celebrità
Analisi facciale Confronto faccialeRilevamento di oggetti
Amazon Rekognition: Immagini
Servizio di riconoscimento immagini basato su Deep Learning

Amazon Rekognition

Amazon Rekognition: Video
Analisi facciale Riconoscimento LiveRileva oggetti e attività
Moderazione di immaginiRiconoscimento celebrità Tracking delle persone

Amazon Textract: Estrarre testo e dati da qualunque tipo di documento
Estrazione da testi Estrazione da tabelle Estrazione da moduli

Amazon Polly: Sintesi Vocale
Converte il testo
in voce naturale
57 voci 28 lingue Bassa latenza,
tempo reale
Servizio
completamente gestito
Casi d’uso:
Contact centers
Podcasting, Voice blogs
Navigazione
Insegnamento delle lingue

Amazon Transcribe: dalla voce al testo
Identificazione
del canale
Vocabolario
personalizzato
Rilevamento di
più speakers
Time stampsPunteggiatura
Intervallo di
confidenza

25 Lingue
595 Combinazioni
Real-time
< 500ms / sentence on average
< 150ms / conversational / short form
Gestione del tagging
XML tags mantengono lo stile e la
formattazione durante la
traduzione
< / >
Data Security
Data ownership
Encryption
Access Management
Semplice da usare
Semplici chiamate alle API o
soluzioni evolute tramite partner
Riconoscimento della lingua
Riconosce automaticamente la lingua
Amazon Translate: traduzioni naturali ed accurate

Estrae significato e relazioni dai testi
Entities
Key Phrases
Language
Sentiment
Syntax
Grouping
English, Spanish, German, French, Italian, Portuguese
Amazon Comprehend:
Amazon
Comprehend

A m a z o n . c o m , I n c . h a s e d e a
S e a t t l e , W A e d è s t a t a f o n d a t a
i l 5 l u g l i o 1 9 9 4 d a J e f f B e z o s .
I n o s t r i c l i e n t i a d o r a n o
c o m p r a r e t u t t o , d a i l i b r i a i
f r u l l a t o r i a p r e z z i e c c e z i o n a l i
E N T I T À D E N O M I N A T E
• A m a z o n . c o m : O r g a n i z z a z i o n e
• S e a t t l e , W A : S e d e
• 5 l u g l i o 1 9 9 4 : D a t a
• J e f f B e z o s : P e r s o n a
F R A S I C H I A V E
• I n o s t r i c l i e n t i
• l i b r i
• f r u l l a t o r i
• p r e z z i e c c e z i o n a l i
S E N T I M E N T
• P o s i t i v e
L I N G U A
• I t a l i a n o
Amazon Comprehend

Entità
• Medicinali
• Condizioni Mediche
• Test, Trattamenti e Procedure
• Anatomia
• Protected Health Information (PHI)
Estrazione delle Relazioni
• Medicinali e dosaggi
• Risultati dei test
• …e molto altro…
Caratteristiche delle Entità
• Negazione
• Diagnosi
• Segnali o Sintomi
Protected Health Information
Identification
(PHId API)
Raggruppa un insieme complesso di elaborazioni in una singola API
Medical Named Entity and
Relationship Extraction (NERe API)
Non ancora disponibile in ITALIANO
Amazon Comprehend Medical

Comprensione del testo e del linguaggio naturale: con la stessa tecnologia
di Alexa
Connettori SaaS enterprise: collegamento a sistemi enterprise
Deployment verso servizi di chatbot
Integrazione nativa con AMAZON CONNECT
Progettato per sviluppatori: strumenti efficienti e intuitivi
per creare conversazioni, dimensionamento automatico
Amazon Lex: interfacce conversazionali
Non ancora disponibile in ITALIANO

Amazon Forecast: Previsioni accurate da serie temporali
Private
forecasting API
Amazon Forecast
Dati storici
Dati collegati
Inizia con pochi click
Importa i tuoi dati in Forecast
Addestra il modello
Scegli un modello di analisi o fallo scegliere a
noi
Scarica previsioni accurate
Accedi alle previsioni via private API
Vendite, domanda ,
supply chain scorte,
etc.
Meteo, offerte speciali,
dettagli

Amazon Personalize: Suggerimenti personalizzati in tempo reale
Articoli, prodotti,
video, etc.
Età, location, etc. Amazon
Personalize
Pagine viste, login,
conversioni, etc.
Customized
personalization &
recommendation
API
Inizia con pochi click
Importa i tuoi dati in Forecast
Addestra il modello
Scegli un modello di analisi o fallo scegliere a
noi
Utilizza suggerimenti precisi
Accedi ai suggerimenti via private API

AWS Lambda
Amazon S3
Amazon
Athena
Input audio
Amazon
QuickSight
Amazon
Comprehend
Architettura di Esempio
Amazon
Transcribe

Ground Truth Notebooks Training Inference
Crea, addestra e usa modelli di Machine Learning velocemente
Amazon SageMaker

Amazon SageMaker: Ground Truth

Amazon SageMaker: Notebook

Algoritmi già pronti in
SageMaker
Supported Frameworks
AWS Marketplace
algorithms
Model
Data Data Data Data
Orchestration
Built-in Algorithms
SageMaker
Model Model Model
Orchestration
SageMaker
Custom Script
Algorithms or
Models
Script custom su
framework supportati
BYO algorithm and
framework
17 algoritmi già pronti Frameworks supportati: Apache
MXNet, TensorFlow , Scikit-learn,
PyTorch, Chainer
Algoritmi e modelli di terze parti
Supported Frameworks
Orchestration
SageMaker
Custom Script
and Custom
Framework
Orchestration
SageMaker
Amazon SageMaker: Build
Container Docker con i vostri
algoritmi e framework

• Jupyter notebooks
• Support Jupyter Lab
• Multiple built-in kernels
• Install external libraries
and kernels
• Integrate with Git
• Sample notebooks
Amazon SageMaker: Notebook

Amazon SageMaker: Training

Un click in Console
Uso API/SDK
- OR -
Launch
Training

Perfette per inferenza ML/AI
Perfetta per il training
dei modelli di ML/AI
Perfette per i notebooks

Amazon SageMaker: Inference

Hosting
Services
Batch
Transform
Elastic
Inference
Trained Model
Neo
Run
Anywhere DeepRacer DeepLensMarketplace

Hosting Services
Secure Endpoint
Inference
Code
Helper
Code
Deployment / Hosting
on ML Compute Instances
Model
Artifacts
Inference
code Images
Client Application
Inference
request
Inference
result
• Endpoint HTTPS
• Configurazione elastica (scala quando serve)
• Versioni multiple del modello (A/B testing)
• Supporto Multi-AZ
• Latenze sotto il secondo
• Persistenza

Inference
Code
Helper
Code
Model
Artifacts
Inference
code Images
Transformed
Data
Batch Agent
Request
Data
Data results
Batch Cluster
on ML Compute Instances
Batch Transform
• Predizioni per l’intero dataset
• Risorse a tempo (le istanze vengono create
e terminate al termine del job)
• Nessuna infrastruttura da gestire

VPC
Elastic Inference
• La potenza di una GPU ad una frazione del costo
• Aggiunge accellerazione alle istanze CPU
• Funziona con i notebook e con le istanze di inferenza
• Supporta TensorFlow e MXNet, gli altri possono
essere utilizzati via ONNX Sagemaker Endpoint
or Notebook instance
Private Link Elastic
Inference

Neo
• Addestra il modello e fallo girare dove vuoi
• Ottimizzato per le piattaforme target
• Distribuisci su EC2, Edge, IoT
• Open Source
• Fino a 2X incremento di performance
• 1/10th della dimensione del framework
originale
XGBoost
Neo
Sviluppa con il tuo
framework preferito
Compila per la
piattaforma target
Distribuisci il modello
ottimizzato

Marketplace
• Crea un container Docker con il tuo
algoritmo o modello
• Crea un package utilizzando SageMaker
• Registrati sul marketplace e distribuiscilo
du AWS Marketplace
Algorithm
or model
code
Docker container AWS MarketplaceAlgorithm or model
Package

DeepLens
• Inference at the edge
• SageMaker trained models
• Simplified deployment
• Sample notebooks
DeepRacer
Impara la computer vision attraverso progetti,
esercitazioni ed esplorazioni pratiche del mondo reale
con la prima videocamera al mondo con funzionalità di
deep learning per gli sviluppatori.
Un'auto da corsa completamente autonoma in scala
1/18, piena di tutto ciò che è necessario per
imparare il reinforced learning attraverso la guida
autonoma.

Vasta scelta di framework popolari
Fully managed Fai da solo
AWS is Framework Agnostic

Storage di data lake
Amazon S3
Sicurezza
Controllo degli accessi
Crittografia
VPC
KMS
Audit
Compliance
Ruoli
Controllo granulare degli accessi
Calcolo
Istanze CPU e GPU potenti
AWS Lambda
Analytics
Amazon Athena
Amazon EMR
Amazon Redshift e Redshift Spectrum
Non solo Machine Learning

Data Visualization
&
Analysis
Business Problem
ML problem framing Data Collection
Data Integration
Data Preparation &
Cleaning
Feature Engineering
Model Training &
Parameter Tuning
Model Evaluation
Are
Business
Goals
met?
Model Deployment
Monitoring &
Debugging
– Predictions
YesNo
DataAugmentation
Feature
Augmentation
Re-training
In pratica
Previsione di incendi nelle
regioni italiane

Amazon SageMaker
AWS Deep Learning AMIs
Amazon Rekognition
Amazon Lex
AWS DeepLens
Amazon Comprehend
Amazon Translate
Amazon Transcribe
Amazon Polly
Amazon Athena
AWS Glue
Amazon Lake Formation
Amazon Redshift
Amazon Elasticsearch Service
Amazon Kinesis
Amazon QuickSight
AWS Direct Connect
AWS Snowball
AWS Snowmobile
AWS Database Migration Service
AWS IoT Core
Amazon Kinesis Data Firehose
Amazon Kinesis Data Streams
Amazon Kinesis Video Streams
Data Lake
on AWS
Storage | Archival Storage | Data Catalog
AnalyticsMachine learning
Real-time dataOn-premises movementdata movement
Abbiamo creato il Data Lake

Raccolta e
preparazione dei
dati di training
Scelta ed
ottimizzazione dgli
algoritmi di ML
1
2
3
Setup dell’ ambiente
di training
Training ed
ottimizzazione del
modello
Deployment del
modello in
produzione
Scala e gestisci
l’ambiente di
produzione
Abbiamo utilizzato Amazon SageMaker per:

• Software troppo complesso
• Processo manuale costoso
• Disponibilità di dati per il training
• Semplice da esprimere in termini di ML
Image: Unsplash
Quando utilizzare il Machine Learning ?

• Pochi dati
• Nessuna classificazione
• Poco tempo
• Nessuna tolleranza agli
errori
Image: Unsplash
Quando non utilizzare il Machine Learning ?

• Qual‘è il business problem ?
• Chiediti:
• Come posso aggiungere valore con il ML?
• Come posso ridurre gli sprechi con il ML?
• Costruisci il data lake
• Conosci i tuoi dati
• Costruisci il progetto di ML
• Utilizza i servizi gestiti di AWS
• Usa Amazon SageMaker per creare il tuo progetto
Riassumendo:

ml.aws
Grazie

Machine Learning

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Was ist angesagt?

Was ist angesagt? (8)

Ähnlich wie Machine Learning

Ähnlich wie Machine Learning (20)

Mehr von Amazon Web Services

Mehr von Amazon Web Services (20)

Machine Learning