26. これまでのEC2世代変遷
Classic Virtualization Nitro System
独自ASIC Nitroシステムで高スループット、低レイテンシー、低価格を実現
AWS re:Invent 2019 - Keynote with Dr. Werner Vogels
https://www.youtube.com/watch?v=OdzaTbaQwTg
46. AWS Osaka Local Region Expansion to Full Region
現在、申請制・制限付きでご利用いただいている大阪ローカルリージョン
が、2021年初旬を目標に正式リージョン化することが発表
正式リージョン化に伴い、3AZ構成、かつ自由にお使いいただけるように
Stay Tuned !
48. 通信先インスタンスのSubnetを近くに設置する
複数の選択肢( Outposts, Local Zone, Wavelength)
AWS Region
Availability Zone
Subnet
VPC
Availability Zone
Subnet
Wavelength Zone
Local Zone
Outposts
Subnet
Subnet
Subnet
5G
Internet/
DX
LAN
139. Machine Learning 直近のアップデート
Amazon SageMaker Family
Amazon SageMaker Studio
Amazon SageMaker Notebooks
Amazon SageMaker Autopilot
Amazon SageMaker Processing
Amazon SageMaker Debugger
Amazon SageMaker Experiments
Amazon SageMaker Model Monitor
Amazon Augmented AI
New Services
Amazon Kendra
Amazon Fraud Detector
Amazon CodeGuru
Contact Lens for Amazon Connect
Inf1 インスタンス
AWS Inferentia
Amazon Transcribe Medical
AWS Neuron SDK
Amazon Braket
Amazon Quantum Solutions Lab
New Features/Updates
Multi-model Endpoint
Amazon Rekognition Custom Labels
Amazon SageMaker Operators for Kubernetes
Deep Graph Library (DGL) on SageMaker
AWS Step Functions Data Science SDK
Amazon Athena で SQL クエリから ML 実行
Amazon Aurora Machine Learning
DeepRacer Evo
140. Machine Learning 直近のアップデート
Amazon SageMaker Family
Amazon SageMaker Studio
Amazon SageMaker Notebooks
Amazon SageMaker Autopilot
Amazon SageMaker Processing
Amazon SageMaker Debugger
Amazon SageMaker Experiments
Amazon SageMaker Model Monitor
Amazon Augmented AI
New Services
Amazon Kendra
Amazon Fraud Detector
Amazon CodeGuru
Contact Lens for Amazon Connect
Inf1 インスタンス
AWS Inferentia
Amazon Transcribe Medical
AWS Neuron SDK
Amazon Braket
Amazon Quantum Solutions Lab
New Features/Updates
Multi-model Endpoint
Amazon Rekognition Custom Labels
Amazon SageMaker Operators for Kubernetes
Deep Graph Library (DGL) on SageMaker
AWS Step Functions Data Science SDK
Amazon Athena で SQL クエリから ML 実行
Amazon Aurora Machine Learning
DeepRacer Evo
141. VISION SPEECH TEXT SEARCH NEW CHATBOTS PERSONALIZATION FORECASTING FRAUD NEW DEVELOPMENT NEW CONTACT CENTERS NEW
Amazon SageMaker Ground
Truth
Augmented
AI
SageMaker
Neo
Built-in
algorithms
SageMaker
Notebooks NEW
SageMaker
Experiments NEW
Model
tuning
SageMaker
Debugger NEW
SageMaker
Autopilot NEW
Model
hosting
SageMaker
Model Monitor NEW
Deep Learning
AMIs & Containers
GPUs &
CPUs
Elastic
Inference
Inferentia FPGA
Amazon
Polly
Amazon
Transcribe
+Medical
Amazon
Comprehend
+Medical
Amazon
Translate
Amazon
Lex
Amazon
Personalize
Amazon
Forecast
Amazon
Fraud Detector
Amazon
CodeGuru
Amazon
Textract
Amazon
Kendra
Contact Lens
For Amazon Connect
SageMaker Studio IDE NEW
AWS の ML スタック
AI サービス: 機械学習の深い知識なしに利⽤可能
ML サービス: 機械学習のプロセス全体を効率化するマネージドサービス
ML フレームワークとインフラストラクチャ: 機械学習の環境を自在に構築して利⽤
NEW
NEW
New
Amazon
Rekognitions
+Custom labels
NEW
180. Contact Lens for Amazon Connect
コンタクトセンターにおける業務を AI で効率化
https://aws.amazon.com/jp/blogs/contact-center/announcing-contact-lens-for-amazon-connect-preview/
185. アーキテクチャカテゴリ
• Avoiding insurmountable queue backlogs
• Challenges with distributed systems
• Static stability using availability zones
• Avoiding fallback in distributed systems
• Caching challenges and strategies
• Leader election in distributed systems
• Timeouts, retries and backoff with jitter
• Workload isolation using shuffle-sharding
• Going faster with continuous delivery
• Ensuring rollback safety during deployments
• Using load shedding to avoid overload
• Implementing health checks
189. Sessions in AWS re:Invent 2019
アーキテクチャ関連
ARC335 - Designing for failure: Architecting resilient systems on AWS (Snapchat)
DAT319 - How Uber stores financial transactions in ledgers using Amazon DynamoDB
SEC338 - How FINRA builds serverless data-masking pipelines across accounts
ARC340 - Amazon.com automating machine learning deployments at scale
ANT331 - AWS analytics enables fraud prevention for Sony’s PlayStation
DAT359 - How Amazon.com migrated its applications from Oracle to AWS databases
DAT220 - Real-world customer use cases with Amazon Neptune (NBC Universal)
CON307 - Top 5 container and Kubernetes best practices (NewRelic)
EUC404 - How Facebook deployed Amazon WorkSpaces globally
190. Designing for failure: Architecting resilient systems on AWS
Snapchat
• コミュニケーションアプリ
• DAU 2.1億, スナップの投稿 35億/日
Snapchatがモノリスかつシングルリージョンで運用していたサービスを
マイクロサービス化/マルチリージョン化
ARC335
システム概要と従来システムの課題
• モノリシックなサービス/ 単一リージョンでの運用
• コード変更時の影響範囲が大きかった
• パフォーマンスと可用性に課題があった
https://www.youtube.com/watch?v=BJVzwaTiOdk
191. ARC335
マイクロサービス化/マルチリージョン化を実施
• 各マイクロサービスの可用性をTier分け
• 2リージョンで同一構成をデプロイ(Active-Active)
• 99.95%の可用性を担保するよう設計
アーキテクチャ
• アプリケーションレイヤーはEKS上にホスト
• ユーザーは地理的に近いリージョンのAPIをコール
• Writeリクエスト/強い整合性を必要とするリクエス
トは、強制的にPrimary Regionにルーティング
• Primary Regionに書き込まれたデータはDynamo DB
Streamを使用して、Secondary Regionの
ElastiCache, DynamoDB, その他サービスにレプリ
ケーション
• 今後DynamoDB Global Tablesを採用しすべてのリー
ジョンでWriteできるようにする予定
Designing for failure: Architecting resilient systems on AWS