AWS Summit Seoul 2023 | AWS Graviton과 함께하는 계획문제 최적화 애플리케이션 개발

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
S E O U L | M A Y 4 , 2 0 2 3

AWS Graviton과 함께하는
계획문제 최적화 애플리케이션 개발
Pilmo Kang
프로토타이핑 엔지니어
AWS

AWS 실리콘 혁신
계획문제 최적화 애플리케이션 개발 사례
AWS Graviton으로 시작하기
Agenda

AWS가 제공하는 컴퓨팅 플랫폼 선택의 다양성
가 장 포 괄 적 이 고 심 층 적 인 컴 퓨 팅 플 랫 폼 제 공
카테고리 기능 옵션
Elastic Block Store (EBS)
Elastic Fabric Adapter
Elastic Inference
Elastic Graphics
Linux, Unix, Windows,
macOS
범용
버스팅 가능
컴퓨팅 집약적
메모리 집약적
스토리지 (높은 I/O)
고밀도 스토리지
GPU 컴퓨팅
그래픽 집약적
프로세서선택
(AWS Graviton, Intel, AMD)
빠른 프로세서
(up to 4.5 GHz)
높은 메모리 공간
(up to 24 TiB)
인스턴스 스토리지
(HDD, SSD, NVMe)
가속화된컴퓨팅
(GPUs, FPGA, & ASIC)
네트워킹
(최대 800 Gbps)
베어 메탈
크기
(nano 에서 112xlarge)
600+
인스턴스 유형
거의 모든 워크로드및
비즈니스요구사항에
적합

AWS가 제공하는 컴퓨팅 플랫폼 선택의 다양성
가 장 포 괄 적 이 고 심 층 적 인 컴 퓨 팅 플 랫 폼 제 공
AWS Graviton
processors
x86(amd64) arm64

AWS 실리콘 혁신
AWS Graviton
AWS Inferentia
AWS Trainium
클라우드 워크로드의
최고의 가격 대비 성능
하이퍼바이저, 네트워크,
보안, 스토리지
딥러닝 학습 및 추론을 위한
가속 프로세서
AWS Nitro System

AWS Nitro System
전 용 하 드 웨 어 및 경 량 하 이 퍼 바 이 저 의 조 합 으 로 빠 른 혁 신 과 개 선 된 보 안 지 원
AWS Nitro Hypervisor
• 경량 하이퍼바이저
• CPU 및 메모리 할당 관리
• 베어메탈 대비 동급 성능
AWS Nitro Card
• Amazon EBS
• Elastic Network Adapter
• Monitoring and security
AWS Nitro 보안 칩
• 서버의 시스템 메인 보드에 통합
• 하드웨어 자산에 대한 보호
Graviton 프로세서
• 뛰어난 성능
• 비용 절감

A M A ZO N E C 2 에 서 최 고 의 가 격 대 비 성 능 지 원
Graviton
2018
Graviton3
2021
Graviton2
2019
AWS Graviton 프로세서

AWS가 설계한 64-bit Arm 기반 프로세서
Arm 기반 시스템의 복잡성 제거 및 제품 출시기간 단축
클라우드 네이티브 워크로드에 최적화
AWS Graviton 프로세서

AWS Graviton2 기반 EC2 인스턴스
M6g, M6gd
범용 워크로드
T4g
버스팅 가능한
범용 워크로드
C6g, C6gd, C6gn
컴퓨팅 집약적인 워크로드
R6g, R6gd, X2gd
메모리 집약적인
워크로드
Im4gn, Is4gen
스토리지 집약적
워크로드
G5g
GPU기반
가속화된 컴퓨팅
M6g(d), T4g, C6g(d,n), R6g(d), G5g
서울 리전 제공

AWS Graviton3 기반 EC2 인스턴스
C7g,M7g,R7g
Graviton 3 기반
C7gn/HPC7g
Graviton 3E 기반
(출시예정)

AWS Graviton을 지원하는 AWS 관리형 서비스
Amazon
DocumentDB
Amazon
Aurora
Amazon
RDS
Amazon
ElastiCache
Amazon
OpenSearch
Service
Amazon
EMR
AWS
Lambda
AWS Fargate
Amazon
MemoryDB
데이터베이스
분석 컴퓨팅, 컨테이너
Amazon
Neptune
AWS Elastic
Beanstalk
Amazon EKS Amazon ECS
Amazon
SageMaker
기계 학습
NEW!
CI/CD
AWS
CodeBuild
Amazon ECR

운영체제 지원
Red Hat Enterprise Linux
8.2+
SLES 15 SP2 20.04LTS,
22.04LTS
Amazon Linux 2
Amazon Linux 2023
Debian

AWS 도구 및 소프트웨어
AWS
Marketplace
AWS
Systems
Manager
Amazon
CloudWatch
Amazon
Inspector
AWS
Batch
AWS
CodeBuild
AWS
CodeCommit
AWS
CodePipeline
AWS
CodeDeploy
Amazon Corretto
OpenJDK
AWS Fluent Bit
AWS
Command
Line Interface
AWS EC2
Image
Builder
AWS Auto
Scaling
(Mixed-arch)
AWS X-Ray

계획문제 최적화 애플리케이션 개발사례

차량의 물류 배송
실시간 주문배송
재고 최적화
특정 제약조건 아래에서 한정된 자원을 이용하여 최적의 조건을 찾는 문제
자원 운용계획 경로 최적화
스케쥴링
작업 할당
기기 운용율 최대화
교대 근무표 작성
강의/회의 스케쥴링
계획문제 소개

경로최적화 솔루션 개발 사례
복잡한 배송조건 및 배송거리를 고려한 배차 자동화 솔루션 구축
500+
배송목적지 수
300+
주문수량
x20
배송조건
농심 배송 배차 최적화 프로토타이핑 사례

경로최적화 솔루션 개발 사례
높은 성능
4%
낮은 비용
20%
100%
100%
104%
80%
처리속도
비용
c6i.2xlarge c6g.2xlarge
Graviton2 인스턴스의 가격 대비 높은 성능 제공

문제 정의
• 데이터 식별
• 제약조건 식별
• 데이터 전처리
01 02 03 04
지리정보 전처리
• 주소좌표 변환
• 경로 캐시 작성
• 지리정보 인덱스
서비스 개발
• 데이터 도메인
• 제약조건
• 최적화 옵션
최적화 수행
• 최적화 작업 실행
• 결과 취합
• 세부경로 작성
• 결과 저장
경로최적화 솔루션 개발 과정

경로 캐시 데이터
지점
1
지점
2
지점
3
…
지점
n
지점
1
0 1.1 2.0 … 15.5
지점
2
1.3 0 3.2 … 15.1
지점
3
2.1 3.2 0 … 13.8
… … … … 0 …
지점
n
15.6 15.4 13.8 … 0
모든 지점간 이동거리 및 이동시간을 미리 계산하여 재사용

최적화 과정에서 최적화 대상 객체의 수많은 배치/재배치 연산 수행
배치 연산
계획문제 도메인
최적화 대상
최적화 대상
재배치 및 교환 연산
(반복)
최적화 대상
최적화 대상
최적화 대상
최적화 대상
최적화 대상
계획문제 도메인
최적화 연산 과정

경로최적화 솔루션 구성
AWS Cloud
경로 최적화 작업
Amazon API
Gateway
AWS Lambda
ECS Task
(경로엔진)
Amazon ECS
ECS Task
(최적화엔진)
Amazon S3
(주문정보)
Amazon S3
(경로 캐시)
AWS Lambda
Amazon DynamoDB
(최적화 결과)

AWS Graviton2 적용
Amazon ECS 용량공급자
• 오토 스케일링을 사용하여
클러스터에 등록된
Amazon EC2 인스턴스 관리
AWS ECS의 용량공급자 설정으로 AWS Graviton 2 인스턴스 적용

AWS Graviton2 적용
AWS CodeBuild의
빌드 환경 컴퓨팅 유형
• 빌드를 실행할 때
빌드 환경에 대한 정보를 제공
AWS Graviton적용을 위한 arm64 기반 AWS CodeBuild 빌드 환경 구성
컨테이너 빌드 시
대상 플랫폼 지정

AWS Graviton으로 시작하기

AWS Graviton 적용 팁
• 최신 버전의 소프트웨어 사용
o OS : Amazon Linux2, Amazon Linux 2023
o Java - Amazon Corretto 17
• 컨테이너 서비스에 다중 아키텍쳐 이미지 적용
o AWS CodeBuild, AWS CodePipeline
o Docker buildx
• AWS의 관리형 서비스 도입을 검토

AWS Graviton 기술 가이드
https://github.com/aws/aws-graviton-getting-started
• AWS Graviton 팀이 작성한 기술 가이드
• 다양한 언어 및 라이브러리에 대한 언어별 적용 팁
• Graviton에서의 컴퓨팅 성능 최적화 과정에 대한 도움말

난이도 워크로드 활동
거의 노력 없음
Amazon RDS, Aurora,
ElastiCache, OpenSearch
Service, Neptune
최신버전 업그레이드 후 즉시 사용가능
매우 쉬움 Amazon EMR 일반적으로 바로 동작
아주 쉬움 AWS Lambda
일반적으로 Lambda 관리형 런타임 또는
기본 이미지에서 잘 동작
주의: JNI 또는 Python-native 모듈
쉬움
Linux – JIT 또는 인터프리터 언어
(예: Java, PHP, Node.js)
Arm64 AMI를 선택하고 설치하여 사용
추가로 컨테이너화 고려 가능
주의: JNI 또는 Python-native 모듈
작업 필요
Linux - 컴파일 언어
(예: C/C++, Python, Go)
Arm64 AMI 를 선택하고 다시 컴파일
주의: 내장된 네이티브 모듈
적은 노력으로 높은 효과 Microsoft Windows – .NET
Arm64기반 Linux .Net core로
마이그레이션
AWS Graviton 전환 난이도

AWS Graviton 기반 인스턴스로 전환
1. [분석] : 프로덕션 환경의 모든 라이브러리, 종속성 및 에이전트를 식별
• 언어 표준 및 오픈소스/상용 라이브러리
• 모니터링, 로깅, 보안 데몬 또는 에이전트
• ‘The Porting Advisor for Graviton’ 활용
- 파이썬, 자바, Go, C, C++ 및 포트란 소스 스캔 가능
2. [검토] arm64 지원 현황 확인
• 기존 arm64 바이너리 또는 아키텍처에 영향을 받지 않는 소스 코드 탐색
• 소프트웨어 공급업체에 arm64 지원 로드맵 문의

AWS Graviton 기반 인스턴스로 전환
3. [테스트] 여러 아키텍처에 대한 테스트 수행
• 일반적인 단위 테스트에서부터 시스템 테스트, 사용자승인 테스트에 적용
• 여러 아키텍쳐 지원을 위한 테스트케이스는 애플리케이션을 새로 컴파일시에도 유용함
4. [적용] 코드형 인프라 리소스 업데이트
• AWS CloudFormation 또는 AWS CDK와 같은 도구를 활용
• 애플리케이션을 arm64 기반 인스턴스에 프로비저닝 하도록 변경
5. [배포] 블루-그린 배포를 통한 점진적 전환
• 기존 스택과 arm64기반의 새로운 스택을 생성한 후 적은 비율의 요청을 새 스택으로 전달
• 프로덕션 환경에 적용된 애플리케이션의 모니터링

참고자료
• AWS Graviton Technical Guide
https://github.com/aws/aws-graviton-getting-started
• Porting Advisor for Graviton
https://github.com/aws/porting-advisor-for-graviton
• AWS Graviton Fast Start
https://aws.amazon.com/ec2/graviton/fast-start/
• AWS Graviton Workshop
https://graviton2-workshop.workshop.aws/en/
• (Sample) 배송경로 최적화 애플리케이션
https://github.com/aws-samples/delivery-routes-optimization-for-logistics
• (Sample) 교대근무 스케쥴 최적화 애플리케이션
https://github.com/aws-samples/employee-shift-scheduling-optimization-cdk

감사합니다.

AWS Summit Seoul 2023 | AWS Graviton과 함께하는 계획문제 최적화 애플리케이션 개발

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Was ist angesagt?

Was ist angesagt? (20)

Ähnlich wie AWS Summit Seoul 2023 | AWS Graviton과 함께하는 계획문제 최적화 애플리케이션 개발

Ähnlich wie AWS Summit Seoul 2023 | AWS Graviton과 함께하는 계획문제 최적화 애플리케이션 개발 (20)

Mehr von Amazon Web Services Korea

Mehr von Amazon Web Services Korea (20)

AWS Summit Seoul 2023 | AWS Graviton과 함께하는 계획문제 최적화 애플리케이션 개발