Suche senden
Hochladen
ディープラーニングをAWS LambdaとStep Functionで自動化する
•
Als PPTX, PDF herunterladen
•
2 gefällt mir
•
2,259 views
K
Keita Shimizu
Folgen
高価なGPUインスタンスを自腹最小出費で使うための苦闘
Weniger lesen
Mehr lesen
Daten & Analysen
Melden
Teilen
Melden
Teilen
1 von 29
Jetzt herunterladen
Empfohlen
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
Miki Shimogai
爆速クエリエンジン”Presto”を使いたくなる話
爆速クエリエンジン”Presto”を使いたくなる話
Kentaro Yoshida
MySQL・PostgreSQLだけで作る高速あいまい全文検索システム
MySQL・PostgreSQLだけで作る高速あいまい全文検索システム
Kouhei Sutou
祝!PostgreSQLレプリケーション10周年!徹底紹介!!
祝!PostgreSQLレプリケーション10周年!徹底紹介!!
NTT DATA Technology & Innovation
pg_bigmで全文検索するときに気を付けたい5つのポイント(第23回PostgreSQLアンカンファレンス@オンライン 発表資料)
pg_bigmで全文検索するときに気を付けたい5つのポイント(第23回PostgreSQLアンカンファレンス@オンライン 発表資料)
NTT DATA Technology & Innovation
MySQLアーキテクチャ図解講座
MySQLアーキテクチャ図解講座
Mikiya Okuno
Parser combinatorってなんなのさ
Parser combinatorってなんなのさ
cct-inc
マルチテナント化で知っておきたいデータベースのこと
マルチテナント化で知っておきたいデータベースのこと
Amazon Web Services Japan
Empfohlen
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
Miki Shimogai
爆速クエリエンジン”Presto”を使いたくなる話
爆速クエリエンジン”Presto”を使いたくなる話
Kentaro Yoshida
MySQL・PostgreSQLだけで作る高速あいまい全文検索システム
MySQL・PostgreSQLだけで作る高速あいまい全文検索システム
Kouhei Sutou
祝!PostgreSQLレプリケーション10周年!徹底紹介!!
祝!PostgreSQLレプリケーション10周年!徹底紹介!!
NTT DATA Technology & Innovation
pg_bigmで全文検索するときに気を付けたい5つのポイント(第23回PostgreSQLアンカンファレンス@オンライン 発表資料)
pg_bigmで全文検索するときに気を付けたい5つのポイント(第23回PostgreSQLアンカンファレンス@オンライン 発表資料)
NTT DATA Technology & Innovation
MySQLアーキテクチャ図解講座
MySQLアーキテクチャ図解講座
Mikiya Okuno
Parser combinatorってなんなのさ
Parser combinatorってなんなのさ
cct-inc
マルチテナント化で知っておきたいデータベースのこと
マルチテナント化で知っておきたいデータベースのこと
Amazon Web Services Japan
Javaのログ出力: 道具と考え方
Javaのログ出力: 道具と考え方
Taku Miyakawa
今からでも遅くないDBマイグレーション - Flyway と SchemaSpy の紹介 -
今からでも遅くないDBマイグレーション - Flyway と SchemaSpy の紹介 -
onozaty
Where狙いのキー、order by狙いのキー
Where狙いのキー、order by狙いのキー
yoku0825
DockerコンテナでGitを使う
DockerコンテナでGitを使う
Kazuhiro Suga
At least onceってぶっちゃけ問題の先送りだったよね #kafkajp
At least onceってぶっちゃけ問題の先送りだったよね #kafkajp
Yahoo!デベロッパーネットワーク
Best Practices for Running PostgreSQL on AWS
Best Practices for Running PostgreSQL on AWS
Amazon Web Services Japan
Spring Boot × Vue.jsでSPAを作る
Spring Boot × Vue.jsでSPAを作る
Go Miyasaka
SQLアンチパターン - 開発者を待ち受ける25の落とし穴 (拡大版)
SQLアンチパターン - 開発者を待ち受ける25の落とし穴 (拡大版)
Takuto Wada
MySQLレプリケーションあれやこれや
MySQLレプリケーションあれやこれや
yoku0825
Consistent hash
Consistent hash
paulowniaceae
Pythonによる黒魔術入門
Pythonによる黒魔術入門
大樹 小倉
PostgreSQLのfull_page_writesについて(第24回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLのfull_page_writesについて(第24回PostgreSQLアンカンファレンス@オンライン 発表資料)
NTT DATA Technology & Innovation
PostgreSQLの統計情報について(第26回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLの統計情報について(第26回PostgreSQLアンカンファレンス@オンライン 発表資料)
NTT DATA Technology & Innovation
乗っ取れコンテナ!!開発者から見たコンテナセキュリティの考え方(CloudNative Days Tokyo 2021 発表資料)
乗っ取れコンテナ!!開発者から見たコンテナセキュリティの考え方(CloudNative Days Tokyo 2021 発表資料)
NTT DATA Technology & Innovation
NetflixにおけるPresto/Spark活用事例
NetflixにおけるPresto/Spark活用事例
Amazon Web Services Japan
AWS Black Belt Online Seminar 2016 AWS CloudFormation
AWS Black Belt Online Seminar 2016 AWS CloudFormation
Amazon Web Services Japan
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
NTT DATA Technology & Innovation
実装して理解するLINE LoginとOpenID Connect入門
実装して理解するLINE LoginとOpenID Connect入門
Naohiro Fujie
AWS Glueを使った Serverless ETL の実装パターン
AWS Glueを使った Serverless ETL の実装パターン
seiichi arai
監査要件を有するシステムに対する PostgreSQL 導入の課題と可能性
監査要件を有するシステムに対する PostgreSQL 導入の課題と可能性
Ohyama Masanori
AWS Step FunctionとLambdaでディープラーニングの訓練を全自動化する
AWS Step FunctionとLambdaでディープラーニングの訓練を全自動化する
mizugokoro
冴えないデータセットの育て方
冴えないデータセットの育て方
Kazuhiro Sasao
Weitere ähnliche Inhalte
Was ist angesagt?
Javaのログ出力: 道具と考え方
Javaのログ出力: 道具と考え方
Taku Miyakawa
今からでも遅くないDBマイグレーション - Flyway と SchemaSpy の紹介 -
今からでも遅くないDBマイグレーション - Flyway と SchemaSpy の紹介 -
onozaty
Where狙いのキー、order by狙いのキー
Where狙いのキー、order by狙いのキー
yoku0825
DockerコンテナでGitを使う
DockerコンテナでGitを使う
Kazuhiro Suga
At least onceってぶっちゃけ問題の先送りだったよね #kafkajp
At least onceってぶっちゃけ問題の先送りだったよね #kafkajp
Yahoo!デベロッパーネットワーク
Best Practices for Running PostgreSQL on AWS
Best Practices for Running PostgreSQL on AWS
Amazon Web Services Japan
Spring Boot × Vue.jsでSPAを作る
Spring Boot × Vue.jsでSPAを作る
Go Miyasaka
SQLアンチパターン - 開発者を待ち受ける25の落とし穴 (拡大版)
SQLアンチパターン - 開発者を待ち受ける25の落とし穴 (拡大版)
Takuto Wada
MySQLレプリケーションあれやこれや
MySQLレプリケーションあれやこれや
yoku0825
Consistent hash
Consistent hash
paulowniaceae
Pythonによる黒魔術入門
Pythonによる黒魔術入門
大樹 小倉
PostgreSQLのfull_page_writesについて(第24回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLのfull_page_writesについて(第24回PostgreSQLアンカンファレンス@オンライン 発表資料)
NTT DATA Technology & Innovation
PostgreSQLの統計情報について(第26回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLの統計情報について(第26回PostgreSQLアンカンファレンス@オンライン 発表資料)
NTT DATA Technology & Innovation
乗っ取れコンテナ!!開発者から見たコンテナセキュリティの考え方(CloudNative Days Tokyo 2021 発表資料)
乗っ取れコンテナ!!開発者から見たコンテナセキュリティの考え方(CloudNative Days Tokyo 2021 発表資料)
NTT DATA Technology & Innovation
NetflixにおけるPresto/Spark活用事例
NetflixにおけるPresto/Spark活用事例
Amazon Web Services Japan
AWS Black Belt Online Seminar 2016 AWS CloudFormation
AWS Black Belt Online Seminar 2016 AWS CloudFormation
Amazon Web Services Japan
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
NTT DATA Technology & Innovation
実装して理解するLINE LoginとOpenID Connect入門
実装して理解するLINE LoginとOpenID Connect入門
Naohiro Fujie
AWS Glueを使った Serverless ETL の実装パターン
AWS Glueを使った Serverless ETL の実装パターン
seiichi arai
監査要件を有するシステムに対する PostgreSQL 導入の課題と可能性
監査要件を有するシステムに対する PostgreSQL 導入の課題と可能性
Ohyama Masanori
Was ist angesagt?
(20)
Javaのログ出力: 道具と考え方
Javaのログ出力: 道具と考え方
今からでも遅くないDBマイグレーション - Flyway と SchemaSpy の紹介 -
今からでも遅くないDBマイグレーション - Flyway と SchemaSpy の紹介 -
Where狙いのキー、order by狙いのキー
Where狙いのキー、order by狙いのキー
DockerコンテナでGitを使う
DockerコンテナでGitを使う
At least onceってぶっちゃけ問題の先送りだったよね #kafkajp
At least onceってぶっちゃけ問題の先送りだったよね #kafkajp
Best Practices for Running PostgreSQL on AWS
Best Practices for Running PostgreSQL on AWS
Spring Boot × Vue.jsでSPAを作る
Spring Boot × Vue.jsでSPAを作る
SQLアンチパターン - 開発者を待ち受ける25の落とし穴 (拡大版)
SQLアンチパターン - 開発者を待ち受ける25の落とし穴 (拡大版)
MySQLレプリケーションあれやこれや
MySQLレプリケーションあれやこれや
Consistent hash
Consistent hash
Pythonによる黒魔術入門
Pythonによる黒魔術入門
PostgreSQLのfull_page_writesについて(第24回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLのfull_page_writesについて(第24回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLの統計情報について(第26回PostgreSQLアンカンファレンス@オンライン 発表資料)
PostgreSQLの統計情報について(第26回PostgreSQLアンカンファレンス@オンライン 発表資料)
乗っ取れコンテナ!!開発者から見たコンテナセキュリティの考え方(CloudNative Days Tokyo 2021 発表資料)
乗っ取れコンテナ!!開発者から見たコンテナセキュリティの考え方(CloudNative Days Tokyo 2021 発表資料)
NetflixにおけるPresto/Spark活用事例
NetflixにおけるPresto/Spark活用事例
AWS Black Belt Online Seminar 2016 AWS CloudFormation
AWS Black Belt Online Seminar 2016 AWS CloudFormation
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
実装して理解するLINE LoginとOpenID Connect入門
実装して理解するLINE LoginとOpenID Connect入門
AWS Glueを使った Serverless ETL の実装パターン
AWS Glueを使った Serverless ETL の実装パターン
監査要件を有するシステムに対する PostgreSQL 導入の課題と可能性
監査要件を有するシステムに対する PostgreSQL 導入の課題と可能性
Andere mochten auch
AWS Step FunctionとLambdaでディープラーニングの訓練を全自動化する
AWS Step FunctionとLambdaでディープラーニングの訓練を全自動化する
mizugokoro
冴えないデータセットの育て方
冴えないデータセットの育て方
Kazuhiro Sasao
ごちうサーチ
ごちうサーチ
Kazuhiro Sasao
PHP5.5新機能「ジェネレータ」初心者入門
PHP5.5新機能「ジェネレータ」初心者入門
kwatch
Deep learning 20170311
Deep learning 20170311
Hiroyuki Miyamoto
中教審答申おける小学校でのプログラミング教育に関する記述のまとめ
中教審答申おける小学校でのプログラミング教育に関する記述のまとめ
Kazuhiro Abe
アーカイブ(ズ)概論
アーカイブ(ズ)概論
Kiyohara Kazuyuki
TileMap-WebGIS
TileMap-WebGIS
IWASAKI NOBUSUKE
JUST WILD BEAT CLOUD WATCH COMMUNICATION
JUST WILD BEAT CLOUD WATCH COMMUNICATION
shuichi takahashi
4コマ漫画 Machine Learning 分析データを集めたかった話
4コマ漫画 Machine Learning 分析データを集めたかった話
esu ji
AWS Step Functions 実践
AWS Step Functions 実践
Shuji Kikuchi
Hyperoptとその周辺について
Hyperoptとその周辺について
Keisuke Hosaka
AWSでAPI Gatewayから非同期でLambdaを起動してS3にファイルアップロードしようとしたらハマった話。
AWSでAPI Gatewayから非同期でLambdaを起動してS3にファイルアップロードしようとしたらハマった話。
Takehiro Suemitsu
人工知能のための哲学塾 東洋哲学篇 第零夜 資料
人工知能のための哲学塾 東洋哲学篇 第零夜 資料
Youichiro Miyake
AWS LambdaとAPI Gatewayでサーバレスなシステム構築に踏み出してみる
AWS LambdaとAPI Gatewayでサーバレスなシステム構築に踏み出してみる
Takashi Makino
形態素解析も辞書も言語モデルもいらないend-to-end音声認識
形態素解析も辞書も言語モデルもいらないend-to-end音声認識
Tomoki Hayashi
技術文書を書く際の、心技体
技術文書を書く際の、心技体
Takahiro Kubo
開発ビギナーだけじゃない!インフラエンジニア & マネージャー にも知ってほしいテスト自動化と品質管理
開発ビギナーだけじゃない!インフラエンジニア & マネージャー にも知ってほしいテスト自動化と品質管理
慎一 古賀
Web API を気軽に使えるツールやサービスのご紹介
Web API を気軽に使えるツールやサービスのご紹介
CData Software Japan
貧乏人でも出来るお手軽docker
貧乏人でも出来るお手軽docker
Kenzo Nagahisa
Andere mochten auch
(20)
AWS Step FunctionとLambdaでディープラーニングの訓練を全自動化する
AWS Step FunctionとLambdaでディープラーニングの訓練を全自動化する
冴えないデータセットの育て方
冴えないデータセットの育て方
ごちうサーチ
ごちうサーチ
PHP5.5新機能「ジェネレータ」初心者入門
PHP5.5新機能「ジェネレータ」初心者入門
Deep learning 20170311
Deep learning 20170311
中教審答申おける小学校でのプログラミング教育に関する記述のまとめ
中教審答申おける小学校でのプログラミング教育に関する記述のまとめ
アーカイブ(ズ)概論
アーカイブ(ズ)概論
TileMap-WebGIS
TileMap-WebGIS
JUST WILD BEAT CLOUD WATCH COMMUNICATION
JUST WILD BEAT CLOUD WATCH COMMUNICATION
4コマ漫画 Machine Learning 分析データを集めたかった話
4コマ漫画 Machine Learning 分析データを集めたかった話
AWS Step Functions 実践
AWS Step Functions 実践
Hyperoptとその周辺について
Hyperoptとその周辺について
AWSでAPI Gatewayから非同期でLambdaを起動してS3にファイルアップロードしようとしたらハマった話。
AWSでAPI Gatewayから非同期でLambdaを起動してS3にファイルアップロードしようとしたらハマった話。
人工知能のための哲学塾 東洋哲学篇 第零夜 資料
人工知能のための哲学塾 東洋哲学篇 第零夜 資料
AWS LambdaとAPI Gatewayでサーバレスなシステム構築に踏み出してみる
AWS LambdaとAPI Gatewayでサーバレスなシステム構築に踏み出してみる
形態素解析も辞書も言語モデルもいらないend-to-end音声認識
形態素解析も辞書も言語モデルもいらないend-to-end音声認識
技術文書を書く際の、心技体
技術文書を書く際の、心技体
開発ビギナーだけじゃない!インフラエンジニア & マネージャー にも知ってほしいテスト自動化と品質管理
開発ビギナーだけじゃない!インフラエンジニア & マネージャー にも知ってほしいテスト自動化と品質管理
Web API を気軽に使えるツールやサービスのご紹介
Web API を気軽に使えるツールやサービスのご紹介
貧乏人でも出来るお手軽docker
貧乏人でも出来るお手軽docker
Ähnlich wie ディープラーニングをAWS LambdaとStep Functionで自動化する
GPUと戯れる
GPUと戯れる
Serverworks Co.,Ltd.
Halide, Darkroom - 並列化のためのソフトウェア・研究
Halide, Darkroom - 並列化のためのソフトウェア・研究
Yuichi Yoshida
マルチデバイス時代の高速化
マルチデバイス時代の高速化
Shin Takeuchi
コンソールゲームを世界展開してみた - JAWS DAYS 2015
コンソールゲームを世界展開してみた - JAWS DAYS 2015
Ryo Nakamaru
Automation with SoftLayer and Zabbix
Automation with SoftLayer and Zabbix
softlayerjp
スクレイピングその後
スクレイピングその後
Tomoki Hasegawa
JAWS-UG沖縄第1回勉強会 EBS/RDSがなくてもwrite massiveに耐えるDBの作り方
JAWS-UG沖縄第1回勉強会 EBS/RDSがなくてもwrite massiveに耐えるDBの作り方
Koichiro Nishijima
インフラエンジニアのスキルパターンを作ってみた話
インフラエンジニアのスキルパターンを作ってみた話
Ken SASAKI
[141004] cedec 2014 참관기 & 강연 리뷰 #1
[141004] cedec 2014 참관기 & 강연 리뷰 #1
MinGeun Park
おすすめインフラ! for スタートアップ
おすすめインフラ! for スタートアップ
Koichiro Sumi
Rdbms起点で考えると見えない世界 okuyama勉強会
Rdbms起点で考えると見えない世界 okuyama勉強会
Masakazu Muraoka
hbstudy#6LTyuzorock
hbstudy#6LTyuzorock
yuzorock
Serverless Meetup Japan Virtual #6
Serverless Meetup Japan Virtual #6
Toshiaki Aoike
DeNAがオンプレでこれからやろうとしてること - OpenStack最新情報セミナー 2015年12月
DeNAがオンプレでこれからやろうとしてること - OpenStack最新情報セミナー 2015年12月
VirtualTech Japan Inc.
20140411_JAWS-UG札幌
20140411_JAWS-UG札幌
Tomoya Ishida
2014年06月27日 社内LT -これからITコミュニティに入る皆さんへ-
2014年06月27日 社内LT -これからITコミュニティに入る皆さんへ-
Aya Komuro
ベンチャーCTO、AWSエバンジェリストを経て考える、クラウド時代に向き合うエンジニア像のこれから
ベンチャーCTO、AWSエバンジェリストを経て考える、クラウド時代に向き合うエンジニア像のこれから
Yasuhiro Horiuchi
Smart Tennis Lesson Serverless Design
Smart Tennis Lesson Serverless Design
Ryuji TAKEHARA
Jslug2 nagoya-shibata
Jslug2 nagoya-shibata
Naoki Shibata
俺のローカル開発環境 - MTDDC Meetup NAGOYA 2014
俺のローカル開発環境 - MTDDC Meetup NAGOYA 2014
taiju higashi
Ähnlich wie ディープラーニングをAWS LambdaとStep Functionで自動化する
(20)
GPUと戯れる
GPUと戯れる
Halide, Darkroom - 並列化のためのソフトウェア・研究
Halide, Darkroom - 並列化のためのソフトウェア・研究
マルチデバイス時代の高速化
マルチデバイス時代の高速化
コンソールゲームを世界展開してみた - JAWS DAYS 2015
コンソールゲームを世界展開してみた - JAWS DAYS 2015
Automation with SoftLayer and Zabbix
Automation with SoftLayer and Zabbix
スクレイピングその後
スクレイピングその後
JAWS-UG沖縄第1回勉強会 EBS/RDSがなくてもwrite massiveに耐えるDBの作り方
JAWS-UG沖縄第1回勉強会 EBS/RDSがなくてもwrite massiveに耐えるDBの作り方
インフラエンジニアのスキルパターンを作ってみた話
インフラエンジニアのスキルパターンを作ってみた話
[141004] cedec 2014 참관기 & 강연 리뷰 #1
[141004] cedec 2014 참관기 & 강연 리뷰 #1
おすすめインフラ! for スタートアップ
おすすめインフラ! for スタートアップ
Rdbms起点で考えると見えない世界 okuyama勉強会
Rdbms起点で考えると見えない世界 okuyama勉強会
hbstudy#6LTyuzorock
hbstudy#6LTyuzorock
Serverless Meetup Japan Virtual #6
Serverless Meetup Japan Virtual #6
DeNAがオンプレでこれからやろうとしてること - OpenStack最新情報セミナー 2015年12月
DeNAがオンプレでこれからやろうとしてること - OpenStack最新情報セミナー 2015年12月
20140411_JAWS-UG札幌
20140411_JAWS-UG札幌
2014年06月27日 社内LT -これからITコミュニティに入る皆さんへ-
2014年06月27日 社内LT -これからITコミュニティに入る皆さんへ-
ベンチャーCTO、AWSエバンジェリストを経て考える、クラウド時代に向き合うエンジニア像のこれから
ベンチャーCTO、AWSエバンジェリストを経て考える、クラウド時代に向き合うエンジニア像のこれから
Smart Tennis Lesson Serverless Design
Smart Tennis Lesson Serverless Design
Jslug2 nagoya-shibata
Jslug2 nagoya-shibata
俺のローカル開発環境 - MTDDC Meetup NAGOYA 2014
俺のローカル開発環境 - MTDDC Meetup NAGOYA 2014
ディープラーニングをAWS LambdaとStep Functionで自動化する
1.
AWS STEP FUNCTIONとLAMBDAで ディープラーニングの訓練を全自動化する Keita
Shimizu
2.
自己紹介 • 清水敬太 • 趣味:
釣りとかボードゲームとか • お仕事: IT系のサービス開発 (@通信系某社) • ここ数年で機械学習 (特にDeep Learning)を 趣味で触っています
3.
自己紹介 • 清水敬太 • 趣味:
釣りとかボードゲームとか • お仕事: IT系のサービス開発 (@通信系某社) • ここ数年で機械学習 (特にDeep Learning)を 趣味で触っています
4.
趣味 = 自腹
5.
今日のお話 「いかに小遣いの目減りを抑えるか」を巡る汗と涙の戦い なので、たぶん JAWSUG HPC部会のビジョン「クラウドでだれでもHPC」 に沿ったものだと思います..
6.
ディープラーニング 触ってて困ること その1
7.
GPU付きサーバが必須
8.
GPU付きサーバは安くない • スポット利用せずに普通に借りると月20万円とか(無理ゲー) • 入札制のAWSのスポットインスタンスを使うと だいぶ安いけど、無視できない価格
9.
無視できない価格 • 一台あたり一時間ごとにチロルチョコが 2 ~
3個買えるくらい(安いとき) 塵も積もれば、なので放置は避けたい
10.
しかも訓練時間が長い 半日とか1日とか普通 数日とかも
11.
訓練が終わったらサーバを ちゃんと削除したい だから
12.
ディープラーニング 触ってて困ること その2
13.
訓練済みデータの収集が めんどい
14.
一台ならSCPで数分でも
15.
いろんな条件で並列に 試してると取り出すだけで一仕事 しかも終わるタイミングバラバラだったりする
16.
しまいにはどのサーバがどの 条件かわからなくなる
17.
そしてまだ結果を 取り出してないサーバを消す
18.
訓練結果を管理しやすい 場所に集約したい だから あと訓練条件とかもちゃんとラベルしたい
19.
サーバレス! • サーバレスコンピューティングって多分こういうの • 必要な時にサーバを立ち上げて使い終わったら捨てる •
そのコントローラにもサーバを用いない • だから平時にはサーバを一台も管理せずに必要な時に だけサーバが出現するシステムを作れる • (最近バズワードになりつつあるらしい)
20.
AWSで使えるサーバレスな仕組み • AWS Lambda •
Node.js / Python / Java / C#のコードを登録 • AWS内で発生したイベントでフックして起 動(手動起動も可) • 各言語のAWS SDKを使えばAWSの操作を 自動化できる(Labmda専用のライブラリが あるわけではない) • 1Labmdaあたり実行時間は60秒まで => 長い状態遷移を実行するのは向かない
21.
AWSで使えるサーバレスな仕組み • AWS Step
Functions • セルオートマトン的な状態遷移を定義 • 条件分岐や並列処理も可 • 個々のStateでの処理はAWS Lambda起動 して処理 / 結果受取する • 状態の遷移状況を可視的に確認可能 • 長時間 / 状態遷移判断の伴う処理を コントロール可能 • ピタゴラスイッチみたいで面白い
22.
こういうものを作りたい 1. 各実行ごとに専用のS3バケットを作成 2. スポットインスタンスに入札 3.
インスタンスを落札できたら SNS通知 4. 訓練データ等をデータバケットからダウンロード 0.8 $ / h 5. 訓練の中間物 / 成果物を随時S3にアップロード 6. 完了したらAWS SNS (メール or SMS)で通 知 一定時間経過後にインスタンスを削除する New
23.
作った S3バケットを作る Spot Instanceをリクエスト 入札が通ったか判定 結果を通知 訓練が完了しているか判定 待機 タスク完了を通知 一定時間後、インスタンス削除
24.
実行時 • こんな感じのjsonをInputにしてStep Functionを起動する •
実行名(=S3バケット名) • 訓練対象のリポジトリ • 入力 / 出力ディレクトリ • 訓練前のデータ取得等準備に必要なコマンド • 訓練実行コマンド
25.
実行時 こうやって…
26.
実行時 こう
27.
実行時 ・実行はWebで確認できる ・結果はS3バケットにどんどん上がってくる
28.
喜びの声 • 実行を仕掛けておけば、あとは安心して 眠れる • 出先でもスマホで進捗を確認できる(S3ブラウザ ) •
いろんなハイパーパラメータ設定でたくさん 並列実行しても安心 • これを利用するために機械学習側の コードに手を入れる必要はない • つまりたぶんほとんどのバッチ処理に 流用できる
29.
その他 • 細かい話はブログにかきました http://mizti.hatenablog.com/entry/deeplearningwithawsst epfunction • コード https://github.com/mizti/aws_stepfunc_chainer •
イラストはいらすとやさんからお借りしました http://www.irasutoya.com/
Jetzt herunterladen