Suche senden
Hochladen
Chainerを使ってプロダクション環境上で推論するには
•
Als PPTX, PDF herunterladen
•
2 gefällt mir
•
2,245 views
Keisuke Umezawa
Folgen
ChainerからPyTorchへのマイグレーション方法について話します。また、今後Chainerをプロダクションで使うときのベストプラクティスを紹介します。
Weniger lesen
Mehr lesen
Technologie
Melden
Teilen
Melden
Teilen
1 von 19
Jetzt herunterladen
Empfohlen
Gradleスクリプトを読み解く
Gradleスクリプトを読み解く
Shoichi Matsuda
祝 Azureインテグレーションに App Service追加
祝 Azureインテグレーションに App Service追加
Koichi Ota
K8s(gke)をプロダクトに投入するまでの話
K8s(gke)をプロダクトに投入するまでの話
Koki Shibata
Rancher2.0とGKE
Rancher2.0とGKE
cyberblack28 Ichikawa
Rancher2.0とGKE
Rancher2.0とGKE
cyberblack28 Ichikawa
Google SpreadSheetでtwitter bot作ったよ
Google SpreadSheetでtwitter bot作ったよ
Keisuke Oohata
20180628 chainer on_colaboratory
20180628 chainer on_colaboratory
Keisuke Umezawa
Chainer Contribution Guide
Chainer Contribution Guide
Kenta Oono
Empfohlen
Gradleスクリプトを読み解く
Gradleスクリプトを読み解く
Shoichi Matsuda
祝 Azureインテグレーションに App Service追加
祝 Azureインテグレーションに App Service追加
Koichi Ota
K8s(gke)をプロダクトに投入するまでの話
K8s(gke)をプロダクトに投入するまでの話
Koki Shibata
Rancher2.0とGKE
Rancher2.0とGKE
cyberblack28 Ichikawa
Rancher2.0とGKE
Rancher2.0とGKE
cyberblack28 Ichikawa
Google SpreadSheetでtwitter bot作ったよ
Google SpreadSheetでtwitter bot作ったよ
Keisuke Oohata
20180628 chainer on_colaboratory
20180628 chainer on_colaboratory
Keisuke Umezawa
Chainer Contribution Guide
Chainer Contribution Guide
Kenta Oono
20180221 chainer on_colaboratory_at_gdcjp
20180221 chainer on_colaboratory_at_gdcjp
Hirokuni Uchida
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Junichi Noda
20180728 chainer on_colaboratory
20180728 chainer on_colaboratory
Keisuke Umezawa
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Cloudera Japan
PTLのお仕事とリリースパイプラインの裏側
PTLのお仕事とリリースパイプラインの裏側
masahito12
Vue Fes Japan Online 2022 スポンサーセッション
Vue Fes Japan Online 2022 スポンサーセッション
Kazuhiro Kobayashi
進化するChainer
進化するChainer
Yuya Unno
Fun tech14-alibaba cloud api gateway-swagger
Fun tech14-alibaba cloud api gateway-swagger
AnzaiKumiko
20190216 chainer handson_cource02
20190216 chainer handson_cource02
Keisuke Umezawa
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
NTT DATA Technology & Innovation
Azure MediaServices 最新情報160924
Azure MediaServices 最新情報160924
Takanori Tsuruta
Kubernetes、Flannel、CNIでWindows Container Clusterオーケストレーション
Kubernetes、Flannel、CNIでWindows Container Clusterオーケストレーション
Takashi Kanai
2015 10 24_spark_osc15tk
2015 10 24_spark_osc15tk
Junichi Noda
xDev2010 早い安い新しい「Fast IT」を使いこなせ! クラウドを楽しめるエンジニアの条件
xDev2010 早い安い新しい「Fast IT」を使いこなせ! クラウドを楽しめるエンジニアの条件
Yusuke Suzuki
Prometheus monitoring from outside of Kubernetes 〜どうして我々はKubernetes上のPromet...
Prometheus monitoring from outside of Kubernetes 〜どうして我々はKubernetes上のPromet...
whywaita
研究室のSVNをGitに移行した話
研究室のSVNをGitに移行した話
nemumu
会社にGitHub Enterpriseを導入してみた話
会社にGitHub Enterpriseを導入してみた話
Shuji Yamada
2019年 これからの人向け 超速習!流体解析ツールボックスOpenFOAM
2019年 これからの人向け 超速習!流体解析ツールボックスOpenFOAM
mmer547
高速!Clojure Web 開発入門
高速!Clojure Web 開発入門
Kazuki Tsutsumi
MuleアプリケーションのCI/CD
MuleアプリケーションのCI/CD
MuleSoft Meetup Tokyo
C2CマーケットプレイスでのMLの応用
C2CマーケットプレイスでのMLの応用
Keisuke Umezawa
20190125 Minecraftで深層強化学習 ハンズオン
20190125 Minecraftで深層強化学習 ハンズオン
Keisuke Umezawa
Weitere ähnliche Inhalte
Ähnlich wie Chainerを使ってプロダクション環境上で推論するには
20180221 chainer on_colaboratory_at_gdcjp
20180221 chainer on_colaboratory_at_gdcjp
Hirokuni Uchida
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Junichi Noda
20180728 chainer on_colaboratory
20180728 chainer on_colaboratory
Keisuke Umezawa
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Cloudera Japan
PTLのお仕事とリリースパイプラインの裏側
PTLのお仕事とリリースパイプラインの裏側
masahito12
Vue Fes Japan Online 2022 スポンサーセッション
Vue Fes Japan Online 2022 スポンサーセッション
Kazuhiro Kobayashi
進化するChainer
進化するChainer
Yuya Unno
Fun tech14-alibaba cloud api gateway-swagger
Fun tech14-alibaba cloud api gateway-swagger
AnzaiKumiko
20190216 chainer handson_cource02
20190216 chainer handson_cource02
Keisuke Umezawa
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
NTT DATA Technology & Innovation
Azure MediaServices 最新情報160924
Azure MediaServices 最新情報160924
Takanori Tsuruta
Kubernetes、Flannel、CNIでWindows Container Clusterオーケストレーション
Kubernetes、Flannel、CNIでWindows Container Clusterオーケストレーション
Takashi Kanai
2015 10 24_spark_osc15tk
2015 10 24_spark_osc15tk
Junichi Noda
xDev2010 早い安い新しい「Fast IT」を使いこなせ! クラウドを楽しめるエンジニアの条件
xDev2010 早い安い新しい「Fast IT」を使いこなせ! クラウドを楽しめるエンジニアの条件
Yusuke Suzuki
Prometheus monitoring from outside of Kubernetes 〜どうして我々はKubernetes上のPromet...
Prometheus monitoring from outside of Kubernetes 〜どうして我々はKubernetes上のPromet...
whywaita
研究室のSVNをGitに移行した話
研究室のSVNをGitに移行した話
nemumu
会社にGitHub Enterpriseを導入してみた話
会社にGitHub Enterpriseを導入してみた話
Shuji Yamada
2019年 これからの人向け 超速習!流体解析ツールボックスOpenFOAM
2019年 これからの人向け 超速習!流体解析ツールボックスOpenFOAM
mmer547
高速!Clojure Web 開発入門
高速!Clojure Web 開発入門
Kazuki Tsutsumi
MuleアプリケーションのCI/CD
MuleアプリケーションのCI/CD
MuleSoft Meetup Tokyo
Ähnlich wie Chainerを使ってプロダクション環境上で推論するには
(20)
20180221 chainer on_colaboratory_at_gdcjp
20180221 chainer on_colaboratory_at_gdcjp
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Spark streamingを使用したtwitter解析によるレコメンドサービス例
20180728 chainer on_colaboratory
20180728 chainer on_colaboratory
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
PTLのお仕事とリリースパイプラインの裏側
PTLのお仕事とリリースパイプラインの裏側
Vue Fes Japan Online 2022 スポンサーセッション
Vue Fes Japan Online 2022 スポンサーセッション
進化するChainer
進化するChainer
Fun tech14-alibaba cloud api gateway-swagger
Fun tech14-alibaba cloud api gateway-swagger
20190216 chainer handson_cource02
20190216 chainer handson_cource02
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
Azure MediaServices 最新情報160924
Azure MediaServices 最新情報160924
Kubernetes、Flannel、CNIでWindows Container Clusterオーケストレーション
Kubernetes、Flannel、CNIでWindows Container Clusterオーケストレーション
2015 10 24_spark_osc15tk
2015 10 24_spark_osc15tk
xDev2010 早い安い新しい「Fast IT」を使いこなせ! クラウドを楽しめるエンジニアの条件
xDev2010 早い安い新しい「Fast IT」を使いこなせ! クラウドを楽しめるエンジニアの条件
Prometheus monitoring from outside of Kubernetes 〜どうして我々はKubernetes上のPromet...
Prometheus monitoring from outside of Kubernetes 〜どうして我々はKubernetes上のPromet...
研究室のSVNをGitに移行した話
研究室のSVNをGitに移行した話
会社にGitHub Enterpriseを導入してみた話
会社にGitHub Enterpriseを導入してみた話
2019年 これからの人向け 超速習!流体解析ツールボックスOpenFOAM
2019年 これからの人向け 超速習!流体解析ツールボックスOpenFOAM
高速!Clojure Web 開発入門
高速!Clojure Web 開発入門
MuleアプリケーションのCI/CD
MuleアプリケーションのCI/CD
Mehr von Keisuke Umezawa
C2CマーケットプレイスでのMLの応用
C2CマーケットプレイスでのMLの応用
Keisuke Umezawa
20190125 Minecraftで深層強化学習 ハンズオン
20190125 Minecraftで深層強化学習 ハンズオン
Keisuke Umezawa
20181215 Chainer User Group 「chug」のご紹介
20181215 Chainer User Group 「chug」のご紹介
Keisuke Umezawa
20181214 Minecraftで深層強化学習 ハンズオン
20181214 Minecraftで深層強化学習 ハンズオン
Keisuke Umezawa
20181201 chainer handson_cource01
20181201 chainer handson_cource01
Keisuke Umezawa
20180727 Deep Learningの未来と Chainerの貢献
20180727 Deep Learningの未来と Chainerの貢献
Keisuke Umezawa
大企業 vs ベンチャー
大企業 vs ベンチャー
Keisuke Umezawa
Chainer User Group 「chug」
Chainer User Group 「chug」
Keisuke Umezawa
Start to Contribute to Chainer!
Start to Contribute to Chainer!
Keisuke Umezawa
プログラミング言語として考えたTensor flow
プログラミング言語として考えたTensor flow
Keisuke Umezawa
Rustを支える技術
Rustを支える技術
Keisuke Umezawa
Neural Models for Information Retrieval
Neural Models for Information Retrieval
Keisuke Umezawa
2017-05-30_deepleaning-and-chainer
2017-05-30_deepleaning-and-chainer
Keisuke Umezawa
Mehr von Keisuke Umezawa
(13)
C2CマーケットプレイスでのMLの応用
C2CマーケットプレイスでのMLの応用
20190125 Minecraftで深層強化学習 ハンズオン
20190125 Minecraftで深層強化学習 ハンズオン
20181215 Chainer User Group 「chug」のご紹介
20181215 Chainer User Group 「chug」のご紹介
20181214 Minecraftで深層強化学習 ハンズオン
20181214 Minecraftで深層強化学習 ハンズオン
20181201 chainer handson_cource01
20181201 chainer handson_cource01
20180727 Deep Learningの未来と Chainerの貢献
20180727 Deep Learningの未来と Chainerの貢献
大企業 vs ベンチャー
大企業 vs ベンチャー
Chainer User Group 「chug」
Chainer User Group 「chug」
Start to Contribute to Chainer!
Start to Contribute to Chainer!
プログラミング言語として考えたTensor flow
プログラミング言語として考えたTensor flow
Rustを支える技術
Rustを支える技術
Neural Models for Information Retrieval
Neural Models for Information Retrieval
2017-05-30_deepleaning-and-chainer
2017-05-30_deepleaning-and-chainer
Kürzlich hochgeladen
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
CRI Japan, Inc.
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
CRI Japan, Inc.
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
WSO2
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
Toru Tamaki
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
sn679259
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
Toru Tamaki
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
atsushi061452
Kürzlich hochgeladen
(10)
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
Chainerを使ってプロダクション環境上で推論するには
1.
Chainerを使ってプロダクション環境上で 推論するには ML@Loft #9 Preferred Networks
/ Chainer Evangelist Keisuke Umezawa
2.
自己紹介 2 • 梅澤 慶介 •
Engineering Manager @mercari • Chainer Evangelist @Preferred Networks • Twitter:@kumezawa_ • GitHub:@keisuke-umezawa
3.
Agenda 1. Chainer/CuPyの紹介 2. プロダクション環境上の推論 3
4.
Agenda 1. Chainer/CuPyの紹介 2. プロダクション環境上の推論 4
5.
Chainerの開発終了の発表 5 https://preferred.jp/ja/news/pr20191205/
6.
Chainerの開発中止 ● 12/5にChainerの開発終了を発表 ● Chainerファミリー(ChainerCV,
Chainer Chemistry, ChainerUI, ChainerRL)も終了 ● CuPyは引き続き開発を継続 6 https://chainer.org/announcement/2019/12/05/released-v7-ja.html
7.
Agenda 1. Chainer →
PyTorchへのマイグレーション 2. プロダクション環境上の推論 7
8.
Chainer → PyTorchへのマイグレーション
9.
PFNによるChainerからPyTorch移行のサポート 9 ● 移行サポートドキュメント ○ https://chainer.github.io/migration-guide/ ●
移行サポートライブラリ ○ chainer-pytorch-migration (cpm): https://github.com/chainer/chainer-pytorch-migration
10.
Chainer と PyTorchの モジュールの対応関係 10 ●
Optimizerまでの役割は、 PyTorchが対応している ● Updater・Trainerの役割は、 Igniteが対応している
11.
移行手順 11 ● 以下の手順で移行することをおすすめします 1. 訓練用スクリプト(optimizer
/ updater / evaluator ...) ● このとき、cpm.LinkAsTorchModelでモデルをPyTorch用に変換する必要がある 1. Dataset / preprocessing 2. モデル定義
12.
移行例 12 ● Qiitaに実際に移行した記事を書いてみましたので参照下さい https://qiita.com/keisuke-umezawa/items/35baf525794ee89875e1
13.
プロダクション環境上の推論
14.
Chainerをプロダクションで使うときの選択肢 14 1. Chainer形式でモデルを保存し、Chainerで推論する 2. ONNX形式でモデルを保存し、ONNX
Runtime等で推論する 3. ...
15.
ONNX とは 15 • Open
Neural Network Exchangeの略で、Deep Learningモデ ルを表現するための共通フォーマット • 共通フォーマットでモデルの保存・読み込みができるので、 異なるフレームワーク・ライブラリで実行可能になる Python C# C/C++
16.
今後どちらで実装するべきか 16 1. Chainer形式でモデルを保存し、Chainerで推論する 2. ONNX形式でモデルを保存し、ONNX
Runtime等で推論する 3. ...
17.
ONNX形式を採用するpros/cons 17 • pros • 推論速度が速い •
python以外の言語でも実行できる • モデルを変更しても、実装を変更する必要がない • フレームワークを変更しても、実装を変更する必要がない • cons • 別途onnx runtime等のライブラリを使う必要がある
18.
詳しい資料 18 • onnx-chainer • https://docs.chainer.org/en/stable/onnx_chainer/introduction/index.html #installation •
Qiita記事:機械学習モデルのServingとONNX Runtime Serverについて • https://qiita.com/lain21/items/4d68ee30b7fd497453d4
Jetzt herunterladen