Suche senden
Hochladen
最近思った機械学習(PyTorch)のベストプラクティス
•
2 gefällt mir
•
1,913 views
M
Masato Fujitake
Folgen
Stapy #51のLTで発表
Weniger lesen
Mehr lesen
Ingenieurwesen
Melden
Teilen
Melden
Teilen
1 von 16
Jetzt herunterladen
Downloaden Sie, um offline zu lesen
Empfohlen
全力解説!Transformer
全力解説!Transformer
Arithmer Inc.
強化学習の基礎と深層強化学習(東京大学 松尾研究室 深層強化学習サマースクール講義資料)
強化学習の基礎と深層強化学習(東京大学 松尾研究室 深層強化学習サマースクール講義資料)
Shota Imai
機械学習で泣かないためのコード設計
機械学習で泣かないためのコード設計
Takahiro Kubo
[DL輪読会]Deep Neural Networks as Gaussian Processes
[DL輪読会]Deep Neural Networks as Gaussian Processes
Deep Learning JP
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Preferred Networks
ポーカーAIの最新動向 20171031
ポーカーAIの最新動向 20171031
Jun Okumura
【LT資料】 Neural Network 素人なんだけど何とかご機嫌取りをしたい
【LT資料】 Neural Network 素人なんだけど何とかご機嫌取りをしたい
Takuji Tahara
最近のKaggleに学ぶテーブルデータの特徴量エンジニアリング
最近のKaggleに学ぶテーブルデータの特徴量エンジニアリング
mlm_kansai
Empfohlen
全力解説!Transformer
全力解説!Transformer
Arithmer Inc.
強化学習の基礎と深層強化学習(東京大学 松尾研究室 深層強化学習サマースクール講義資料)
強化学習の基礎と深層強化学習(東京大学 松尾研究室 深層強化学習サマースクール講義資料)
Shota Imai
機械学習で泣かないためのコード設計
機械学習で泣かないためのコード設計
Takahiro Kubo
[DL輪読会]Deep Neural Networks as Gaussian Processes
[DL輪読会]Deep Neural Networks as Gaussian Processes
Deep Learning JP
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Preferred Networks
ポーカーAIの最新動向 20171031
ポーカーAIの最新動向 20171031
Jun Okumura
【LT資料】 Neural Network 素人なんだけど何とかご機嫌取りをしたい
【LT資料】 Neural Network 素人なんだけど何とかご機嫌取りをしたい
Takuji Tahara
最近のKaggleに学ぶテーブルデータの特徴量エンジニアリング
最近のKaggleに学ぶテーブルデータの特徴量エンジニアリング
mlm_kansai
分散学習のあれこれ~データパラレルからモデルパラレルまで~
分散学習のあれこれ~データパラレルからモデルパラレルまで~
Hideki Tsunashima
モデル高速化百選
モデル高速化百選
Yusuke Uchida
レコメンドアルゴリズムの基本と周辺知識と実装方法
レコメンドアルゴリズムの基本と周辺知識と実装方法
Takeshi Mikami
研究室における研究・実装ノウハウの共有
研究室における研究・実装ノウハウの共有
Naoaki Okazaki
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
Yuta Kikuchi
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII
cvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tips
cvpaper. challenge
Swin Transformer (ICCV'21 Best Paper) を完璧に理解する資料
Swin Transformer (ICCV'21 Best Paper) を完璧に理解する資料
Yusuke Uchida
SSII2022 [OS3-02] Federated Learningの基礎と応用
SSII2022 [OS3-02] Federated Learningの基礎と応用
SSII
強化学習 DQNからPPOまで
強化学習 DQNからPPOまで
harmonylab
研究分野をサーベイする
研究分野をサーベイする
Takayuki Itoh
実装レベルで学ぶVQVAE
実装レベルで学ぶVQVAE
ぱんいち すみもと
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
RyuichiKanoh
TensorFlowで逆強化学習
TensorFlowで逆強化学習
Mitsuhisa Ohta
多様な強化学習の概念と課題認識
多様な強化学習の概念と課題認識
佑 甲野
強化学習その2
強化学習その2
nishio
Prophet入門【Python編】Facebookの時系列予測ツール
Prophet入門【Python編】Facebookの時系列予測ツール
hoxo_m
[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent
[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent
Deep Learning JP
機械学習モデルの判断根拠の説明
機械学習モデルの判断根拠の説明
Satoshi Hara
モデルではなく、データセットを蒸留する
モデルではなく、データセットを蒸留する
Takahiro Kubo
Python エンジニアの作り方 2011.08 #pyconjp
Python エンジニアの作り方 2011.08 #pyconjp
Takeshi Komiya
Pythonを使った機械学習の学習
Pythonを使った機械学習の学習
Kimikazu Kato
Weitere ähnliche Inhalte
Was ist angesagt?
分散学習のあれこれ~データパラレルからモデルパラレルまで~
分散学習のあれこれ~データパラレルからモデルパラレルまで~
Hideki Tsunashima
モデル高速化百選
モデル高速化百選
Yusuke Uchida
レコメンドアルゴリズムの基本と周辺知識と実装方法
レコメンドアルゴリズムの基本と周辺知識と実装方法
Takeshi Mikami
研究室における研究・実装ノウハウの共有
研究室における研究・実装ノウハウの共有
Naoaki Okazaki
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
Yuta Kikuchi
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII
cvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tips
cvpaper. challenge
Swin Transformer (ICCV'21 Best Paper) を完璧に理解する資料
Swin Transformer (ICCV'21 Best Paper) を完璧に理解する資料
Yusuke Uchida
SSII2022 [OS3-02] Federated Learningの基礎と応用
SSII2022 [OS3-02] Federated Learningの基礎と応用
SSII
強化学習 DQNからPPOまで
強化学習 DQNからPPOまで
harmonylab
研究分野をサーベイする
研究分野をサーベイする
Takayuki Itoh
実装レベルで学ぶVQVAE
実装レベルで学ぶVQVAE
ぱんいち すみもと
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
RyuichiKanoh
TensorFlowで逆強化学習
TensorFlowで逆強化学習
Mitsuhisa Ohta
多様な強化学習の概念と課題認識
多様な強化学習の概念と課題認識
佑 甲野
強化学習その2
強化学習その2
nishio
Prophet入門【Python編】Facebookの時系列予測ツール
Prophet入門【Python編】Facebookの時系列予測ツール
hoxo_m
[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent
[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent
Deep Learning JP
機械学習モデルの判断根拠の説明
機械学習モデルの判断根拠の説明
Satoshi Hara
モデルではなく、データセットを蒸留する
モデルではなく、データセットを蒸留する
Takahiro Kubo
Was ist angesagt?
(20)
分散学習のあれこれ~データパラレルからモデルパラレルまで~
分散学習のあれこれ~データパラレルからモデルパラレルまで~
モデル高速化百選
モデル高速化百選
レコメンドアルゴリズムの基本と周辺知識と実装方法
レコメンドアルゴリズムの基本と周辺知識と実装方法
研究室における研究・実装ノウハウの共有
研究室における研究・実装ノウハウの共有
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
cvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tips
Swin Transformer (ICCV'21 Best Paper) を完璧に理解する資料
Swin Transformer (ICCV'21 Best Paper) を完璧に理解する資料
SSII2022 [OS3-02] Federated Learningの基礎と応用
SSII2022 [OS3-02] Federated Learningの基礎と応用
強化学習 DQNからPPOまで
強化学習 DQNからPPOまで
研究分野をサーベイする
研究分野をサーベイする
実装レベルで学ぶVQVAE
実装レベルで学ぶVQVAE
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
TensorFlowで逆強化学習
TensorFlowで逆強化学習
多様な強化学習の概念と課題認識
多様な強化学習の概念と課題認識
強化学習その2
強化学習その2
Prophet入門【Python編】Facebookの時系列予測ツール
Prophet入門【Python編】Facebookの時系列予測ツール
[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent
[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent
機械学習モデルの判断根拠の説明
機械学習モデルの判断根拠の説明
モデルではなく、データセットを蒸留する
モデルではなく、データセットを蒸留する
Ähnlich wie 最近思った機械学習(PyTorch)のベストプラクティス
Python エンジニアの作り方 2011.08 #pyconjp
Python エンジニアの作り方 2011.08 #pyconjp
Takeshi Komiya
Pythonを使った機械学習の学習
Pythonを使った機械学習の学習
Kimikazu Kato
S08 t0 orientation
S08 t0 orientation
Takeshi Akutsu
Why python
Why python
Mikio Kubo
From Scratch, let's start Deep Learning with Python (plus Text Processing, pr...
From Scratch, let's start Deep Learning with Python (plus Text Processing, pr...
Kiyoshi Ogawa
Pythonで自動化した話1
Pythonで自動化した話1
Masato Fujitake
Why python
Why python
Mikio Kubo
Pythonでターミナルに画像表示
Pythonでターミナルに画像表示
Masato Fujitake
弁理士が知っておきたいPython①
弁理士が知っておきたいPython①
Tajima Ryosuke
Python界隈の翻訳プロジェクト
Python界隈の翻訳プロジェクト
Tetsuya Morimoto
20230216_Python機械学習プログラミング.pdf
20230216_Python機械学習プログラミング.pdf
Shintaro Fukushima
GBDC 勉強会 #1 Python を用いたツール作成工数の最小化
GBDC 勉強会 #1 Python を用いたツール作成工数の最小化
Yutaka Kato
S06 t4 wrapup
S06 t4 wrapup
Takeshi Akutsu
正しいプログラミング言語の覚え方
正しいプログラミング言語の覚え方
Kimikazu Kato
210526 Power Automate Desktop Python
210526 Power Automate Desktop Python
Takuya Nishimoto
C言語講習会資料(前半)
C言語講習会資料(前半)
Yuki Sako
Pythonとベイズ統計
Pythonとベイズ統計
Hirofumi Watanabe
ゼロから学ぶPython勉強会
ゼロから学ぶPython勉強会
sekikazu
Python入門者の集い #6 Lightning Talk
Python入門者の集い #6 Lightning Talk
Katayanagi Nobuko
「Python 機械学習プログラミング」の挫折しない読み方
「Python 機械学習プログラミング」の挫折しない読み方
Hiroki Yamamoto
Ähnlich wie 最近思った機械学習(PyTorch)のベストプラクティス
(20)
Python エンジニアの作り方 2011.08 #pyconjp
Python エンジニアの作り方 2011.08 #pyconjp
Pythonを使った機械学習の学習
Pythonを使った機械学習の学習
S08 t0 orientation
S08 t0 orientation
Why python
Why python
From Scratch, let's start Deep Learning with Python (plus Text Processing, pr...
From Scratch, let's start Deep Learning with Python (plus Text Processing, pr...
Pythonで自動化した話1
Pythonで自動化した話1
Why python
Why python
Pythonでターミナルに画像表示
Pythonでターミナルに画像表示
弁理士が知っておきたいPython①
弁理士が知っておきたいPython①
Python界隈の翻訳プロジェクト
Python界隈の翻訳プロジェクト
20230216_Python機械学習プログラミング.pdf
20230216_Python機械学習プログラミング.pdf
GBDC 勉強会 #1 Python を用いたツール作成工数の最小化
GBDC 勉強会 #1 Python を用いたツール作成工数の最小化
S06 t4 wrapup
S06 t4 wrapup
正しいプログラミング言語の覚え方
正しいプログラミング言語の覚え方
210526 Power Automate Desktop Python
210526 Power Automate Desktop Python
C言語講習会資料(前半)
C言語講習会資料(前半)
Pythonとベイズ統計
Pythonとベイズ統計
ゼロから学ぶPython勉強会
ゼロから学ぶPython勉強会
Python入門者の集い #6 Lightning Talk
Python入門者の集い #6 Lightning Talk
「Python 機械学習プログラミング」の挫折しない読み方
「Python 機械学習プログラミング」の挫折しない読み方
最近思った機械学習(PyTorch)のベストプラクティス
1.
最近思った機械学習(PyTorch) のベストプラクティス 1 2019年11月13日 みんなのPython勉強会 #51 Masato Fujitake(@Swall0wTech)
2.
自己紹介 2 名前: つばめ (Masato
FUJITAKE) Twitter : @Swall0wTech 専攻:Computer Vision(元ロボティクス 言語:c言語、C++,アセンブリ… Python:画像処理、機械学習等
3.
深層学習を始めて早4,5年... プロトタイプの作成に楽なPyTorchに行き着 いた... 3
4.
PyTorchとは ・Python向けのオープンソース機械学習ライブラリ (Tensorflowとの2大巨頭フレームワークの1つ) ・FacebookのAI研究チームと大学が開発 ・研究領域から開発されているので,最新の論文の実装が多く公開されている. 4
5.
リポジトリの数がだいぶ多くなった https://paperswithcode.com/trends 5
6.
深層学習研究の課題 •モデル以外の実装が多く大変 •訓練ループ •評価 •ロギング •実験管理が大変 •何のパラメータ変更した時の結果なのか •実験変更時の比較 6 PyTorch lightning Comet.ml
7.
実装の簡素化(PyTorch-lightning) PyTorchでの開発スピードを爆速にしてくれる! 7 青いところの領域だけを 実装すれば,後はよしな にやってくれる! • データセットアップ • モデル •
サンプリング • 1バッチあたりの訓練 • 1バッチあたりの評価 • 評価終わりの処理
8.
シンプル例 class CoolSystem(pl.LightningModule): def __init__(self): super(CoolSystem,
self).__init__() # not the best model... self.l1 = torch.nn.Linear(28 * 28, 10) def forward(self,x): return torch.relu(self.l1(x.view(x.size(0),-1))) def training_step(self,batch,batch_nb): # REQUIRED x, y = batch y_hat = self.forward(x) loss =F.cross_entropy(y_hat, y) tensorboard_logs = {'train_loss':loss} return {'loss':loss,'log':tensorboard_logs} @pl.data_loader def train_dataloader(self): # REQUIRED return DataLoader( MNIST(os.getcwd(), train=True, download=True, transform=transforms.ToTensor()), batch_size=32) 8 from pytorch_lightning import Trainer model = CoolSystem() # most basic trainer, uses good defaults trainer = Trainer() trainer.fit(model)
9.
ロギングとかも勝手にやってくれる 9
10.
おすすめ機能 •Trainerにあるデバッグ機能 •Train, Val, Testを1バッチのみ ループしてくれる •16bit
Mixed-precisionで高速化 10 # DEFAULT trainer = Trainer(fast_dev_run=True)
11.
実験管理を楽に 実験では1つづつ要素を変えて, 何が影響するのかを確認する. →変更ごとに実験管理が必要 11 以前はネ申エクエルで管理していた!!
12.
今はComet.mlにお世話に 機械学習のGithub化 12
13.
何ができるのか •差分が取れる •自動でロギングされる 13
14.
2つの実験の比較 14
15.
使い方 既存のコードに数行付け足すだけ 15
16.
まとめ 深層学習開発での課題 →ツールに頼りましょう! •モデル以外の実装が大変 •PyTorch-lightning •実験管理が大変 •Comet.ml •似たようなものにmlflowもある 16
Jetzt herunterladen