SlideShare ist ein Scribd-Unternehmen logo
1 von 42
Downloaden Sie, um offline zu lesen
機械学習・ディープラーニングの実装を学ぶ方法
電通国際情報サービス(ISID)
X(クロス)イノベーション本部
AIトランスフォーメーションセンター
小川 雄太郎
理系ナビ DLエンジニアトレーニングプログラム(2021年2月25日)
2
本スライドの目的:
・ディープラーニングの基本的知識(日本ディープラーニング協会G検定相当)
・ディープラーニングがどのように実装されているのか、CNNやRNNの基本的知識
(日本ディープラーニング協会E資格相当)
・Pythonの基本的なプログラミングスキル(日本ディープラーニング協会E資格相当)
を取得されたみなさまへ、今後の学習方法の一例を、発表者の経験を振り返りながら紹介
目次:
1. 発表者の紹介
2. 機械学習・ディープラーニングの実装を学ぶ方法
3. その他、学ぶと良いITスキル
免責事項:本スライドの内容は、発表者の所属するいかなる機関の公式見解でもなく、発表者の私見であり、本
スライドの責任は発表者に帰属します。
発表者の紹介
4
小川 雄太郎
出身:1986年生まれ、兵庫県西宮市出身
経歴:理論神経科学の分野で博士号を取得、ポスドク後、ISIDに入社
業務:電通国際情報サービス(ISID)AIトランスフォーメーションセン
ターの製品開発グループのGrリーダーです
AI製品の自社開発および、様々な業界の企業様のAI系IT案件のリード
兼職:日本ディープラーニング協会 委員(G検定等の推進など) 、
早稲田大学 非常勤講師、執筆業
出版:
詳細:https://github.com/YutaroOgawa/about_me
Twitter:https://twitter.com/ISID_AI_team
5
電通
1975年に創業
電通グループのIT集団(SIer)
GE(General Electric
Company)
電通国際情報サービス(ISID)
6
事業内容で電通向けは1/4です。
その他、金融、製造、ビジネスバックオフィス系(人事・会計等)事業
私は
ここ クロスイノベーション本部
・オープンイノベーションラボ ・AIトランスフォーメーションセンター
・エンタープライズxRセンター ・UXデザインセンター など
7
https://isid-ai.jp/
電通国際情報サービス(ISID)AIトランスフォーメーションセンター
機械学習・ディープラーニングの実装を学ぶ方法
9
私がこれまで学習してきた流れ、および21年2月時点のおすすめ手法
[1] 現在、私はアカデミック分野(脳科学)からIT業界に入り、4年目の終わりです
[2] もともとAI分野がやりたいと入社したわけではなく、たまたまAIを推進する部署に
配属されました(ポスドクから新卒で入社し、1年目夏に配属されました)
[3] 新卒で入社したことから分かるように、4年前の入社時のITスキルはそれほど高くは
なかったです。弊社の新人標準レベル
[4] 入社後にAIを推進する部署に配属が決まったので、それからAIやITを自己学習しま
した。その自己学習の様子、流れを紹介します
10
機械学習・ディープラーニング実装の学び方 のおすすめ
[1] まずは何でも良いので、DLを活用したアプリやサービスっぽい、自分が楽しいもの
を作ってみよう
[2] 機械学習ライブラリscikit-learnを一通り勉強しよう
[3] ディープラーニングライブラリ(TensorFlow2 or PyTorch)を一通り勉強しよう
[4] Kaggleでの実践形式にも挑戦しよう
11
その1:何でも良いからディープラーニングのアプリを作ってみる
「ディープラーニング・スカウター」(試作機1号)を作成(17年:1年目夏)
- ドラゴンボールのキャラクターの顔を認識し、画像分類するCNNモデル
- 詳細解説(http://neuro-educator.com/dbscouter/)
動画(http://neuro-educator.com/wp-content/uploads/2017/08/scouter_DB-1.mp4?_=1)
- この例はデスクトップアプリにしていますが、
最初はJupyterNotebookで動作するものを
作るのが良いでしょう
12
その1:何でも良いからディープラーニングのアプリを作ってみる
最初、なんらかのアプリ、プログラムを作ってみるのに参考になるおすすめ雑誌
- Interface(https://interface.cqpub.co.jp/)
- 日経ソフトウェア(https://www.nikkeibpm.co.jp/item/nsw/756/saishin.html)
(https://www.nikkeibpm.co.jp/item/nsw/756/index.html)
13
その2:scikit-learn(機械学習のライブラリ)を全部やってみる
「scikit-learn」チートシートのアルゴリズムを全部、実装してみる(17年:1年目夏)
- 詳細(https://qiita.com/sugulu_Ogawa_ISID/items/e3fc39f2e552f2355209)
14
その2:scikit-learn(機械学習のライブラリ)を全部やってみる
scikit-learnのアルゴリズム理解と実装におすすめの書籍
- Python機械学習プログラミング 達人データサイエンティストによる理論と実践
- AIエンジニアを目指す人のための機械学習入門 実装しながらアルゴリズムの流れを学ぶ
(私が勉強したときは1冊目を利用。後ほど、自分が考える理想の教科書として2冊目を執筆し出版)
15
その3:深層強化学習を勉強し、Qiitaに記事をアウトプットしていく
深層強化学習を勉強し、主要アルゴリズムを実装してみる(17年:1年目秋)
- 詳細(https://qiita.com/sugulu_Ogawa_ISID/items/3c7d6cbe600d455e853b)
深層強化学習を自己学習に選んだ理由:
配属部署では既に画像処理、自然言語処理は手をつ
けていたため、まだ誰も未着手のものを自己学習し
ようと考えました
16
その4:外部から講演依頼や雑誌寄稿依頼が届くようになる
・2017年よりディープラーニングの本格的ブームが日本に到来
[理由1] Caffeや初期のTensorFlowのような、ディープラーニング第1陣ライブラリか
ら、第2陣ライブラリへと時代が変化。ChainerやKerasが習熟し始め、PyTorchも登場
し、初心者にもディープラーニングが扱いやすい環境が整備されてきた
[理由2] DeepMindのアルファ碁が17年5月、柯潔に勝利し、人類を超える。これにより、
日本社会にお茶の間レベルで「ディープラーニングという技術が凄そうだ・・・」と
分かりやすく伝わり、学びたいとの機運が高まる (の2点が大きいと思います)
(17年:1年目冬)
・ドワンゴ人工知能研究所の、Neuro-Inspired COmputing To AI School (NICO2AI
School)、通称「ニコニコAIスクール」の講師依頼をブログ経由でいただく
(http://nico2.ai/)(https://github.com/wbap/NICO2AI_Basic_2018)
続く
17
その4:外部から講演依頼や雑誌寄稿依頼が届くようになる
(17年:1年目冬)
・雑誌「Software Design 2018年4月号」の特集「機械学習の始め方」の1章分の執筆
依頼をいただく(https://gihyo.jp/magazine/SD/archive/2018/201804)
・マイナビ出版様から、深層強化学習での書籍執筆の提案をいただき、まずWeb連載を
始める(https://book.mynavi.jp/manatee/series/detail/id=87626)
18
その4:外部から講演依頼や雑誌寄稿依頼が届くようになる
ブログやQiitaにアウトプットしていることで、講演や書籍執筆の依頼が来るようになる
(可能性が高まります)
書籍の編集者の方は、常に本を書いてくれる人を探しています。
そのため、技術サイトや話題になった記事などをいつもチェックしています
「講演や執筆をすること = 他人に教えること」なので、丁寧にしっかりと理解しながら
アウトプットする必要があり、技術の理解がより深まります
講演や執筆の機会獲得は運しだいでありコントロールできませんが、
周囲の友人やconnpassなどで勉強会を開催することは誰でも可能です。
こうした場で他人に教えたり、一緒に書籍を勉強したりすると、一層理解が深まります
19
その5:1年目夏から冬に実施したその他の自己学習
1年目は他に(も今も) 、connpassやTechPlayで勉強会を探して参加 。
1年目は週1で参加していました。最近は月1くらいです
(https://connpass.com/)(https://techplay.jp/)
興味のある勉強会を探し、参加をおすすめします
20
その6:SoftwareDesignにて連載を1年間実施
【連載】「Software Design:scikit-learn で学ぶ機械学習アルゴリズム」(18 年 5 月号
~ 19 年 1 月号)(18年:2年目春)
- (https://gihyo.jp/magazine/SD/backnumber)
- 4月号の特集号の執筆から継続連載へ。当時の同僚の清水さんと2人で連載
そして、先ほどのML本の執筆・出版へと派生
21
その7:はじめての書籍執筆・出版
つくりながら学ぶ! 深層強化学習 ~PyTorchによる実践プログラミング~(18年:2年目夏)
- (https://www.amazon.co.jp/dp/4839965625/)
- 初の書籍の執筆でした(書籍執筆は大変ですが、英語論文を複数投稿し、博士論文
書くことに比べると、その難易度は低いと私は感じています)
- 本書はもう3年近く前の出版ですが、今でも深層強化学習の勉強におすすめします
22
その9:2冊目の書籍執筆を開始
つくりながら学ぶ! PyTorchによる発展ディープラーニング(18年:2年目冬~19年春で執
筆、19年7月出版)
- 2年目冬になり後輩ができ、ディープラーニングの様々な手法を教えたいが良い教科書
が和書、洋書ともに存在しない。BERTなどが出現し、自身が勉強したい内容も増える。
- 自分自身の勉強、そしてディープラーニングの発展手法の教科書となる本を執筆し
ようと、18年12月の冬休みに決意し、執筆開始。19年GW明けに脱稿。ある程度書けた
段階で、目次と原稿をマイナビ出版様に自分で持っていき書籍化を提案して、出版
- (https://www.amazon.co.jp/dp/4839970254/)
23
その10:PyTorchの勉強方法について
・日本ディープラーニング協会のE資格では特定のDLライブラリの実装はカバー範囲で
ないため、DLライブラリを利用した実装技術を自己学習することが重要です
・現段階では、TensorFlow2とPyTorchがメジャーですが、PyTorchを私はおすすめ
(和書、洋書ともに、TensorFlow2よりPyTorchの方が多い気がするため)
・勉強の仕方としては、最初は「PyTorch日本語チュートリアル」の「1. PyTorch入門」
をやってみる(https://yutaroogawa.github.io/pytorch_tutorials_jp/) 。「2. 」以降はお好みで
・その後、先ほどの書籍「つくりながら学ぶ! PyTorchによる発展ディープラーニン
グ」の1~3章+好きな章をやってみる
24
その10:PyTorchの勉強方法について
・また、PyTorchがほぼ公式書籍として押し出している「PyTorch 実践入門」(原題:
Deep Learning with PyTorch)(https://www.amazon.co.jp/dp/4839974691/)を読んでみ
るのもおすすめです
・ただしこの書籍は、第1部は入門として優しいですが、第2部はかなり実践的で高度で
す。第2部以降は少し修練を積まなければ、完全理解は難しいです。ですが、非常に良
い内容。少し修練を積み、再度第2部以降を読むと違った景色が見える(と思います)
25
その11:なぜ本を出版したり翻訳したりするのか?
・自己学習した成果はアウトプットすると、他人の目に止まり、何かが生まれる可能性
が高いです(書籍化、雑誌連載、Web記事、講演会、勉強会登壇依頼など)
・アウトプットを意識すると学びが深くなります(きちんと理解し、他人に分かるよう
にアウトプットするには、しっかりと深く学ぶことへと自然につながる)
・加えて、私個人のモチベーションとしては、
「明石高専、東京大学学部・大学院と国立の教育機関で学ばせていただき、さらに博士
号取得まで、たくさんの教育費と研究費を日本社会の税金を投入していただいた。
学生時代に培われた自分の能力は自分だけで創り上げたものでなく、投資していただい
た分はせめてきちんと社会に恩返ししたい。
そのため、最先端の技術を自己学習する際には、合わせて書籍やブログで社会へと発信
し、先端技術を学びやすい環境を日本社会に提供・整備に貢献することで、博士卒の社
会人として恩返しする」という気持ちで、自己学習内容を公開しています
26
その12:私のグループで最低限学んでもらっていること
・フィールド研究として学生の方を、私の率いるグループにインターン生的に受け入れ
たり(正確にはインターンではなく共同研究)、中途採用で入社される方には、
以下の2冊を事前に読み、ほぼ全部実装してもらうようにしています。
正直、それで十分です(私が求めるレベルは。そして、そうなるように執筆したの
で・・・※AI系に限った話)
27
その13:その他書籍ももちろんおすすめです + Kaggleについて
・もちろんその他の書籍もおすすめです(https://www.jdla.org/recommendedbook/)
・「Kaggleへの参加はどうですか?」と尋ねられることが多いですが、現在開催中コ
ンペへの参加はおすすめしません。それよりも、過去に開催された良コンペで勉強する
ことをおすすめします。そこで慣れてから、開催中のコンペに挑戦をおすすめします
・おすすめ書籍「Kaggleコンペティション チャレンジブック」
(https://www.amazon.co.jp/dp/B08R78BQ2G/)
・Kaggleの終了済みコンペで基本手法、上位者の手法を実装解説している書籍です
- サンタンデール商品推薦(表形式)
- TensorFlow音声認識(音データ)
- プルトセグロ安全ドライバー予測(表形式)
- ステートファーム・散漫なドライバー検知(画像データ)
の4つ。各100ページ弱にわたり、非常に丁寧に解説されています。
かつ日本語書籍なので、コンペ内容などが理解しやすく、
Kaggleサイト(英語)単独よりも、自己学習しやすいです
その他、学ぶと良いITスキル
29
その1:目指すべきところ
・AI系のスキルがあるだけの人は新卒、中途ともに、もうあまり必要とされなくなりつ
つある(ように感じます)
※AI系のスキルがあるだけの人 = ML、DLの実装はできるが他のIT系スキルがない人
[理由1] AIブームで、各企業がとにかくAIやってみようという試行が一回りした感があ
り、AIだけができる人材を急いで求める企業が減ってきている(ように感じる)
[理由2] COVID-19による景気観の変化で、企業の研究費が少なくなり、成功しそうな
AI系はOKだが、結果が出るか分からないAI系は挑戦しづらくなっている(気がする)
・AIも含めた先端IT技術に慣れていて、IT技術&AIを活用して問題解決ができる人材が
必要とされるようになってきている(ように感じます)
[理由1] 最近の企業・社会のブームは、AIよりもDX(デジタルトランスフォーメーショ
ン)。AIブームではなく、DXブーム(の気がする)
[理由2] COVID-19による景気観の変化で、業務をIT化してコストを削減、顧客への価
値提供をデジタル化し、顧客体験を改善して売上の伸張を図る風潮(の気がする)
30
その2: IT技術って具体的に何を指すのか?
Web+DBの120号(2020年12月24日発売)の記念特集の内容が参考になります
- WEB+DB(https://gihyo.jp/magazine/wdpress/archive/2021/vol120)
31
IT技術の学び方 のおすすめ
[1] 基本情報技術者を取得しよう
[2] 静的なWebサイト(ブログ)を自分でサーバー借りて、作ってみよう
[3] 動的なWebサイト(ログイン機能などがあるWebシステム)を作ってみよう
[4] 自分が楽しいと思え、自分の日常生活や仕事、研究を助けるITシステムを作ってみ
よう
32
その3:どうやってITスキルを伸ばしていけばよいか?
・「基本情報処理技術者」の資格を取得する(https://www.jitec.ipa.go.jp/1_11seido/fe.html)。
この勉強過程で、基本的なIT知識が身につきます。
これから社会人になる皆様にとって、この先のデジタル社会で活躍していくのに、基本
情報処理技術者の資格は最低限、取得しておくことをおすすめします
・「静的なサイト」≒ブログサイト、を自分で作ってみる
例:私が作ってみたサイト http://neuro-educator.com/
【方法】
- サーバー:ロリポップ!レンタルサーバー https://lolipop.jp/
- ドメインアドレス:ムームードメイン https://muumuu-domain.com/
- コンテンツマネジメントシステム: WordPress(ワードプレス)
- WordPressのテーマ: Simplicity(※少し前のものなので、今は別のものが良いかも)
このあたりのキーワードで検索すれば、作り方の解説情報がたくさん見つかります
33
その5:どうやってITスキルを伸ばしていけばよいか? 2
・「動的なサイト」≒ログイン機能などがありバックエンドにサーバーがあるサイト(Web
システム)を自分で作ってみる
1. 大学の講義でこのような内容の講義があれば、ぜひとも積極的に受講する
2. Pythonを学んだ皆様であれば、WebシステムのフレームワークにはPythonの
「Django」がはじめは良いです。Djangoの日本語書籍も増えてきましたが、個人的
にはUdemyの動画講義、「 【3日でできる】Django 入門 ( Python 3 でウェブアプ
リを作って AWS EC2 で公開!) 」がおすすめです
(https://www.udemy.com/course/django-beginner/)
・その後、自分なりに何か、作ってみたいもの、やってみたいことを考えて、それを調
べながら実装する(自分の研究や仕事の自動化系が、最初は取り組みやすいかもしれま
せん)
次以降、私の例
34
その6:作成物の例
「アマゾンダッシュボタンをハックし、パパのLINEに買い物をお願い:パパダッシュ
ボタンを作成(17年:1年目夏)
- 最近サービスが終了しましたが、Amazonダッシュボタンを使用。
ボタンを押すと、Amazonに注文が行かず、私のLINEに買い物願いが送られる
- 詳細(http://neuro-educator.com/papadash/)
- 動画(https://www.youtube.com/watch?v=bivQEGzVz_g)
35
その7:作成物の例
「Alexaから新型ゾイドをボイスコントールするシステム」を作ってみた(18年:2年
目夏)
- Amazon Echoからロボットのおもちゃを自動で動かす
(詳細)https://qiita.com/sugulu_Ogawa_ISID/items/a15c0478a63032fadd44
(動画) https://twitter.com/i/status/1010725492482142208
36
その8:作成物の例
「アレクサ、今の気分におすすめの音楽をかけて♪」を作ってみた(スマートウォッチ
×Alexaスキル)(18年:2年目夏)
- 心拍数をBluetoothで送れるから腕時計と、ラズパイのサーバーをつなげ、
Amazon Echoで、心拍数の早さによる興奮度に応じて、選曲させて音楽再生
(詳細)https://qiita.com/sugulu_Ogawa_ISID/items/f23a697507c9a93c81b2
(動画) https://twitter.com/i/status/1006158901102833666
37
その9:どうやってITスキルを伸ばしていけばよいか? 3
・とにかく何かITを活用したものを作ってみましょう。手を動かし、作ってみるのが一番
・自分が普段、研究や仕事で繰り返し作業をしているものの自動化する試みが取り組みやす
い、かもしれません。
・そして、作ったらQiitaやブログなどにアウトプットしましょう
・記事に「いいね!」が少なくても気にしないようにしましょう
(私もAlexaでの遊び・自己学習はとても頑張ったが、記事のいいねが少ないです)
・キャリア的な話ですが、私は新卒採用でも中途採用でも、
「何か自己学習で作ってみた、IT関連のものはありますか?」、「それはどのサイトに
アクセスすれば見れますか?」と聞きます。
この質問に対して、自分で頑張って作ったものがいろいろとあり、それらを面接でデモ
してもらえると、その人のIT能力や成長志向、勉強熱心さが分かります。
最近はリモートが普通なので面接中にWebにアクセスしやすい。面接のためにアウト
プットを推奨するわけではないですが、キャリア面にもプラスに働く(可能性あり)
38
その9:どうやってITスキルを伸ばしていけばよいか? 4
ITスキルを伸ばすのに参考になる、おすすめの雑誌
- WEB+DB(https://gihyo.jp/magazine/wdpress)
- Software Design(https://gihyo.jp/magazine/SD)
【3、4月に出版される号は年度の始まりなので、初心者向け特集が組まれる雑誌業界の慣例】
- WEB+DB(4月24日発売vol. 122 特集1 Webの基礎技術、特集3 Python Webアプリケーション開発)
- Software Design(3月18日発売4月号 第1特集 [Linux入門]新人に教えたくなるLinuxの核心)
- Software Design(4月??日発売5月号 第1特集??、たぶん新人向けの特集があります)
39
その10: IT技術&AIを活用して、問題解決ができる人材とは?
私の率いるグループのメンバに、目指してもらっている人物像
ITのフルスタック能力 × AI × Biz(ビジネス)スキルで ビジネスを創造できる人材へ
UVP
・機械学習
アルゴリズム
・統計解析
・機械学習工学
・ディープラーニング
・Webシステム構築
・MLOps
・データ分析基盤構築
・IoTシステム構築
・クラウド
・仮想化
・ドメインの専門知識
・PM、PdM
・デザイン思考(UX/UI)
・ビジネスクリエーション
(アジャイル、ジョブ理論、
リーン,etc.)
IT技術
Biz
AI/データサイエンス
フロントエンド
バックエンド
コンテナ・仮想化
クラウド&インフラ
AI/ML
アジャイル開発(スクラム)
40
小川の情報発信
メインの情報発信はTwitterを使用しています
Qiita:https://qiita.com/sugulu_Ogawa_ISID
Twitter:https://twitter.com/ISID_AI_team :https://medium.com/@yutaro.ogawa.1116
slideshare:https://www.slideshare.net/yutaroogawa1116
41
学生のみなさま
「理系ナビ DLエンジニアトレーニングプログラム2021」
ならびに、
「日本ディープラーニング協会E資格」の受験
お疲れ様でした!!
CONFIDENTIAL
【お問い合わせ先】
■ 株式会社 電通国際情報サービス AIトランスフォーメーションセンター
https://isid-ai.jp/

Weitere ähnliche Inhalte

Was ist angesagt?

[DL輪読会]画像を使ったSim2Realの現況
[DL輪読会]画像を使ったSim2Realの現況[DL輪読会]画像を使ったSim2Realの現況
[DL輪読会]画像を使ったSim2Realの現況Deep Learning JP
 
猫でも分かるVariational AutoEncoder
猫でも分かるVariational AutoEncoder猫でも分かるVariational AutoEncoder
猫でも分かるVariational AutoEncoderSho Tatsuno
 
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門tmtm otm
 
Skip Connection まとめ(Neural Network)
Skip Connection まとめ(Neural Network)Skip Connection まとめ(Neural Network)
Skip Connection まとめ(Neural Network)Yamato OKAMOTO
 
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2Preferred Networks
 
グラフニューラルネットワーク入門
グラフニューラルネットワーク入門グラフニューラルネットワーク入門
グラフニューラルネットワーク入門ryosuke-kojima
 
Recurrent Neural Networks
Recurrent Neural NetworksRecurrent Neural Networks
Recurrent Neural NetworksSeiya Tokui
 
Optimizer入門&最新動向
Optimizer入門&最新動向Optimizer入門&最新動向
Optimizer入門&最新動向Motokawa Tetsuya
 
ドメイン適応の原理と応用
ドメイン適応の原理と応用ドメイン適応の原理と応用
ドメイン適応の原理と応用Yoshitaka Ushiku
 
TensorFlowで逆強化学習
TensorFlowで逆強化学習TensorFlowで逆強化学習
TensorFlowで逆強化学習Mitsuhisa Ohta
 
[DL輪読会]逆強化学習とGANs
[DL輪読会]逆強化学習とGANs[DL輪読会]逆強化学習とGANs
[DL輪読会]逆強化学習とGANsDeep Learning JP
 
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向SSII
 
【メタサーベイ】Video Transformer
 【メタサーベイ】Video Transformer 【メタサーベイ】Video Transformer
【メタサーベイ】Video Transformercvpaper. challenge
 
強化学習 DQNからPPOまで
強化学習 DQNからPPOまで強化学習 DQNからPPOまで
強化学習 DQNからPPOまでharmonylab
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!TransformerArithmer Inc.
 
【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks
【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks
【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural NetworksYosuke Shinya
 
【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem
【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem
【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling ProblemDeep Learning JP
 
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情Yuta Kikuchi
 
A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”Kota Matsui
 
[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling
[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling
[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence ModelingDeep Learning JP
 

Was ist angesagt? (20)

[DL輪読会]画像を使ったSim2Realの現況
[DL輪読会]画像を使ったSim2Realの現況[DL輪読会]画像を使ったSim2Realの現況
[DL輪読会]画像を使ったSim2Realの現況
 
猫でも分かるVariational AutoEncoder
猫でも分かるVariational AutoEncoder猫でも分かるVariational AutoEncoder
猫でも分かるVariational AutoEncoder
 
PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門PRML学習者から入る深層生成モデル入門
PRML学習者から入る深層生成モデル入門
 
Skip Connection まとめ(Neural Network)
Skip Connection まとめ(Neural Network)Skip Connection まとめ(Neural Network)
Skip Connection まとめ(Neural Network)
 
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
 
グラフニューラルネットワーク入門
グラフニューラルネットワーク入門グラフニューラルネットワーク入門
グラフニューラルネットワーク入門
 
Recurrent Neural Networks
Recurrent Neural NetworksRecurrent Neural Networks
Recurrent Neural Networks
 
Optimizer入門&最新動向
Optimizer入門&最新動向Optimizer入門&最新動向
Optimizer入門&最新動向
 
ドメイン適応の原理と応用
ドメイン適応の原理と応用ドメイン適応の原理と応用
ドメイン適応の原理と応用
 
TensorFlowで逆強化学習
TensorFlowで逆強化学習TensorFlowで逆強化学習
TensorFlowで逆強化学習
 
[DL輪読会]逆強化学習とGANs
[DL輪読会]逆強化学習とGANs[DL輪読会]逆強化学習とGANs
[DL輪読会]逆強化学習とGANs
 
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
 
【メタサーベイ】Video Transformer
 【メタサーベイ】Video Transformer 【メタサーベイ】Video Transformer
【メタサーベイ】Video Transformer
 
強化学習 DQNからPPOまで
強化学習 DQNからPPOまで強化学習 DQNからPPOまで
強化学習 DQNからPPOまで
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!Transformer
 
【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks
【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks
【宝くじ仮説】The Lottery Ticket Hypothesis: Finding Small, Trainable Neural Networks
 
【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem
【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem
【DL輪読会】論文解説:Offline Reinforcement Learning as One Big Sequence Modeling Problem
 
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
 
A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”A summary on “On choosing and bounding probability metrics”
A summary on “On choosing and bounding probability metrics”
 
[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling
[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling
[DL輪読会]Decision Transformer: Reinforcement Learning via Sequence Modeling
 

Ähnlich wie 機械学習・ディープラーニング、ITの実装スキル学ぶ方法(と私の場合)

リクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたか
リクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたかリクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたか
リクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたかRecruit Technologies
 
コンピュータビジョン技術の実応用とビジネス
コンピュータビジョン技術の実応用とビジネスコンピュータビジョン技術の実応用とビジネス
コンピュータビジョン技術の実応用とビジネスYusuke Uchida
 
ADVENTUREの他のモジュール・関連プロジェクトの紹介
ADVENTUREの他のモジュール・関連プロジェクトの紹介ADVENTUREの他のモジュール・関連プロジェクトの紹介
ADVENTUREの他のモジュール・関連プロジェクトの紹介ADVENTURE Project
 
2017 05-21.overview
2017 05-21.overview2017 05-21.overview
2017 05-21.overviewShin-ya Koga
 
要注意!?効果の出ない技術研修に共通する3つのこと
要注意!?効果の出ない技術研修に共通する3つのこと要注意!?効果の出ない技術研修に共通する3つのこと
要注意!?効果の出ない技術研修に共通する3つのことcodecampJP
 
2018/07/26 Game change by Deep Learning and tips to make a leap
2018/07/26 Game change by Deep Learning and tips to make a leap2018/07/26 Game change by Deep Learning and tips to make a leap
2018/07/26 Game change by Deep Learning and tips to make a leapSony Network Communications Inc.
 
【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション
【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション 【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション
【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション 日本マイクロソフト株式会社
 
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)Preferred Networks
 
(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料
(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料
(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料daikojima1
 
ディープラーニングの産業応用とそれを支える技術
ディープラーニングの産業応用とそれを支える技術ディープラーニングの産業応用とそれを支える技術
ディープラーニングの産業応用とそれを支える技術Shohei Hido
 
Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~
Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~
Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~Yasuharu Nishi
 
クラウドネイティブ最新技術動向.pdf
クラウドネイティブ最新技術動向.pdfクラウドネイティブ最新技術動向.pdf
クラウドネイティブ最新技術動向.pdfFumieNakayama
 
デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択
デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択
デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択Shingo Kitayama
 
NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702
NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702
NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702小川 雄太郎
 

Ähnlich wie 機械学習・ディープラーニング、ITの実装スキル学ぶ方法(と私の場合) (20)

CDLEおすすめ書籍
CDLEおすすめ書籍CDLEおすすめ書籍
CDLEおすすめ書籍
 
リクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたか
リクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたかリクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたか
リクルートはいかにして、ディープラーニング(深層学習)の導入を成功させたか
 
コンピュータビジョン技術の実応用とビジネス
コンピュータビジョン技術の実応用とビジネスコンピュータビジョン技術の実応用とビジネス
コンピュータビジョン技術の実応用とビジネス
 
ADVENTUREの他のモジュール・関連プロジェクトの紹介
ADVENTUREの他のモジュール・関連プロジェクトの紹介ADVENTUREの他のモジュール・関連プロジェクトの紹介
ADVENTUREの他のモジュール・関連プロジェクトの紹介
 
2017 05-21.overview
2017 05-21.overview2017 05-21.overview
2017 05-21.overview
 
要注意!?効果の出ない技術研修に共通する3つのこと
要注意!?効果の出ない技術研修に共通する3つのこと要注意!?効果の出ない技術研修に共通する3つのこと
要注意!?効果の出ない技術研修に共通する3つのこと
 
Contents ws
Contents wsContents ws
Contents ws
 
2018/07/26 Game change by Deep Learning and tips to make a leap
2018/07/26 Game change by Deep Learning and tips to make a leap2018/07/26 Game change by Deep Learning and tips to make a leap
2018/07/26 Game change by Deep Learning and tips to make a leap
 
【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション
【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション 【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション
【BS15】.NET アップグレード アシスタントで簡単にできます! .NET Framework アプリの .NET 6 へのマイグレーション
 
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
 
(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料
(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料
(事前共有)wakamonog meeting 12 パネルディスカッション企画 投影資料
 
ディープラーニングの産業応用とそれを支える技術
ディープラーニングの産業応用とそれを支える技術ディープラーニングの産業応用とそれを支える技術
ディープラーニングの産業応用とそれを支える技術
 
[Japan Tech summit 2017] MAI 001
[Japan Tech summit 2017]  MAI 001[Japan Tech summit 2017]  MAI 001
[Japan Tech summit 2017] MAI 001
 
Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~
Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~
Tomorrow's software testing for embedded systems ~明日にでも訪れてしまう組込みシステムのテストの姿~
 
初心者向けデバイスドライバ講座 (2)
初心者向けデバイスドライバ講座 (2) 初心者向けデバイスドライバ講座 (2)
初心者向けデバイスドライバ講座 (2)
 
クラウドネイティブ最新技術動向.pdf
クラウドネイティブ最新技術動向.pdfクラウドネイティブ最新技術動向.pdf
クラウドネイティブ最新技術動向.pdf
 
Smfl20201001
Smfl20201001Smfl20201001
Smfl20201001
 
デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択
デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択
デブサミ2017【17-E-5】エンタープライズにおけるDevOpsの実態!Cloud Native Application Platformの選択
 
NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702
NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702
NLPソリューション開発の最前線_DLLAB_自然言語処理ナイト_200702
 
NLPソリューション開発の最前線
NLPソリューション開発の最前線NLPソリューション開発の最前線
NLPソリューション開発の最前線
 

Mehr von 小川 雄太郎

AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介
AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介
AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介小川 雄太郎
 
学生・若手向け教養書リスト(私の個人的おすすめ)
学生・若手向け教養書リスト(私の個人的おすすめ)学生・若手向け教養書リスト(私の個人的おすすめ)
学生・若手向け教養書リスト(私の個人的おすすめ)小川 雄太郎
 
最近のディープラーニングのトレンド紹介_20200925
最近のディープラーニングのトレンド紹介_20200925最近のディープラーニングのトレンド紹介_20200925
最近のディープラーニングのトレンド紹介_20200925小川 雄太郎
 
AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...
AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...
AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...小川 雄太郎
 
BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007
BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007
BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007小川 雄太郎
 
電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213
電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213
電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213小川 雄太郎
 
BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127
BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127
BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127小川 雄太郎
 

Mehr von 小川 雄太郎 (7)

AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介
AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介
AI系教育ビジネスの提供状況と今後身につけるとよいスキルの紹介
 
学生・若手向け教養書リスト(私の個人的おすすめ)
学生・若手向け教養書リスト(私の個人的おすすめ)学生・若手向け教養書リスト(私の個人的おすすめ)
学生・若手向け教養書リスト(私の個人的おすすめ)
 
最近のディープラーニングのトレンド紹介_20200925
最近のディープラーニングのトレンド紹介_20200925最近のディープラーニングのトレンド紹介_20200925
最近のディープラーニングのトレンド紹介_20200925
 
AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...
AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...
AI・ディープラーニングを駆使して、「G検定合格者アンケートのフリーコメント欄」を分析してみた_Deep Learning Digital Confere...
 
BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007
BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007
BERTによる文書系AIの取り組みと、Azureを用いたテーブルデータの説明性_DLLAB_20191007
 
電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213
電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213
電通国際情報サービス_AIテクノロジー部の研究開発と製品開発事例_191213
 
BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127
BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127
BlackBox モデルの説明性・解釈性技術の実装_DLLAB_191127
 

機械学習・ディープラーニング、ITの実装スキル学ぶ方法(と私の場合)