Weitere ähnliche Inhalte
Ähnlich wie 不足するAI人材に対する「パソナテックの人材育成ソリューション」 (20)
Mehr von Natsutani Minoru (20)
不足するAI人材に対する「パソナテックの人材育成ソリューション」
- 1. ©2019 Pasona Tech, Inc. All Rights Reserved.
不足するAI人材に対する「パソナテックの人材育成ソリューション
」
エッジAIの現状とパソナテックの取り組み
株式会社パソナテック
IoEソリューション事業部 AIプロダクトグループ
Qumicoプロダクトマネージャ
夏谷
2019/9/13
- 2. ©2019 Pasona Tech, Inc. All Rights Reserved.
2
目次
自己紹介
エッジAIの開発の業界動向
Qumicoの紹介
パソナテックの取り組み
- 4. ©2019 Pasona Tech, Inc. All Rights Reserved.
自己紹介
4
株式会社パソナテック
IoEソリューション事業部 AIプロダクトグループ
夏谷 実
FPGAやLSIの画像処理から、Deep Learningの世界に入る。プログラミングが好き
昨年よりQumicoのプロダクトマネージャに就任。大阪と東京と半々くらいで、昨年は名古屋にも通う
TensorFlow Users Group KANSAI
- 6. ©2019 Pasona Tech, Inc. All Rights Reserved.
第四次産業革命
ロボット AI IoT
国家戦略としてAI推進を図るも、絶対的な人材不足という現実
若年層の人口
減少
過熱するAI
人材争奪戦
必要なスキル
が膨大
エッジAIにおける課題
- 7. ©2019 Pasona Tech, Inc. All Rights Reserved.
エッジAIとは
7
よくあるAIを使ったサービス例
どこかにあるGPU搭載サーバー
日:エッジAIの技術に注目しています。
英:We are focusing on edge AI technology.
AI
同じようなアーキテクチャ
・画像の仕分け
・商品の推薦
・買い取り価格の見積もり
・商品のカテゴリー分け
- 8. ©2019 Pasona Tech, Inc. All Rights Reserved.
エッジAIとは
8
https://www.irasutoya.com/2014/10/blog-post_185.html
https://www.irasutoya.com/2013/01/blog-post_7571.html
エッジAIのイメージ
AI AI
不審者
を発見
部屋に人が多いから
出力を上げよう
AIを処理するサーバーが無く、それぞれの装置がAIを搭載する。
誰もいないから風
力を落として節電
- 9. ©2019 Pasona Tech, Inc. All Rights Reserved.
なぜエッジAIが必要なのか
9
物体検出
https://www.irasutoya.com/2014/10/blog-post_185.html
・・・・・
・・・・・
問題点
・レイテンシー
・通信量
・消費電力
サーバー AI
全ての映像をサーバーに送るアーキテクチャ
- 10. ©2019 Pasona Tech, Inc. All Rights Reserved.
なぜエッジAIが必要なのか
10https://www.irasutoya.com/2014/10/blog-post_185.html
・・・・・
・・・・・
サーバー
エッジAIを使ったアーキテクチャ
AI AI AI AI AI
物体検出
物体検出した結果だけを送信
・レイテンシー ◎
・通信量 〇
・消費電力 〇
- 11. ©2019 Pasona Tech, Inc. All Rights Reserved.
エッジAIを使う理由
・自動運転等、応答速度が非常に重要なケース
・コストが重要なケース
・通信環境が悪くても動く必要があるケース
・プライバシーを守りたいケース
11
世の中にAIが普及するにつれ、エッジAIの重要性も増えていく
- 12. ©2019 Pasona Tech, Inc. All Rights Reserved.
国内のAI政策
12
2017/3/31公正取引委員会 データと競争政策に関する検討会 松尾先生
https://www.google.co.jp/url?sa=t&rct=j&q=&esrc=s&source=web&
cd=1&cad=rja&uact=8&ved=0ahUKEwic3O6Czp7VAhWDe7wKHT
tpBvMQFggnMAA&url=http%3A%2F%2Fwww.jftc.go.jp%2Fcprc%
2Fconference%2Findex.files%2F170606data01.pdf&usg=AFQjCN
E22edhkjcl-q3mswvN4vfgduR52w
- 13. ©2019 Pasona Tech, Inc. All Rights Reserved.
世界中がエッジAIに参入
13
https://github.com/basicmi/AI-Chip
IC Vendors
Intel, Qualcomm, Nvidia, Samsung, AMD, Xilinx, IBM, STMicroelectronics, NXP, Marvell, MediaTek, Hi
Silicon, Rockchip, Renesas Electronics, Ambarella
Tech Giants & HPC Vendors
Google, Amazon_AWS, Microsoft, Apple, Aliyun, Alibaba Group, Tencent Cloud, Baidu, Baidu
Cloud, HUAWEI Cloud, Fujitsu, Nokia, Facebook, HPE, Tesla, LG
IP Vendors ARM, Synopsys, Imagination, CEVA, Cadence, VeriSilicon, Videantis
Startups in China
Cambricon, Horizon Robotics, Bitmain, Chipintelli, Thinkforce, Unisound, AISpeech, Rokid, NextVPU,
Canaan, Enflame, Eesay Tech, WITINMEM, TSING MICRO, Black Sesame
Startups Worldwide
Cerebras, Wave Computing, Graphcore, PEZY, Tenstorrent, ThinCI, Koniku, Adapteva, Knowm, Mythic,
Kalray, BrainChip, AImotive, DeepScale, Leepmind, Krtkl, NovuMind, REM, TERADEEP, DEEP VISION,
Groq, KAIST DNPU, Kneron, Esperanto Technologies, Gyrfalcon Technology, SambaNova Systems,
GreenWaves Technology, Lightelligence, Lightmatter, ThinkSilicon, Innogrit, Kortiq, Hailo, Tachyum,
AlphaICs, Syntiant, Habana, aiCTX, Flex Logix, Preferred Network, Cornami, Anaflash, Optaylsys, Eta
Compute, Achronix
- 14. ©2019 Pasona Tech, Inc. All Rights Reserved.
CloudとEdgeを合わせたFOG
14
Cloud
edge
FOG Computing
edge edge edge
Cloud
エッジAIがホットなトピックになり、新しい言葉も誕生
- 15. ©2019 Pasona Tech, Inc. All Rights Reserved.
エッジAIの難しいところ
15
データ
アノテー
ション
量子化
過学習
抑止
データ
水増し
前処理
プルーニ
ング
速度
UP
ハイパーパ
ラメータ
画像処理
フレーム
ワークPython
組込みC
学習環境
構築
データ
収拾
異常値除
去
筐体モデル
選択
サイズ
削減
放熱
アプリ
組込
電力
コスト
結局、全体をできる人がいない
どうすればよい?
エッジの壁
- 17. ©2019 Pasona Tech, Inc. All Rights Reserved.
AI人材不足
17
https://www.kantei.go.jp/jp/singi/tougou-innovation/dai4/siryo1-1.pdf
統合イノベーション戦略推進会議「AI戦略(有識者提案)及び人間中心のAI社会原則(案)について」
平成31年3月 内閣府特命担当大臣(科学技術政策)
大学、高専、社会人に対して、
AI教育を強化する
年間25万人のAI人材を育成
組込みがわかるAI人材は
さらに不足している
- 18. ©2019 Pasona Tech, Inc. All Rights Reserved.
AI人材不足
18https://www.stat.go.jp/data/jinsui/2018np/index.html
総務省統計局より
- 19. ©2019 Pasona Tech, Inc. All Rights Reserved.
パソナテックの取り組み1
19https://www.stat.go.jp/data/jinsui/2018np/index.html
総務省統計局より
パソナテックが若い
優秀層の取り合いに
参加するのは意味が
ない
ボリュームゾーン
の人材に活躍して
もらう
Global人材
+
- 20. ©2019 Pasona Tech, Inc. All Rights Reserved.
50代半導体エンジニアのキャリアシフト(2017年~)
統計
行列
微積分
英語論文
Python
TensorFlow/Caffe 可視化ツール
製品化組込
従来手法
画像処理
組込プログラミング
スケジュール管理
リソース管理
顧客折衝
データ加工
データアノテーション
Deep Learningに必要な莫大なスキルをどうするか
アカデミックな知識 業務知識 PM
コーディング能力
- 21. ©2019 Pasona Tech, Inc. All Rights Reserved.
50代半導体エンジニアのキャリアシフト(2017年~)
統計
行列
微積分
英語論文
Python
TensorFlow/Caffe
可視化ツール
製品化組込
従来手法
画像処理
組込プログラミング
スケジュール管理
リソース管理
顧客折衝
データ加工
データアノテーション
50代半導体
エンジニア
20代、30代
若手
50代の半導体エンジニアと、20代、30代の若手数名でチームを作る
- 22. ©2019 Pasona Tech, Inc. All Rights Reserved.
50代半導体
エンジニア
20代、30代
若手
・昔AIにすごく興味があった
・英語論文に出てくる数式に戸惑わない
・お客との調整が得意
・今からPython勉強するのが辛い
・上手く行くかどうか分からない(ので消極的)
・新しいフレームワーク等について行けない
・実際の開発業務自体が難しい(手が遅い)
ベテランエンジニアが苦手なところや、勢
いでやれば良いところを若手が担当
50代半導体エンジニアのキャリアシフト(2017年~)
- 23. ©2019 Pasona Tech, Inc. All Rights Reserved.
チームビルディング
50代の役割
PM(顧客の折衝、各種管理)
DL基礎の部分(数学、英語)
業務知識
中長期的な課題(違うジャンルの調査など)
20代、30代
コーディング
アノテーション
とりあえずやる
短期的な課題(新しいNN、フレームワーク等)
- 24. ©2019 Pasona Tech, Inc. All Rights Reserved.
キャリアシフトを目的としたトレーニング実施
24
受講者数は300名を超えました。
ディープラーニングとは何か?を理解する
ディープラーニングに関する基礎用語を理解する
ディープラーニングによるニューラルネットワークの学習方法を理解する
学習後のニューラルネットワークの性能評価の指標を理解する
学習後のニューラルネットワークの組み込みシステムへの実装フローを理解する
学習後のニューラルネットワークの組み込みシステムへの実装を体験する
ラズベリーパイを使って
実際にディープラーニン
グを動かす
- 25. ©2019 Pasona Tech, Inc. All Rights Reserved.
コミュニティの構築
地方の悩み
東京はAIのイベントがあってうらやましいな~
パソナテックの狙い
東京の人が羨むようなイベントをやろう!
- 26. ©2019 Pasona Tech, Inc. All Rights Reserved.
コミュニティの構築 弊社大阪支店で年に数回行う大規模イベント
毎回100名超え
2018/1/27 LINE様、さくらインターネット様、
Google様、オプティム様にご登壇いただきました。
TensorFlow Users Group KANSAIの立上げ
不定期でハンズオン、ハードウェア勉強回等の開催
2017/12/21 LeapMind様にご登壇いただきました
弊社の発表トピックとして、自社開発のフレームワークによる事例が大好評
他にも、名古屋、京都等で、各種勉強会を開催中
MACHINE LEARNING Meetup KANSAI
「AutoEncoderを使って未知の物体を検出。ニューラルネットワークは
UFOを見つけることができるのか」
2019/03/27
- 27. ©2019 Pasona Tech, Inc. All Rights Reserved.
パソナテックの取り組み2(2019年~)
データエンジニアの育成
27
少し寄り道してAutoMLの説明
データエンジニアとは?
データの前処理を中心に、データサイエンティストの指示で、デー
タそのものを扱うエンジニア
- 28. ©2019 Pasona Tech, Inc. All Rights Reserved.
Auto MLとは
28
Automated Machine Learningの略
・自動的に機械学習のハイパーパラメータを設定しパフォ
ーマンスを上げる技術。NNアーキテクチャの探索も含む。
・GoogleがCloud上でAuto MLを使えるようにしたのが「
Cloud AutoML」と呼ばれるサービス。Auto MLと言った時
にCloud AutoMLを指すことが多い。
・PFNが公開しているOptuna(オプチュナ)も注目されて
います。
- 29. ©2019 Pasona Tech, Inc. All Rights Reserved.
Could AutoMLの実力
29
https://developers-jp.googleblog.com/2019/07/efficientnet-automl-
google.html
画像の識別に関しては、素人では絶対に勝てない
識別
物体検出
だいたい6万円くらいで、2016年末の最先端
(YOLO v2)に近い数字
Cloud AutoMLが対応しているタスクならAutoMLを使いたい。
- 30. ©2019 Pasona Tech, Inc. All Rights Reserved.
従来のAI開発体制
30
データサイエン
ティスト
データエンジニア
AIプロジェクトAIプロジェクト AIプロジェクト
データサイエンティストの人数が
AIプロジェクトの個数を制限する。
→人材不足の本質
- 31. ©2019 Pasona Tech, Inc. All Rights Reserved.
AutoMLが作るこれからの開発体制予測
31
データサイエン
ティスト
データエンジニア
AIプロジェクトAIプロジェクト
Auto
ML
Auto
ML
Auto
ML
Auto
ML
AIプロジェクト AIプロジェクト AIプロジェクト AIプロジェクト
AutoMLが対応してい
ないタスクはデータサ
イエンティストが担当
AutoMLが対応しているタスクは、
AutoMLに入力するデータを用意する
データエンジニアがいれば良い
AIプロジェクトの数が、データサイエン
ティストに依存しないでスケールする。
- 32. ©2019 Pasona Tech, Inc. All Rights Reserved.
パソナテックの取り組み2(2019年~)
32
データエンジニアのスキルセットの標準化と育成コースの開発
画像用NNの基礎
画像フォーマットの基礎
画像処理ライブラリ、アルゴリズム
<annotation>
<filename>0001.jpg</filename>
<size> <width>302</width>
<height>402</height>
<depth>3</depth> </size>
<object>
<name>pencilcase</name>
<bndbox> <xmin>100</xmin>
<ymin>100</ymin>
<xmax>261</xmax>
<ymax>186</ymax>
</bndbox>
</object>
</annotation>
物体検出用データオーギュメ
ンテーション
XML、乱数処理、回転、拡大、
縮小、画像の合成
データエンジニア研修 基礎編:2019年6月開始
データエンジニア研修 実践編: 2019年9月開始
データエンジニア研修 応用編:2019年9月開始
- 34. ©2019 Pasona Tech, Inc. All Rights Reserved.
Qumicoとは
34
• 目的
– ディープラーニングの学習結果をエッジデバイス向けにC言語変換
• OSレス環境での利用も想定
– 出力:標準C(その他依存のライブラリなし)
– IR:ONNXに準拠
• 弊社内製
• オープンソースとして公開(MITライセンス)
– https://github.com/PasonaTech-Inc/Qumico
- 35. ©2019 Pasona Tech, Inc. All Rights Reserved.
構成
35
• フロントエンド
– 各種DLフレームワークの学習モデルをONNXに変換する
– 例:TensorFlowの学習済みモデルをONNXに変換
• バックエンド
– ONNXをC言語に変換する
- 37. ©2019 Pasona Tech, Inc. All Rights Reserved.
開発の流れ
37
• 1.学習
– DLフレームワークでの学習(例:TensorFlow)
– モデルを出力
• 2.変換
– モデルをONNXに変換
– ONNXをC言語に変換
• 3.チューニング
– デバイス向けのチューニング
• 4.推論
– アプリへの組み込み
– デプロイ
- 38. ©2019 Pasona Tech, Inc. All Rights Reserved.
開発の流れ(例)
38
Qumicoフロントエンド
Qumicoバックエンド
本スライドの写真 の作成者 不明な作成者 は CC BY-SA のライセンスを許諾されています
エッジデバイス
2.変換
1.学習
3.チューニング
4.デプロイ
チューニング
・CPUコア
・SIMD
・GPU
・メモリアライメント
等
学習済みモデル
計算グラフ最適化
TensorFlow
ONNX C
- 39. ©2019 Pasona Tech, Inc. All Rights Reserved.
最近のトレンド:AutoMLと量子化
39
• AutoML
– モデリングの自動化
– GCP AutoMLを利用
• 量子化
– 32bit演算を8bit演算で計算(例:float32 => int8)
– エッジデバイス向け高速化
– TensorFlowでQuantization Awareで学習
- 40. ©2019 Pasona Tech, Inc. All Rights Reserved.
AutoML・量子化を取り入れた開発の流れ
40
Qumicoフロントエンド
Qumicoバックエンド
本スライドの写真 の作成者 不明な作成者 は CC BY-SA のライセンスを許諾されています
エッジデバイス
2.変換
1.学習
3.チューニング
4.デプロイ
TensorFlow Lite形式に対応 量子化対応のONNX ver1.5に対応
学習済みモデル
(TFLite形式)
ONNX
AutoML
C
- 41. ©2019 Pasona Tech, Inc. All Rights Reserved.
ベンチマーク
41
• 変更なし(複数のTransposeが追加される)
– 0.28[sec]
• Transposeを削除
– 0.16[sec]
• Softmaxを削除
– 0.065[sec]
– クラス分類で最終OPのSoftmaxであるため、出力ラベルは変化なし
– 前後のDequantize, Quantizeも削除
• 参考:ONNX変換前の推論性能
– A社:0.030[sec]
– 条件:OpenMP有効、Neon有効
– (注:Pythonからの呼び出しのため、厳密なプロファイルではないです)
- 42. ©2019 Pasona Tech, Inc. All Rights Reserved.
ベンチマーク
42
0
0.05
0.1
0.15
0.2
0.25
0.3
変更なし Trasnpose削除 Softmax削除 A社
1推論性能[sec]
Qumico(赤)
- 43. ©2019 Pasona Tech, Inc. All Rights Reserved.
今後の開発テーマ
43
• 対応ターゲットボードの拡張
• 最適化/高速化の充実
• エッジ学習
- 45. ©2019 Pasona Tech, Inc. All Rights Reserved.
エッジAIの難しいところ
45
データ
アノテー
ション
量子化
過学習
抑止
データ
水増し
前処理
プルーニ
ング
速度
UP
ハイパーパ
ラメータ
画像処理
フレーム
ワークPython
組込みC
学習環境
構築
データ
収拾
異常値除
去
筐体モデル
選択
サイズ
削減
放熱
アプリ
組込
電力
コスト
JOB HUB
データエンジニア
育成
Auto
ML
AI/IoT支援
サービス
組込エンジニア
育成
ODM
サービス
エッジAI開発の難しさをトータルでサポートします。
- 46. ©2019 Pasona Tech, Inc. All Rights Reserved.
まとめ
46
今後、ますます重要になっていくエッジAIについて、パソナテックは以下
のサービスを提供します。
・データエンジニアの育成
・組込AIエンジニアの育成
・AI/IoT支援サービス
・ODMサービス
・Qumico開発
派遣、委託等、様々な形で開発リソースを提供いたします。
データの収集から、組込機器の開発まで、どのフェーズでもご相談くださ
い。
オンサイトトレーニング可能!
Hinweis der Redaktion
- ・元々画像処理のバックグランドがあって、画像処理のアルゴリズムの一つとしてDLに興味を持った
・2016年の、XXXXでテンサーフローの話を聞いて、そこからとりこになってます。
・DLは実際難しく、日々勉強。特に、手法がすぐ古くなる。
・最近は後で説明するAutoML(AIがAIを作る)技術に注目と期待をしています。
- 数年前から言われている事ですが、国家戦略として第4次産業革命という言葉がでてきました。
ロボット、AI、IoTに注力してくぞという方針。
こういう背景を踏まえたうえで、エッジAIの説明します。
- これは、よくあるアーキテクチャ。
ブラウザやスマホで翻訳サイトを開いて、翻訳したい文章を入れると、翻訳結果が返ってきます。
他の説明もゆっくり
- ここからゆっくり!
エッジというのは、クラウドから見た端っこ。だからエッジ。
従来は組込機器と呼ばれていたり、最近はIoT機器とか呼ばれているもの。
これにAIを乗せるのがエッジAI。
- エッジAIを実際に使うケースでの具体的な例を説明します。
まずは、自動運転。車以外にもいろいろ自動運転があるんですが、カメラからくるデータを全部送って、結果を待っている間に事故がおきちゃう可能性があります。
レイテンシー、つまり反応速度を確保するためにはエッジでAIを動かす必要があります。
コスト面でいうと、GPUのような高価な
- 一つ一つ丁寧に説明
- 一つ一つ丁寧に説明
- 50代が論文を読んで説明して、20代、30代が実際に動かしてみてちゃんと動くかを確認する。
この時の成果としては、人事評価の面談時にAIに関係したメンバーは全員仕事が楽しいと答えた。
- 採用目的もあって、トレーニングを実施。
トレーニングの内容を説明
半導体系の大手企業様で、オンサイトで開催。
- 当時、AI系のイベントが少なくて困った。
情報収集、特に最初の一歩的な所ではコミュニティのイベントの役割が多きい。
- ここでAutoMLの画面を見せて説明
PythonやTensorFlowを一切書かなくてもOK
データの水増しもやってくれる
- Cソース紹介
TensorFlow Logo Image
https://www.tensorflow.org/extras/tensorflow_brand_guidelines.pdf
- https://cloud.google.com/images/products/automl/creating-ml-solutions.svg