AI for logic and bussiness

1. 理論
2017/11/22
@TeamAI
mabonki0725

2. 自己紹介
• 分析 統計 構築15年以上
– 時間 経過 劣化 予測精度 驚
– 統計 興味 持
• 統計数理研究所 研究生 機械学習
– 5年前 難解 PRML 認識 機械学習 無
– PRML 含 殆 統計 C言語 実装 経験 持
SVM HMM EM 判別木 変分 粒子
GP CoxHazard 非線形計画法 深層学習(CNN RNN LSTM) 強化学習
• 現在 都立産業技術大学院学生 研究
– SLAM Openpose 用 逆強化学習
• AI論文 日一本読 目標 10本読 人
– 世界中 天才 参入 信 程 記述 多

3. 目次
1. 理論 推移
2. 推移
3. 問題点
4. 論文 読 方
5.
6.
AI 機械学習 深層学習 強化学習 指

4. AI理論 推移
衝撃的 革新技術 出現 築 既存技術 破綻 達磨落 過程

5. 1. AI理論 推移(2)
• 1950年 1980年
手作 大型計算機
第2次AI 述語論理 (Plolog) 大失敗 日本 AI 停滞 一因
• 1980年 2000年
貴重 個人計算機 出現
頻度統計:識別 (現象 表
統計 解 重回帰分析 主成分分析
分析精度 検定指標 P値,AIC) 行
• 2000年 2010年
増加 計算機 性能 向上
統計:生成 (原因 現象 説明 )
現象 隠 変数 暴 EM MCMC LDA HMM 粒子
分析精度 構築 試験 分離 試験 再現性 検証
• 2010年
豊富 並列計算機 性能 向上
深層学習 隠 変数 解
画像 音声 認識性能 飛躍的 向上 動画 認識
• 将来予想
自己強化学習 知覚性能 向上 高 報酬 求 計算機 自分 学習

6. 2. AI 推移
2000年
貴重 計算機 貧弱
感 経験 示 発展
医療診断 計画 時系列解析 統計 (SAS SPSS) 普及
欧米 多様 社会 適応 多様化推進
日本 品質管理 規格化推進 部品化 廉価
2000年 2010年
増加 個人計算機 性能 向上
統計 多様化 精度指標 無 向
豊富 Web 基 顧客分類 LDA
特定 情報配信 Gunosy Amazon)
豊富 前提 成果 出 xgboost
xgboost 特徴量自動抽出 過学習防止 Free 夢 様 判別
2010年
豊富 並列計算機 性能 向上
深層学習 豊富 使 画像 動画 音声認識 高精度 結果 出
特 動画 成果 顕著
深層学習 成熟 初 AI 実現

7. 3 AI 問題点
• 深層学習 理論 未解明 一般人 構築 容易
– 深層学習 手作 成功 1000 失敗 岡谷貴之)
– 成功 深層学習 構築先(大企業 主導権 持
– 成功 殆 Image-net等 学習済 成果 使
• 大学 公開
– 今日 隆盛 公開 大多数 成果 認知
– 導入評価報告 Kaggle 実績 待 知
• Google Softbank等 API 汎用的 競合相手 多
Image-net 深層構造

8. • 月間2000本 発表
AI論文 Web 告知 性能
意義 早 察知 先 応用 考
鍵
– 論文 殆 追試 様
実験結果
– 早期 認 為 公開
増 (10%)程度
– 性能 手法 論文 読 必要
3.1 AI論文 公開
https://github.com/dennybritz/deeplearning-papernotes/
blob/master/README.md
月間 論文 件数推移

9. 3.2 公開
• 殆 python 多種 深層学習 存在)
• 追試 性能 調 応用
一番早
• 著名 公開 例
– 強化学習 DQN Unreal
– 生成画像
• VAE 本質(癖) 学習 画像 生成
• 本物 似 仮想 画像 生成
– 翻訳 pix2pix seq2seq
– 画像言語変換 pix2seq seq2pix
pix2pix
Unreal
pix2seq seq2pix
VAE GAN

10. 4. AI論文 読 方
• AI論文 英語用語 400字程度 英語 読 様
– PDF 単語 合 訳 表示
– 論文以外 異 英語用語 読 限
• AI論文 論文推薦 国際会議 推薦 必 利用
https://github.com/dennybritz/deeplearning-papernotes/blob/master/README.md
http://arxiv-sanity.com/discussions
http://jeffhuang.com/best_paper_awards.html
• AI論文 定 既約 最大 10頁程度
概要 導入 (比較研究) 手法 実験結果 (結論) (参照)
• 最近 最適化計算 殆 深層学習 行
• 論文 内容 修士 大学院 聴講生 早
– 年間 万円 機械学習 研究室 連絡 許諾
• 手法 殆 最適化問題 微分 求
– 対数化 微分 解
対数化 理由 掛算 和算 対数化 最大値 不変
– 多変量 扱 線形代数 行列 掛算 理解 十分

11. • 最適化問題 次 方法
限
– 変分 法
– EM
– 条件付計画法
– SVM
4.1 AI 最適化 解法
EM 平均 期待値 交互 近似SVM 境界面 明瞭 様 分離
変分 法 修正 叙 近似
条件付計画法
条件内 勾配 下

12. AI
5.0 AI拠点
5.1 画像
5.2 強化学習
5.3
5.4 自然言語

13. 5.0 AI 拠点
USC berkrey: Abbeel
CMU: 自然言語 Openpose
Tront: Benjio & Hinton 深層学習 DeepMind: Hazavis Alpha碁
Amsterdam: Kingma VAE
GoogleBrain: Goodfellow GAN
Open-AI: Eronmask 自動運転

14. 5.1 画像 動画
• 画像
– VAE 好 (癖) 反映 服装
• RealTime 動画
自動運転 or 知覚用
– yolo (枠認識)
– segnet (対象認識)
– openpose (顔 指骨格認識)
item
teste

15. • DeepMind
– DQN 深層学習 強化学習 成功 Alpha碁 実現
– 発展 DQN 解 挑戦
• 倉庫問題 期先
• 迷路問題 UNREAL 並列Boosting 経験採用
• 複雑 画面 擬似報酬
• 会話応答 Neural Turing Machine
– 派生 統合 Rainbow
5.2 強化学習

16. 5.3
• 自動運転
– SLAM(Simultaneous Localization and Mapping)
運転中 刻 入 観測 車体
自己位置 地図 生成
– Patial Observation Marcov Decsition
Process)
部分的 観測 最適 決定 行
• 制御
– 比 微細 制御 必要
最適 経路 維持 主流
– 実機 場合 理論 最適化 一致
逐次調整 必要
強化学習 TRPO
制御 Hamilton–
Jacobi
GPS
(Guided Policy Search)

17. 5.4 自然言語
• word2vec LSTM 大 進歩 様 見
• 自然言語 理解 壁
– 機械 対話 成長 強 AI 必要
– 日本語 対話 指標 整備
• Amazon 整備
• 機械 人間 対話 高 用途別
擬似 可能性
– 既存 22個 chatbot 統合 実用的 発表
A Deep Reinforcement Learning Chatbot

18. • 現在 強 AI 入 口
– Alpha碁0 敵対 急速 自己成長 示
– 当面衝撃的 技術革新 続
• API 提供 AI 競合相手 多
• AI 公開 早 応用 有利
– python(深層学習 多様 版 存在 )
• caffee Theano TensorFlow keras pytroch chainer
– 最適化問題 理解
– AI英語 習熟
• 好 癖 見抜 好 合 商品 提案 VAE
• 深層学習 画像 動画 発展

19. (2)
• AI AI 統合 威力 増
– AR 拡張 SLAM+深層学習 D画像
– 自動運転 SLAM+深層学習+予測
– 深層学習 強化学習 最適制御
映画 D地図
D SLAM