Empfohlen
Weitere ähnliche Inhalte
Was ist angesagt?
Was ist angesagt? (20)
Ähnlich wie 20181205 sakigake
Mehr von Hiroshi Maruyama
Mehr von Hiroshi Maruyama (16)
Kürzlich hochgeladen
Kürzlich hochgeladen (12)
20181205 sakigake
- 1. 12/05/2018 第2回さきがけ研究者トークイベント PFN Fellow 丸山宏 Twitter: @maruyama 深層学習の深化と工学化への 課題
- 3. Agenda 1. 計算とは何か 2. 深層学習と工学 3. 深層学習と科学 4. 情報技術と社会 3
- 5. • y = f(x) • 関数 f の族を考える – y = fθ(x) – 例：線形関数族( y = ax + b)の場合 • θ = <a, b> 5 連続領域における「計算」とは？
- 6. 連続領域における計算方式の例：アナログ計算機 6 微分解析機：円盤回転角で表現 東京理科大近代科学資料館 日立ポータブルアナコン：電圧・電流で表現 日立評論 Vol. 39, No. 2 (1957) 実際の計算では誤差は避けられない
- 8. 離散領域 連続領域 計算モデル チューリング機械、ラムダ 計算、… 深層学習 計算メカニズム デジタル回路 デジタル計算（近似） 物理現象 結果の精度 誤差無し 誤差あり プログラミング 演繹 演繹・帰納 厳密な仕様 必要 十分な訓練データがあれば不要 8 計算機科学は、連続領域も守備範囲にしよう！
- 9. Agenda 1. 計算とは何か 2. 深層学習と工学 3. 深層学習と科学 4. 情報技術と社会 9
- 11. 11 汎用計算機構としての深層学習 • 桁違いに多いパラメタ – 任意の多次元非線形関数を近似* ➔ 疑似的にチューリング完全！ 出力（超多次元） 入力（超多次元） * G. Cybenko. Approximations by superpositions of sigmoidal functions. Mathematics of Control, Signals, and Systems, 2(4):303–314, 1989.
- 12. 世の中の流れ 12 https://petewarden.com/2017/11/13/deep-learning-is-eating-software/ “Software is eating the world,” Marc Andreessen, 2011
- 15. 工学とは？ 理論（e.g., 構造計算） ＊ 安全係数 新技術が社会に受容されるのは「工学」として熟成されてから 土木工学ハンドブック、969ページ 我々はなぜ安心して橋を渡れるのか？ 土木工学の膨大な知見があるから
- 16. 16 日本ソフトウェア科学会機械学習工学研究会（MLSE） https://sites.google.com/view/sig-mlse キックオフシンポジウム (5/17) MLSEワークショップ(7/1-2) 人工知能学会MLSE企画セッション (6/8) JSSST全国大会(8/29-31)
- 17. 工学化への課題例：深層学習は説明不能・制御不能 • 深層学習は説明不能か？ – （今の）深層学習は、デジタルコンピュータで実現 • 同じプログラム、同じ入力、同じ訓練データセット、同じ乱数初期 値、… ならば必ず同じ結果が得られる – 結果を、ビット単位で説明しようと思えば可能 – ただし、「それを人間が解釈できるか」は別問題 • そもそも「説明可能性」とは何か？ 17
- 18. 複雑なシステムは説明困難 18 東京電力福島原子力発電所における事故調査・検証委員会 最終報告書「概要」27ページ http://www.cas.go.jp/jp/seisaku/icanps/SaishyuGaiyou.pdf • 例：福島原発の事故は説明できたか？ – 東京電力福島原子力発電所における事故調査・検証委員会の報告書 • 14ヶ月の調査 • 中間報告・最終報告合わせて本文約1,000ページ、資料編約700ページ
- 19. 複雑なシステムを完全に制御することはできない • 「キルスイッチ」は制御可能性を担保するか – 無条件に全システムをシャットダウンすることは「制御」といえるか？ • 飛行中の航空機、手術中の機械、… • アシュビーの最小多様性原理 (Law of Requisite Variety) – 制御システムは、制御対象システムよりもより多くの状態を持たなければなら ない – 対象が複雑ならば、それを制御するソフトウェアは複雑にならざるを得ない 19 「深層学習だから」説明不能・制御不能なのではない 本質は「問題が複雑だから」
- 20. 複雑さを低減できるか？ 20 C.S. Hollingの「レジリエンス・サイクル」 Holling, C.S. and Lance H. Gunderson. 2002 複雑さの減少は大きな破壊を伴う！ → 受容せざるをえない → 壊れることを前提にしたシステム設計 ISBN-13: 978-4023311558 https://www.researchgate.net/publication/261338523_ICHIGAN_ Security_-_A_Security_Architecture_That_Enables_Situation- Based_Policy_Switching
- 21. Agenda 1. 計算とは何か 2. 深層学習と工学 3. 深層学習と科学 4. 情報技術と社会 21
- 22. 科学とは何か 5/21, 2016 Hiroshi Maruyama22 多くの観察 → それらを説明する法則 “光は直進する”
- 26. Agenda 1. 計算とは何か 2. 深層学習と工学 3. 深層学習と科学 4. 情報技術と社会 26
- 27. 社会がデジタル技術に急激に依存することの危険 27 • 現代社会の根底にある（西欧的な）仮定：「啓蒙思想」 – 「あらゆる人間が共通の理性をもっていると措定し、世界に何らかの根本法 則があり、それは理性によって認知可能であるとする考え方」(Wikipedia) – 理性に基づく「自由意思を持った個人」が民主主義、科学、資本主義の前提 • 一方で、人間の「自由意思」の限界に対する認識が高まってきている “物理学の進歩が全能の神の存在を 否定したように、生命科学と情報技 術の進歩が人間中心主義の神、すな わち「自由意志を持った個人」の存 在を否定しつつある “ ISBN-13: 978-1784703936
- 28. 「デジタル主権(Digital Sovereignty)」の２面性 • 元々、インターネットは国境や国家主権のない世界 – オープン、ボトムアップな仕様策定（IETF, W3C, …) • データと情報の流れを握れば人々の行動を誘導できることがわかってきた – 消費行動の誘導： A/Bテスト、リコメンデーション、… – 政治指向の誘導： Fake News、エコーチャンバー効果、デジタルゲリマンダー、… • GAFAの脅威 – データを少数の巨大企業に握られることへの不安 – GDPR：EUの「デジタル主権」コンセプト • 中国・ロシアの国家体制モデル – 「デジタル主権」を体制安定のツールとして用いる – 自由主義・民主主義に代わる政治体制としての位置付け？ 28 ➔デジタル主権は両刃の剣