ロボット法―ロボット・人工知能に関する法的諸課題と展望

1. ロボット法ーロボット・人工知能に関する法的諸課題と展望慶應義塾大学SFC研究所工藤郁子二弁情報公開・個人情報保護委員会主催ミニ講義 2016年2月3日

2. • 慶應義塾大学SFC研究所上席所員 • 総務省情報通信政策研究所特別フェロー • ロボット法学会設立準備会事務局 • 専門：情報法政策

3. 1 2 3 ロボット技術諸課題ロボットと法 Agenda

5. ロボットとは？ • 感知し、駆動し、（少なくともある程度は）環境に作用する人工物またはシステム • Pepper（人型ロボット）、ルンバ、ドローン、自動運転車などを含む • センサー（sense）＋知能・制御系（think）＋駆動系（act）を備えるもの

6. 知能・制御系≒AI • AI=人工知能／Artificial Intelligence • 学習・推論・判断といった人間の知能のもつ機能を備えたシステム – 人間の知能そのものをもつ機械を作ろうとするアプローチと、人間が知能を使ってすることを機械にさせようとするアプローチがある • 主として後者を想定

7. 推論・探索の時代（1950s後半〜1960s） • 決まったルールに従い多くの選択肢を分析していく手法の開発 • 人が教えたことに基づいて「よりよい選択肢を選ぶ」プログラム • なお、1997年には、IBM が開発したディープブルーがチェス世界チャンピオンに勝利

8. 知識・表現の時代（1980s） • コンピュータに人間の知識を与え、その知識を元にコンピュータが推論等を行う技術の開発 • 特定分野に特化した専門知識データベースを元に推論を行うエキスパートシステムなど • ただし、「特徴量」＝問題の解決に必要な本質的変数や特定の概念を特徴付ける変数は、人間が設計

9. • 人間が指示しなくとも、自ら学習する技術の開発 • 教える人がいなくても、自分で「知識を見つける」プログラム • インターネットの登場とウェブの広がりにより利用可能なデータ量が増大し、ビッグデータにより学習しやすい環境が整う機械学習の時代（2000s）

10. 2012年、Googleの開発したディープ・ラーニングのアルゴリズムが、ランダムに与えられた YouTubeの画像から猫の特徴量を自動的に学習したことも話題になりました

11. レベル1：単純な制御 • 言われた通りに動かすプログラム • 温度の変化に応じて機能するエアコン、洗濯物の重さで時間調整レベル2：対応のパターンが非常に多いもの • 人が教えたことに基づいて「よりよい選択肢を選ぶ」プログラム • 推論・探索：将棋や囲碁で決められたルールのもとに一手を指す

12. レベル3：対応パターンを自動的に学習 • 人間が与えた情報から、使えそうな「知識を見つける」プログラム • 駒がこういう場所にあるときは、こう打てばよいということを自分で学習 • ただし、「特徴量」は人間が設計するレベル4：対応パターンの学習に使う特徴量も自力で獲得 • 教える人がいなくても、自分で「知識を見つける」プログラム • 「駒の位置だけでなく、複数の駒の関係性をみたほうがいい」ということに自分で気づく

13. 「2045年問題」 • 技術的特異点（Technological Singularity）が生じて、「AIが人類を超える」？ • AIが、（特徴量だけでなく）「機能」を理解できるようになることで、自らを規定しているプログラムを自身で改良できるようになり、永続的に指数関数的進化を遂げる可能性 • ただし、2045年にシンギュラリティが起きるかは否定的な意見が多い

14. なぜいまロボット法？ • AIが発展し、ロボットが自分で環境を認識し、対応を判断 • 例えば工場のように、ロボットの存在に配慮して特別に作られた「構造的環境」（structured environment）」ではない一般の環境で稼働できるように

16. 航空法 • 昨年春の首相官邸屋上ドローン墜落事件を受け航空法改正 • 重さ２００グラム以上の機体について、人口集中地区や空港周辺の上空、夜間の飛行等が禁止に（あらかじめ、国交大臣の許可を受ける必要） • 2016年1月25日、ドローンを操縦していた写真店の経営者を書類送検（改正航空法適用としては全国初）

17. 航空法第九章無人航空機（飛行の禁止空域）第百三十二条何人も、次に掲げる空域においては、無人航空機を飛行させてはならない。ただし、国土交通大臣がその飛行により航空機の航行の安全並びに地上及び水上の人及び物件の安全が損なわれるおそれがないと認めて許可した場合においては、この限りでない。一無人航空機の飛行により航空機の航行の安全に影響を及ぼすおそれがあるものとして国土交通省令で定める空域二前号に掲げる空域以外の空域であつて、国土交通省令で定める人又は家屋の密集している地域の上空

18. 航空法（飛行の方法）第百三十二条の二無人航空機を飛行させる者は、次に掲げる方法によりこれを飛行させなければならない。ただし、国土交通省令で定めるところにより、あらかじめ、次の各号に掲げる方法のいずれかによらずに飛行させることが航空機の航行の安全並びに地上及び水上の人及び物件の安全を損なうおそれがないことについて国土交通大臣の承認を受けたときは、その承認を受けたところに従い、これを飛行させることができる。一日出から日没までの間において飛行させること。二当該無人航空機及びその周囲の状況を目視により常時監視して飛行させること。三当該無人航空機と地上又は水上の人又は物件との間に国土交通省令で定める距離を保つて飛行させること。四祭礼、縁日、展示会その他の多数の者の集合する催しが行われている場所の上空以外の空域において飛行させること。五当該無人航空機により爆発性又は易燃性を有する物件その他人に危害を与え、又は他の物件を損傷するおそれがある物件で国土交通省令で定めるものを輸送しないこと。六地上又は水上の人又は物件に危害を与え、又は損傷を及ぼすおそれがないものとして国土交通省令で定める場合を除き、当該無人航空機から物件を投下しないこと。

19. 航空法（捜索、救助等のための特例）第百三十二条の三前二条の規定は、都道府県警察その他の国土交通省令で定める者が航空機の事故その他の事故に際し捜索、救助その他の緊急性があるものとして国土交通省令で定める目的のために行う無人航空機の飛行については、適用しない。（無人航空機の飛行等に関する罪）第百五十七条の四次の各号のいずれかに該当する者は、五十万円以下の罰金に処する。一第百三十二条の規定に違反して、無人航空機を飛行させた者二第百三十二条の二第一号から第四号までの規定に違反して、無人航空機を飛行させた者三第百三十二条の二第五号の規定に違反して、無人航空機により同号の物件を輸送した者四第百三十二条の二第六号の規定に違反して、無人航空機から物件を投下した者

20. 【参考】米国の状況 • 2007年：無人飛行機に関する告示によって、許可された業者以外は基本的に飛行禁止 • 2015年2月：連邦航空局（FAA）が、商業用ドローンについての規則案を提案 – 1機1人の操縦者、最大重量を25kg以下、視認可能な範囲、高度500フィート（約150m）未満、夜間飛行禁止、操縦者にFAAの航空知識試験の合格による許可証の取得、航空機の登録と航空機表示の義務づけ…など • 2015年12月：FAAが、250g〜25kgのホビー用途ドローンについて登録制を導入 – 空港周辺等や人の集合場所等の上空は飛行禁止

21. 電波法 • ドローン専用の帯域を確保する動きも • 「空の産業革命」、ドローン等による中空ビジネスにおける航空交通管制への期待が背景

22. 道交法 • 道路交通法70条（とその前提となるジュネーブ条約）では運転を、ハンドル、ブレーキ、その他装置を運転者が確実に操作するものとしている • 少なくともレベル4の自動運転車を実現するには法改正が必要

23. 道交法（安全運転の義務）第七十条車両等の運転者は、当該車両等のハンドル、ブレーキその他の装置を確実に操作し、かつ、道路、交通及び当該車両等の状況に応じ、他人に危害を及ぼさないような速度と方法で運転しなければならない。

24. 【参考】自動運転車 • レベル0：ドライバーが常にすべての主制御系統（加速・操舵・制動）を操作する • レベル1：加速・操舵・制動のいずれかをシステムが行う（自動ブレーキなどの安全運転支援システムなど） • レベル2：加速・操舵・制動のうち複数の操作をシステムが行う（ステアリングアシストによる車間距離の調整など） • レベル3：加速・操舵・制動を全てシステムが行い、システムが要請したときはドライバーが対応する • レベル4：加速・操舵・制動を全てドライバー以外が行い、ドライバーが全く関与しない状態（完全自動運転）

25. 刑法 • 故意：一般的な議論 • AIが「誤作動」した場合の過失が問題に • ロボットが完全に「自律」しているのであれば、人に過失（予見可能性と結果回避義務）がないのではないか • 自動運転車において、誰（製造者、販売者、管理・整備士、ドライバー、空間台帳事業者…）が一次的責任を負うのか • 刑事製造物責任、自動車損害賠償保障法、保険法なども関係

26. 製造物責任法 • 動産を前提とする製造物責任が、情報であるAIも適用されるか – ソフトウェア自体は「製造物」すなわち「製造又は加工された動産」（製造物責任法2条1項）にあたらないため、動産にインストールされたソフトウエアが製造物責任の対象になるかどうかは争いがある – 古くて新しい問題 • AI開発者も無過失責任を負いうるとすると、イノベーションを抑圧するおそれがあるのではないか

27. 【参考】ロボアプリ • ネットワークからアプリケーションをダウンロードできるようになり、ロボットの機能を常に新しい状態に保ち、ユーザーが最新のサービスを享受することが可能に • 躯体の製造者・管理者等だけでなく、第三者によるアプリケーションの開発を実現（Pepperのアプリケーション開発プラットフォームはすでに存在）

28. 第三者が開発したアプリもオンラインストアで公開・販売できるようにする計画も

29. 現在スマートフォンでみられるようなアプリの開発・利用がコミュニケーション・ロボットでも将来的に実現？

30. 労働法 • 1983年、労働安全衛生規則で、危険の防止のための措置、特別教育等の規定が導入（1981年に起こった産業用ロボットによる労災死亡事故＝「ロボット殺人事件」） • 労働者とロボットが作業空間を共有することを可能にする規制緩和を行う通達 • テレイグジスタンスが発達すれば、危険な現場では、ロボットを利用した遠隔操作を行って安全を確保することが義務づけられる可能性も？

31. 【参考】テレイグジスタンス • Telexistence • 遠隔地にある物をあたかも近くにあるかのように感じながら、操作などをリアルタイムに行うもの

32. 入管法 • 日本に「上陸」しようとする外国人は、原則として入国審査官の審査を受けなければならない • 外国から、日本にあるテレイグジスタンスを操作することは「上陸」？

33. 出入国管理及び難民認定法（上陸の申請）第六条本邦に上陸しようとする外国人（乗員を除く。以下この節において同じ。）は、有効な旅券で日本国領事官等の査証を受けたものを所持しなければならない。ただし、国際約束若しくは日本国政府が外国政府に対して行つた通告により日本国領事官等の査証を必要としないこととされている外国人の旅券、第二十六条第一項の規定により再入国の許可を受けている者（第二十六条の二第一項又は第二十六条の三第一項の規定により再入国の許可を受けたものとみなされる者を含む。以下同じ。）の旅券又は第六十一条の二の十二第一項の規定により難民旅行証明書の交付を受けている者の当該証明書には、日本国領事官等の査証を要しない。２前項本文の外国人は、その者が上陸しようとする出入国港において、法務省令で定める手続により、入国審査官に対し上陸の申請をして、上陸のための審査を受けなければならない。

34. 国際法 • ロボットの研究開発・輸出において、自律型兵器やデュアル・ユースをどう扱うか • 完全自律型ロボット兵器は現時点で実存しないが・・・ • 自律型致死性兵器システム(LAWS, Lethal autonomous weapons systems)として、特定通常兵器使用禁止制限条約（CCW）の枠組みにおいて既に議論が開始 – 予見可能性(predictability)が不十分な兵器は国際人道法の重大違反の可能性が高いことから、国際人道法の基本的な規則である予防原則、軍民目標区別原則、均衡原則等と抵触 – 法的・倫理的な観点から説明責任を果たしうるためには、何らかの人による制御(meaningful human control)が必要であると理解されている

35. その他 • 著作権法 – AIが「創作」した作品は「著作物」になるか – 著作物にあたるとした場合、誰に権利が帰属するのか • 動物愛護法？ – AI・ロボットへの「虐待」を規制すべきか（保護の客体としてのAI・ロボット）

36. 個人情報保護法等 • プライバシーなどに係る懸念も存在： – そもそもコミュニケーション・ロボットは、サービス提供のため、人物認識、音声認識、会話履歴、生活パターンなど様々なプライバシー情報が必要になる – ロボット技術とクラウド技術の近接も急速に進んでおり、データをクラウドで蓄積・共有・分析し、サービス改善につなげることを試みる事業者も多い • サービスの質とプライバシーの減退がトレードオフ – 安全性とトレードオフになるスマートカー – 利便性とトレードオフになるコミュニケーション・ロボット

37. 個人情報保護法等 • 情報取得・利用範囲の明確化も課題 • プライバシーの自己管理（privacy self-management）というアプローチが、有意義といえないとの問題提起 • （ロボットを含む）IoTによって、ひとつひとつのアプリに同意していくことは、人としての処理能力を超えて無意味になりつつある • 多くのユーザーは直近の便益を過大視する傾向があり、プライバシーが長期的かつ累積的に影響を及ぼす点を看過しがち • コミュニケーション・ロボットは、インターフェイスの「親しみやすさ」、「家族性」、「長期性」によって、プライバシーに関するリスク評価を見誤るおそれが大きい • データ収集の時点よりも、情報の川下（downstream uses）にあたるデータ蓄積・分析をユーザーに意識させる仕組みづくりを導入することが望ましいのではないか…？

38. • なお、ソフトバンクロボティクス株式会社は、アプリ開発のガイドラインを整備しており、また、アプリ審査も計画 • アプリ公開時に審査を行うことで、自由なアプリ開発を促進しつつ、技術的・倫理的な面からガイドライン遵守を確認

40. ロボット法＝「馬の法」？

41. 「馬の法」批判 • フランク・イースターブルーク裁判官は1996年に「馬の法」がないのと同様に「サイバースペース法」はないと言及 • 「一般的なルール」を学ぶことで、個別の領域にも対応できるとした • 「ロボット法」にも同じ指摘が妥当するのでは？

42. 「馬の法」批判への応答ローレンス・レッシグは、サイバースペースの法的問題を考察することを通じて、法規制と非法規制の相互作用の解明という他の様々な法領域にも拡張可能な方法論の構築を試みることにより、サイバー法が「法の全体を照らし出す」主題となる可能性を提示したといわれている

43. 具現性（embodiment） • データは具現化していないがロボットは駆体を有するため、プログラミングの瑕疵が物理的に人や財を害する潜在的能力を有する • 物とデータと責任の関係が問題に：古くて新しい問題 • 製造物責任法（の一部の課題）、入管法など

44. 創発性（emergence） • 学習機能をもち（一定程度の）自律的判断を行うこと • 予測可能性の低下、判断過程の不透明性、権利や責任の帰属が問題に • 製造物責任法（の一部の課題）、刑法、国際法、著作権法など

45. 社会誘発性（social valence） • 「似姿」として、人に不思議な感覚を生じさせ、存在論的問題を提起 • 保護の客体としてのAI・ロボット、プライバシーリスクなどが問題に • 動物愛護法、プライバシーバイデザインなど

46. • ロボットやAI技術の発展・普及によって、これまであまり論じられてこなかったような法的論点が生じている • もちろん、これまでの議論の延長線として検討することもおそらく可能だが… • 「ロボットと法」の全体を捉えながら、何らかの理念・原則を析出し、それを個別の解釈に還元するアプローチもありうるのではないか

47. Thank you! Questions?

ロボット法―ロボット・人工知能に関する法的諸課題と展望

Fumiko Kudoh

ロボット法―ロボット・人工知能に関する法的諸課題と展望