Weitere ähnliche Inhalte Ähnlich wie (拡大表示で文字が読める)2020年度日本技術士会九州本部 北九州地区継続研鑽(CPD)プログラム (20) Mehr von Hiroaki Wagatsuma (13) (拡大表示で文字が読める)2020年度日本技術士会九州本部 北九州地区継続研鑽(CPD)プログラム1. AI の倫理と人の倫理
我妻 広明*1, *2, *3
*1 国立大学法人 九州工業大学
大学院生命体工学研究科
*2 理化学研究所 *3 産業技術総合研究所
脳神経科学研究センター 人工知能研究センター
Hiroaki WAGATSUMA
2020年度日本技術士会九州本部 北九州地区継続研鑽(CPD)プログラム
2020年2月15日(土)13:00~17:00 北九州イノベーションギャラリー(通称:KIGS)
北九州市八幡東区東田2-2-11
4. ミニョネット号事件 (19世紀)
https://ja.wikipedia.org/wiki/ミニョネット号事件
1884年7月5日、イギリスからオーストラリアに向けて航行してい
たイギリス船籍のヨットミニョネット号 (Mignonette) は、喜望峰
から1600マイル(約1800キロメートル)離れた公海上で難破。
船長、船員2人、給仕の少年の合計4人の乗組員は救命艇で脱出に
成功したが、艇内にはカブの缶詰2個以外食料や水が搭載されてお
らず、雨水を採取したり漂流5日目に捕まえたウミガメなどを食い
繋ぐも漂流18日目には完全に底をついた。
緊急避難を適用した違法性の阻却が考えられたが、イギリス当局は起訴。最初の裁判の陪審員は違法性
があるか否かを判断できないと評決したため、イギリス高等法院が緊急避難か否かを自ら判断すること
になった。この事案に対して、イギリス高等法院はこれを緊急避難と認めることは法律と道徳から完全
に乖離していて肯定できないとし、謀殺罪として死刑が宣告された。
しかし、世論は無罪が妥当との意見が多数であったため、当時の国家元首であったヴィクトリア女王か
ら特赦され禁固6ヶ月に減刑された。
19日目、船長は、くじ引きで仲間のためにその身を捧げるものを決めようとしたが、船員の1
人が反対した為中止された。しかし20日目、船員の中で家族もなく年少者であった給仕のリ
チャード・パーカー(17歳)が渇きのあまり海水を飲んで虚脱状態に陥った。船長は彼を殺
害、血で渇きを癒し、死体を残った3人の食料にしたのである。
マイケル・サンデルによる『ハーバード白熱教室』
これからの「正義」の話をしよう
1953年生まれ。ハーバード大学教授。専門は
政治哲学。ブランダイス大学を卒業後、オック
スフォード大学にて博士号取得。2002年から
2005年にかけて大統領生命倫理評議会委員。
早川書房 (2011/11/25)
NHK
4
17. Moral Machine - Human Perspectives on Machine Ethics
http://moralmachine.mit.edu/hl/ja
MITの世界的調査
17
24. NEWS 24 OCTOBER 2018
Self-driving car dilemmas reveal that
moral choices are not universal
結果を分析した論文
24
33. 我妻 広明 Hiroaki WAGATSUMA
photo in Neuroscience Institute (San Diego, USA)
Wagatsuma & Yamaguchi (2004; Cover photo)
九州工業大学 大学院 生命体工学研究科人間
知能システム工学専攻
VLSI開発 Engineering
Neuroscience
Integration
NEC(パソコン開発)
九工大(脳型ロボット)
理化学研究所(計算論的神経科学)
PC-9801nノートパソコン
(1989年発売)
PC-9801シリーズパソコン
(1980年代)
エピソード記憶の神経基盤
(海馬認知地図生成)
脳型ロボット開発
(Neuro-robotics)
33
42. Engström, J. 2011. 42
衝突に至るまでの過程の解析
したがって、その事故がどのようにして起こった
かの「過程」の解析が再発防止に重要
「なぜ」起こったかの原因(動機)がわからないと再発する
47. 記号論理学
さまざまな論理体系
古典論理
命題論理
述語論理
ブール代数
非古典論理
直観主義論理 様相論理
「排中律」を排除(排中律とは,A
とその否定¬Aの いずれかが必ず成
立すること)
「事実」を記述する古典論理に「可
能性」や「必然性」などの 要素を加
えたもの
多値論理
ファジー論理
原子命題や述語に対して
「真」と「偽」以外の真理
値を 許す論理
線形論理
1980年代後半
「資源」 の概念を扱える
A:「100円をもっている」,B:「缶コーヒーが買える」 ⇒「A→B」および「A→C」.古典論理では「A
→B∧C」で「100円あれば 缶コーヒーと缶ジュースが両方買える」で,本当は「100円あれば 缶コーヒーと
缶ジュースのどちらか一方のみが買える」
(位相空間論・カテゴリー論) (因果関係や時間の要素を表現→計算
機科学や 言語学・認知科学での応用)
L.ブラウワー
チューリングマシン(アラン・チューリング)ハード
ウェア
ラムダλ計算(アロンゾ・チャーチ)ソフ
トウェア
ゲーデルの
不完全性定理
(1931)
ハイティング代数P Q
(¬a)→(b∨c)
箱Aに入っていなければ, 箱B
か箱Cのいずれかに入っている
(充足問題)
∀x P(x, ...)
すべての x に対して P(x,...) である
∀x (Human(x) → Mortal(x))
Human(ソクラテス)
Mortal(ソクラテス)
「人間は皆死ぬ,そしてソクラテスは人間で
ある, したがってソクラテスは死ぬ」
(ゴットフリート・ライプニッツ;17世紀∼)
数学基礎論
解析学(極限)
「∼は必然的に真」や
「∼は可能である」
「∼は真(1)」や「∼は偽(0)」
一階述語論理
高階論理
時相論理(時制論理)
「私はいつも腹ペコだ」、「私はそのうち
腹ペコになる」、「私は何かを食べるまで
腹ペコだろう」
アーサー・プライアー
(1950)
半順序集合(束論
lattice theory)
相対擬補元:x ⇒ yは,L の部分集合
{z ∈ L : z ∧ x ≤ y} の最大元
圏論 ( category
theory)
Lisp
Prolog
OWL
関数型言語
Haskell
Semantic Web
SWRL
f(x) = x2+2y+1のλ記法
λx.(x2+2y+1) 関数(x2+2y+1)の引数はxであり、yは固定値と扱う
ここで λx とはxが(x2+2y+1)の引数であることを示す
λ計算
型理論 自然言語の意味論
Fuzzy logic
Boolean algebra
19世紀後半
47
50. 50
オントロジー
root stem
Plant (plant body)
leaf flower
(bloom)
fruit
central
stem
stem
bud flower cluster
(inflorescence)
stem
branch
young ripeunmature
©WagatsumaLab@Kyutech
植物オントロジー (Plant Ontology)例:
根 茎 葉 花 実
https://
www.takamiya.com/
plantstudio/
plant_word.html
51. 51
• IBM Watson みずほ銀行コールセンター業務
https://www.youtube.com/watch?v=gEejZEhHLpA
54. 2-1 標準的な知的パズルとは?
54
“Where is a dog ?”
Mental rotation
Story telling
Douglas R. Hofstadter (1999)
introduced Bongard Problems
(BPs), a set of 100 puzzles by a
M.M.Bongard (mid-1960)
知的パズル(またはIQテスト)
"Gödel,
Escher, Bach"
(1999)
ベンチマークテスト
BP #47
58. 2-4 数理論理学的定義
30/31* 0/31*
* H. Foundalis (2006)
Left-side Right-side Left-side Right-side
簡単 難しい #73#23
⋂ ⋂ ⋂ ( ⋂ (PA ⋂ PB= ɸ)
SA ⋂ SB= ɸ
𝐿𝑖 ∈ 𝑃 𝐴
, 𝑅𝑖 ∈ 𝑃 𝐵
, 𝑖 = {1,2, 3,4, 5,6}
(𝐿 𝑖 ∈ 𝑃
𝐴
)
( 𝑅𝑖 ∈ 𝑃 𝐵) (𝐿𝑖∉ 𝑃
𝐵
) 𝑅𝑖∉ 𝑃 𝐴
)
論理学における記法
以下を満たす解を求めよ
実験に参加した人ほぼ全員解ける 誰も解けない
58
59. 2-5 問題の定式化
独立な特徴 (IP)
Circle1: { 大きさ, 模様, 色, 形, 絶
対的位置(箱に対して)};
Triangle1:..
従属な特徴 (DP)
Circle1: { ⃝よりも小さい, △の
下にある};
Triangle1:..
特徴 Properties (xL1)
= ({IP}objects ,{ DP}within objects )
59
左側 右側
64. BP4
<http://.../proprties/left>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/convex_shape> ;
<http://.../includes/infered/consists_of_count>
<http://.../proprties/1> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/
has_infered_characteristics>
<http://.../proprties/convex_shape> ;
<http://.../proprties/right>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/concave_shape> ;
<http://.../includes/infered/consists_of_count>
<http://.../proprties/1> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/
has_infered_characteristics>
<http://.../proprties/concave_shape> ;
Convex (Shape) Concave (Shape)
has_infered_characteristics
→ concave_shape
has_infered_characteris
tics
→ convex_shape
Right answer: Right answer:
Machine answer: Machine answer:
<left, has_infered_characteristics,
convex_shape >
<right,has_infered_characteristics,
concave_shape> ; 64
Jisha Maniamma
2-8 論理知識型AIの計算結果
65. 65
BP18
bulged in two parts
(ballooned / two balloons)
(combination of parts,
or neck)
not narrower (simple balloon)
(combination of parts,
or neck)
has_infered_shape
→ not_squeezed_shape
has_infered_shape
→ squeezed_shape
Right answer: Right answer:
Machine answer: Machine answer:
<http://.../proprties/left>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/notempty> ,
<http://.../proprties/continious_outlined> ;
<http://.../includes/infered/consists_of_count>
<http://.../proprties/1> ;
<http://.../includes/infered/
consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/squeezed_shape> ,
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/has_infered_shape>
<http://.../proprties/squeezed_shape> ;
<http://.../proprties/right>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/
continious_outlined> , <http://.../proprties/
notempty> ;
<http://.../includes/infered/consists_of_count>
<http://.../proprties/1> ;
<http://.../includes/infered/
consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_figure> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/has_infered_shape>
<http://.../proprties/not_squeezed_shape>
;
Jisha Maniamma
66. BP21
different (Size) similar (Size)
has_infered_size
→ large_figure
has_infered_size
→ large_and_small_figure
Right answer: Right answer:
Machine answer: Machine answer:
<http://.../proprties/left>
<http://.../includes/infered/alsoconsists_of_texture>
<http://.../proprties/no_filling> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/convex_shape> ;
<http://.../includes/infered/consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/curvilinear> , <http://.../
proprties/notempty> , <http://.../proprties/circle> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_and_small_figure> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/has_infered_size>
<http://.../proprties/large_and_small_figure> ;
<http://.../proprties/right>
<http://.../includes/infered/alsoconsists_of_texture>
<http://.../proprties/no_filling> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/convex_shape> ;
<http://.../includes/infered/consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_figure> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/has_infered_size>
<http://.../proprties/large_figure> ;
66
Jisha Maniamma
67. BP22
equivalent (Size)
different (Size)
has_infered_ size
→ large_and_small_figurehas_infered_size
→ uneven_shapes
Right answer:
Right answer:
Machine answer:
Machine answer:
<http://.../proprties/right>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/no_filling> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/convex_shape> ;
<http://.../includes/infered/consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_and_small_figure>
;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/has_infered_size>
<http://.../proprties/large_and_small_figure>
;
<http://.../proprties/left>
<http://.../includes/infered/alsoconsists_of_texture>
<http://.../proprties/no_filling> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/convex_shape> ;
<http://.../includes/infered/consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/uneven_shapes> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
<http://.../includes/infered/has_infered_size>
<http://.../proprties/uneven_shapes> ;
67
Jisha Maniamma
68. BP39
Parallel (lines)
Non-parallel
(lines)
has_infered_characteristics
→ null
has_infered_characteristics
→ parallel
Right answer:
Right answer:
Machine answer:
Machine answer:
<http://.../proprties/left>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/notempty> ,
<http://.../proprties/continious_outlined> ;
<http://.../includes/infered/
consists_of_character>
<http://.../proprties/parallel> ;
<http://.../includes/infered/
consists_of_count>
<http://.../proprties/3> ;
<http://.../includes/infered/
consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/
consists_of_shape>
<http://.../proprties/line> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_figure> ;
<http://.../includes/infered/
has_infered_characteristics>
<http://.../proprties/parallel> ;
<http://.../proprties/right>
<http://.../includes/infered/alsoconsists_of_texture>
<http://.../proprties/continious_outlined> ,
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/null> ;
<http://.../includes/infered/consists_of_count>
<http://.../proprties/3> ;
<http://.../includes/infered/consists_of_position>
<http://.../proprties/middle> ;
<http://.../includes/infered/consists_of_shape>
<http://.../proprties/line> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_figure> ;
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/open_shaped> ;
<http://.../includes/infered/
has_infered_characteristics>
<http://.../proprties/null> ;
<http://.../includes/infered/
has_infered_doesnothasshapefeature>
<http://.../proprties/parallel> ;
68
Jisha Maniamma
70. BP#38
circle < triangle
(size)
triangle < circle
(size)
Right answer:
Right answer:
2-9 従属な特徴を持つBPをどうやって解くか?
Towards understanding the relational
properties among each objects in a given BP
Properties={IP,DP}
70
Jisha Maniamma
74. has(leftside_1, ?a) ^ has(leftside_2, ?b) ^ has(leftside_3, ?c) ^ has(leftside_4, ?d) ^ has(leftside_5, ?e) ^
has(leftside_6, ?f) ^ circle(?a) ^ circle(?b) ^ circle(?c) ^ circle(?d) ^ circle(?e) ^ circle(?f) ->
has_infered_shape(left, circleLeft)
has(rightside_1, ?a) ^ has(rightside_2, ?b) ^ has(rightside_3, ?c) ^ has(rightside_4, ?d) ^
has(rightside_5, ?e) ^ has(rightside_6, ?f) ^ circle(?a) ^ circle(?b) ^ circle(?c) ^ circle(?d) ^ circle(?e) ^
circle(?f) ->
has_infered_shape(right, circleRight)
has(leftside_1, ?aa) ^ has(leftside_2, ?ab) ^ has(leftside_3, ?ac) ^ has(leftside_4, ?ad) ^ has(leftside_5, ?
ae) ^ has(leftside_6, ?af) ^ triangle(?aa) ^ triangle(?ab) ^ triangle(?ac) ^ triangle(?ad) ^ triangle(?ae) ^
triangle(?af) ->
has_infered_shape(left, triangleLeft)
has(rightside_1, ?aa) ^ has(rightside_2, ?ab) ^ has(rightside_3, ?ac) ^ has(rightside_4, ?ad) ^
has(rightside_5, ?ae) ^ has(rightside_6, ?af) ^ triangle(?aa) ^ triangle(?ab) ^ triangle(?ac) ^ triangle(?ad)
^ triangle(?ae) ^ triangle(?af) ->
has_infered_shape(right, triangleRight)
has(leftside_1, ?a) ^ has(leftside_2, ?b) ^ has(leftside_3, ?c) ^ has(leftside_4, ?d) ^ has(leftside_5, ?e) ^
has(leftside_6, ?f) ^ has(leftside_1, ?aa) ^ has(leftside_2, ?ab) ^ has(leftside_3, ?ac) ^ has(leftside_4, ?
ad) ^ has(leftside_5, ?ae) ^ has(leftside_6, ?af) ^ is_smaller_than(?a, ?aa) ^ is_smaller_than(?b, ?ab) ^
is_smaller_than(?c, ?ac) ^ is_smaller_than(?d, ?ad) ^ is_smaller_than(?e, ?ae) ^ is_smaller_than(?f, ?af)
^ circle(?a) ^ circle(?b) ^ circle(?c) ^ circle(?d) ^ circle(?e) ^ circle(?f) ^ triangle(?aa) ^ triangle(?ab) ^
triangle(?ac) ^ triangle(?ad) ^ triangle(?ae) ^ triangle(?af) ->
is_infered_smaller_than(circleLeft, triangleLeft)
74
75. 2-11 従属特徴問題 BP#38 の計算結果
circle < triangle
(size)
triangle < circle
(size)
Right answer: Right answer:
75
76. 2-12 まとめ
• 提案した論理アーキテクチャでボンガード問題100問中65問が
機械によって論理的な正解を導出することができることがわかっ
た。
• 提案したシステムでは、 RDFデータモデルを基盤に55個の共
通論理則を用いるだけでボンガード問題を解ける。つまり
を満たす解を見つけることができる
• したがって、このシステムは標準知的パズルであるボンガード問
題を解くという意味で、不良設定問題を解決し、今後様々な応用
が期待できる。
76
⋂ ⋂ ⋂ ( ⋂ (PA ⋂ PB= ɸ)(𝐿𝑖 ∈ 𝑃
𝐴
) ( 𝑅𝑖 ∈ 𝑃 𝐵) (𝐿𝑖∉ 𝑃
𝐵
) 𝑅𝑖∉ 𝑃 𝐴
)
^( ||
→ ||( ) ^ ( )||
||(𝐿𝑖 ∈ 𝑃
𝐴
)^( 𝑅𝑖 ∈ 𝑃 𝐵)^ (𝐿𝑖∉ 𝑃
𝐵
) 𝑅𝑖∉ 𝑃 𝐴
)
𝐿𝑖, h𝑎𝑠, 𝑃 𝐴
𝑅𝑖, h𝑎𝑠, 𝑃 𝐵
79. 事例:IBMの場合
79
• IBM Watson みずほ銀行コールセンター業務の革新
https://www.youtube.com/watch?v=gEejZEhHLpA
• 三井住友海上 + IBM Watson Explorerでコンタクトセンター
改革を実現
https://www.youtube.com/watch?v=hK60cDkAAZg
80. 80
IBM Watson とは?
• Watsonが学習する方法【日本語字幕付】
https://www.youtube.com/watch?v=2K3rjIMasRc
• IBM Watson Explorer ビジネスへの活用
https://www.youtube.com/watch?v=4W_vc-RT_LE
• IBM Watson Healthcare【字幕付】
https://www.youtube.com/watch?v=D63Au6db8Pc
データ駆動型AIと論理知識型AIの融合AI設計の一例