Empfohlen
Weitere ähnliche Inhalte
Ähnlich wie SecurityDays2019 Spring
Ähnlich wie SecurityDays2019 Spring (20)
Mehr von Ruo Ando
Mehr von Ruo Ando (20)
SecurityDays2019 Spring
- 1. パスカルの賭け ～AI残酷時代の黒い運用術～ Security Days 2019.03 国立情報学研究所 特任准教授 安藤類央 Web公開版 rev.2019.05.01
- 5. 【背景】AIアルゴリズムの３分類 ①教師あり学習 - Misuse Detection バイオメトリクス、スパムメール検知等 パターンマッチング, 損失関数 どれだけ近いかを計ることが多い。 ②教師なし学習 - Anomaly detection クレジットカードの不正利用検知、システム侵入検知等 クラスタリング, 距離関数 どれだけ遠いかを計ることが多い。 ③強化学習 AIが正解を確かめることができる事例（Alpha Go等） 探索、報酬関数
- 9. "Blown-up" 「科学者たちが100万倍も知能 を高め、100万倍も速く作業す れば、１時間で１世紀分の進展 が見られることになる。」 - シンギュラリティは近い レ イ・カーツワイル ① 2007年のTJマックスのハッキング:4500万人の顧客と金融 データに影響。 ②2011年 ソニーのプレイステーションネットワークのハッキン グ: 7700万人のクレジットカード番号と個人情報が流出。被害は 10億ドルを越えると推定される。 ③2013年 クリスマス商戦時に、ロシアの17歳のハッカーが 米国のターゲット社のネットワークに侵入。1億1千万以上の口座か らデータを盗む。 ④2014年 ロシアのハッキング集団が、42万のWebサイトから 12億人分のユーザ名、パスワードなどを窃盗。 AIの発達に伴い、犯罪がアルゴリズムを実装したスクリプトで行われ、 自動化により必要な人手やコストは小さくなり、効果が大きくなって しまうケースが多くなる。 「自動化も脆弱性を悪化させる 一因となる。同時に、自動化は 攻撃者の友である。５円硬貨を 手づくりで偽造するという攻撃 は心配するほどのことではない。 しかし、これにコンピュータが 加わると様相が一変する。」 - セキュリティはなぜ破られた か ブルース・シュナイアー サイバー金融犯罪は特にこの傾向が強くなる
- 12. オペレーター（人間） オペレーター自身の人間としての行為主体性は、ただアルゴリズ ムの言葉を翻訳するだけのものに成り下がっていた。システムを 信頼するあまり、オペレーターは落胆した様子のヘミングスに 「これを無視することはできないんです。指令室としては、救急 医療隊員に意見を聞くことはできますが、システムが間違った答 えを出すことは考えかねます」とまでいっている。 WE ARE DATA アルゴリズムが「私」を決める ジョン・チェニー＝リッポルド（著）／高取芳彦（訳）／武邑光裕（解説）
- 13. 変容するプライバシー問題:管理と分類 ❑事例「Aの死」は、プライバシーの問題 ❑プライバシー権を持つものと持たざる者の間には常に、権利・権力を奪う、非対称な人間関係が存在してきた。 ❑従来のプライバシーは、知識と管理の双方における非対称性が生じることを防ごうとしてきた。この非対称性を よりバランスの取れたものとするところに、プライバシーの理論的な価値がある。 ❑こうした条件の非対称性は、オンラインかオフラインかを問わず、管理というものの核心だ。私達に関するデー タに基づき、管理が生まれ規定されるとき、プライバシーはまさにこの非対称性と闘っている。 ❑非対称性は、この種の新たな権力関係を際立たせる。国家であろうと資本であろうと、権力は、本人に確かめも せずに私達と分類する。 WE ARE DATA アルゴリズムが「私」を決める ジョン・チェニー＝リッポルド（著）／高取芳彦（訳）／武邑光裕（解説）
- 14. Back to feudalism? インターネット企業にとって、 私たちは顧客ではない。商品である。 ユーザと企業の関係は商業的という より は封建的といった方がいい。 Bruce Schneier (26 Nov 2012), “When it comes to security, we’re back to feudalism,” Wired, http:// www.wired.com/2012/11/feudal-security. 1人の人間が1日、どれくらい他人と「会話」してい るのか見当もつかないけれど、大雑把に平均したら、 その半分くらいはSNSだのメールだのを経由してい るんじゃないか。 そういうものを経由しているってことは、そこにカ ネを払っているということだ。 実際にカネを払っていることもあれば、間接的に支 払ってる場合もある。無料だからって安心していた らいけない。世の中の人がSNSに費やしている膨大 な時間は、いろんな仕掛けでカネに換算されるのだ。 昔に較べて世の中は自由になったということなんだ ろうけど、その反面で、俺たちは知らない間にどこ かの戦国大名の領民になっているってこともわかっ ていた方がいい。 「新しい道徳」 北野武 「超監視社会」 ブルース・シュナイアー 青土社 "If you are not paying for it, you are the product: how much do advertisers pay to reach you?" Panagiotis Papadopoulos, Nicolas Kourtellis, Pablo Rodriguez Rodriguez,Nikolaos Laoutaris IMC '17 Proceedings of the 2017 Internet Measurement Conference
- 15. データブローカーの「黒い」運用術 ❏データマイニングは、「カモ」を探すために使うのであって、 リスクやエクスポージャーを管理するのには使わない。 ❏データブローカーは、顧客のリスクやエクスポージャーを気に する必要はない。 ❏”if you're not paying for the product, you are the product” サービスに支払わなければ、あなたは製品として扱わ れる。