「自己像の同一性」の利益とプライバシー－”Scored Society”の歩き方－ The Interest of “Personal Identity” and Privacy: －Living in the “Scored Society”－

「自己像の同一性」の利益と
プライバシー
－”Scored Society”の歩き方－
大谷卓史
吉備国際大学
電子情報通信学会技術と社会・倫理研究会
インターネットアーキテクチャ研究会共催
インターネットと運用技術研究会連催
2016年3月4日（金）虹ノ松原ホテル（佐賀県唐津市）

はじめに
• ドラゴンボールの「スカウター」は、戦闘力を
計測・可視化する架空の装置・・・
• しかし、実は私たちは点数化（数値化・順位
化）されて判断されるという「スカウター」もど
きの経験をすでにしている。
• たとえば、、、

はじめに
• たとえば、ローンやクレジットの与信審査では、
信用情報をもとにScoring（数値化・順位化）が
行われている。
• 職業・勤務先・年収、支払い状況などが、与
信審査のScoringの基礎データ。

はじめに
• 法学者CitronとPasqual(2014)によれば、ビッ
グデータの社会的応用として、”Scored
Society“とでも呼ぶべき人間の特性を全面的
にスコア化/点数化（数値化・順位化）して比
較する社会が到来しつあるとされる。
• さらに、このScoreの基礎データや算出アルゴ
リズムは公開されない傾向があり、結果とし
て、Scoreの開示・訂正がされない問題が生じ
ると予測する（Pasqual 2015）。

はじめに
• 本発表は、Scored Society概念を説明し、それ
がすでに現実的な事実を説明したうえで、
• Scored Societyでは、私たちが「自己像の同一
性」を脅かされ、さまざまな不利益を被る可能
性がある点を指摘し、
• オンラインプライバシーの課題は、自己情報
の隠蔽ではなく、自己像のポジティブな側面
の積極的開示に重点が移ってきたことを示す。

Scored Societyとは何か
• 人びとのあらゆる特性（人柄なども含む）が点
数化（数値化・順位化）され、比較される社会。
• 点数と順位によって、人々の取扱いは変化。
• 特性や人物像は、プロファイリングによる推
測も（特に、オンラインでの断片的情報取得
の場合）

点数化
• フィクションの例：Google風の企業を舞台にした
近未来小説『ザ・サークル』（Eggers 2013=2014）
• 従業員は，企業内ソーシャルメディアへの貢献
度が点数化され，順位付けされる．警官は網膜
に装着するアプリによって，犯罪者となりうる人
がどれだけ危険か色によって教えられる．情報
機関は，被疑者の連絡先のネットワークを可視
化し，それぞれの人びとが被疑者の知り合いだ
とタグ付したうえで，どれだけ被疑者に近いのか
やはり色で表わされる。

点数化
• 現実の成功例：『マネーボール』（Lewis
2003=2013）
• Oakland AthleticsのGM Billy Beanの物語。
• 野球を27回アウトを取られるまで終わらない
ゲームと定義。塁に出て長打でホームに返す
のがゲームでの必勝法。出塁率と長打力をも
とに、選手の特性を点数化。投資対効果の高
い選手を獲得し、貧乏球団を常勝球団に。

諸特性の点数化・順位化の例
• 与信審査
• オークションやECサイトでの売り手買い手評価
• アパート賃貸の可否審査
• 求職者の審査（オンライン活動からの創造性と
リーダーシップの推測）
• ソフトウェア開発者の能力評価（Git Hub
Ranking）
• 仮釈放時期の決定（累犯可能性の推測）など。

IoTの文脈における点数化
• Scored Societyのオンラインからオフラインへ
の全面的展開・・・
• ウェアラブル健康機器のセンシング結果の集
約と解析→点数化し生命保険料率の計算へ
• ドライブレコーダーの記録の集約と解析→点
数化し自動車保険料率の計算へ
• オフラインでの言動の記録の集約と解析→点
数化し就職者選抜での活用へ・・・？？

Scored Societyの問題点
1. 記録の永続性
2. 点数化・順位化の正のフィードバック効果
3. ゲームとその評価基準の定義のバイアス
4. 点数化システムとそのアルゴリズム・メカニ
ズムの隠蔽
5. 恣意的評価と差別
6. 意図せざるバイアス

記録の永続性
• 記録媒体の大容量化と低コスト化→記録コス
トの極端な低下→あらゆる記録が消去されず，
そのまま保存される傾向の増大
• 人物の評価とその評価のもとになるデータも、
すべて記録され永続的に保存される可能性
→悪評の永続化（Digital Scarlett Letter）の可
能性（Solove 2007）
• 点数化・順位化された結果も、永続的に保存
される可能性あり

点数化・順位化の
正のフィードバック効果
• 一度低い点数を得てしまうと，その低い点数
にふさわしい職種や会社内での地位に甘ん
じなければならなくなる可能性が高い（Fertik
and Thompson 2015=2015: 108-113）。
• サーチエンジンの検索結果の表示順位を決
める要素の一つはユーザーのクリックの
フィードバック。下位の検索結果は、その結果
上位になかなかあがれない（Brey 2004:
Tavani 2012）。

ゲームとその評価基準の定義による
バイアス
• 点数化・順位化は、ある枠組みの中で可能・・・
例）マネーボールにおける野球のゲームの定義
と点数化・順位化
• しかし、野球は、本当にBeanの定義したような
ゲームなのか？評価基準も野球の性質を変え
る・・・例）犠打や盗塁は点数化で無視
• 人間の特性の評価を行うためには、ある種の文
脈・枠組みを設定するが、人間や人生の見方が
変化しないか？→適応的選好形成と人生の意
味の変容？？

点数化システムと
そのアルゴリズム・メカニズムの隠蔽
• 不正な点数の操作を防ぐためには、点数化
システムとそのアルゴリズム・メカニズムの隠
蔽が必要（Citron and Pasqual 2014）
• 与信審査システムとそのアルゴリズムは一般
に非公開（Citron and Pasqual 2014）
• サーチエンジンがSEOによる検索結果の表示
順位の操作を防ぐためにアルゴリズムを隠蔽
する例（Levy 2011: 54-57）

恣意的評価と差別
• 一般的な人物評価における恣意的評価・差別
• 例）同一履歴書に対する典型的白人女性の氏
名と黒人女性の氏名で採用率に違い（9.65%と
6.45%）（Bertrand and Mullainathan 2004）
• 人間が設計・実装するため、判定アルゴリズム
や判定基準に差別的バイアスが入る可能性あり。
• 傍証）50万ファイル中29%の消費者の与信情報
の点数が50点以上異なる（Carter et al. 2006）

意図せざるバイアス
• 人物評価における恣意的評価や差別を取り
除いても残るソフトウェア中のバイアス→設
計・プログラミングの容易さなどから判断メカ
ニズムを簡略化、歪曲する可能性あり
（Friedman and Nissenbaum 1999）
• 一般的相関を実装した判断メカニズムによる
差別の問題。例）郵便番号による与信審査、
職業による与信審査など（Citron and
Pasquale 2014）。

SCORED SOCIETYの歩き方：
制度的対応と個人的対応

“Scored Society”の歩き方：
制度的対応と個人的対応
1. 制度的対応
• Scoringの透明性と訂正を実現するデュープロセ
ス導入（Citron and Pasquale 2014）
• 忘れられる権利、プロファイリングされない権利
の実装（EUデータ保護一般規則）
2. 個人的対応
• 意図的な自己の評判形成と自己像の管理
（Fertik and Thompson 2015=2015: 64-71, 99-106,
130-136, 161-166, 196-203など)

デュープロセス導入
• 点数化と利用の段階（ Citron and Pasqual
2014）
① 点数化される個人についてのデータを収集．
② 収集されたデータを計算し点数化．
③ 点数を意思決定者（雇用主など）に伝達．
④ 意思決定において点数を使用．
• 各段階において、透明性と訂正のための
デュープロセスの導入が期待される。

デュープロセスとは
• 法に基づく適正手続きの保障のこと。
• Scoringの透明性と訂正を実現する適正手続
きを法に基づいて実現せよと、Citron and
Pasqual（2014）は主張。

Credit Score規制とその課題
• FCRA(Fair Credit Reporting Act)でできること
– 信用機関が保管する自己の信用履歴の開示と
訂正.
– 訂正ができない場合には注釈の付与．
• FACTA（Fair and Accurate Credit Transaction
Act）でできること
– 信用機関に対してcredit scoreの開示要求可能

FICO Scoreの公開と応用
• FICO:米国で貸し手が活用するCredit Score
（私企業が提供）。
• FICOは、FCRAおよびFACTAをもとに本人に向
けてCredit Scoreが公開。
• そのため、個人が自分のFICO Creit Scoreを監
視して知ることができるツールも提供されてい
る（my FICO）。

• 点数化の各段階への有効かつ妥当な規制は、
FCRAおよびFACTAでも行われていない。
• Citron and Pasqale(2014)は、次のデュープロセス
導入を主張。
① 基礎データの開示と訂正の要求
② 点数化・順位化アルゴリズムとメカニズムの監
督査察による透明化の確保
③ 恣意的な評価基準やアルゴリズム等が発見さ
れた場合，リスクアセスメントと是正勧告を行う
措置

• 個人の保護に必要な追加的措置
① 監査証跡に基づく信用機関の通知の保障
② 自分の行動がcredit scoreにどう影響するか
インタラクティブに示すシミュレーションソフト
• 信用機関の信頼性のために必要な措置
① 個人が点数化・順位化システムを騙して不
正に点数・順位を上げようとした場合，信用
機関が異議申立てできる制度

「自己像の同一性」としての
プライバシー

意図的な自己の評判形成と
自己像の管理
• それでも、Credit Scoreは比較的透明性高い。
• それ以外の評判Scoreは点数化システムその
ものが存在するかどうかさえ不明。
• Fertik and Thompson（2015=2015）の勧告→
意図的な自己の評判の形成と注意深い自己
像の管理

意図的な自己の評判形成と
自己像の管理
• 自己のポジティブなイメージをつくりあげる
– あらゆる言動が記録され分析されると認識。不要
な過ちの告白は避け，影響力ある人びとと積極
的につながりコミュニケーションする，具体的な業
務遂行上のスキルのアピール。
• 自分ではコントロールできないネガティブな自
己情報の消去→「煙幕」の活用
– ポジティブかつ定量化が容易な自己情報を多数
発信。

「自己像の同一性」としての
プライバシー
• 「虚偽の光」（Prosserの第3類型）によって人物像
を誤解させる行為
• フランス法の自己像の同一性に対する権利
• 「要するに，人の人格が誤って社会的に表象さ
れることからの保護を求める権利であり，典型的
にはメディアによる人の誤った描写，すなわち，
インタビューが不正確に報道された場合や，行っ
てもいない行動を行ったと報道された場合にお
いて，救済を求めるような例」
→プライバシーの保護法益は「自己像の同一性」
（曽我部 2013: 203）

自己イメージと自己アイデンティティに
かかわるプライバシー理解
• van den Hoven（2008）：道徳的アイデンティティを
傷つける個人情報の不正行為
• 曽我部（2013）：「自己像の同一性」に対する権
利（利益）
• 阪本（1986）と佐伯（1984）：「社会的評価からの
自由」と「世間に対する役割と表象の多元性……
の確立」
• 棟居（2008: 173-214）：「多様な人間関係におい
て役割イメージを使い分ける自由」[24]
• 阪本（1999）：「フレーム」で捉えられた記号の解
釈で生じるプライバシー侵害の理解

自己像にかかわる
プライバシー保護の方法
• Fertik and Thompson（2015=2015）によれば、
自己の評判形成のため、自己像に関する情
報は隠蔽するのではなく、積極的に定量化し
やすいポジティブな自己情報を発信するのが
良いとされる。
• 現代におけるプライバシー保護の一側面は，
従来考えられていたように，自己情報を隠す
ことではなく，自己情報を開示し，積極的に発
信していくこと。

まとめ
• 個人のあらゆる特性のプロファイリングと点
数化・順位化は、意思決定を容易にする。
• 意思決定者にとってScored Societyは好都合
だが、対象となる個人には問題が多数ある。
• デュープロセスの導入や新しい権利の導入
が対策として期待される（が、有効性は不明）。
• プライバシー保護は（一部）隠すことから、定
量化容易なポジティブ情報の積極的発信へ。

今後の展望
• 積極的に発信された自己情報によって構成さ
れる自己像は，ネガティブな情報を隠す仮面
（ペルソナ）？
• 仮面や化粧などの概念を手掛かりに、プライ
バシーと自己像・アイデンティティとのかかわ
りをさらに考察。

謝辞
• 本研究は，JSPS科研費23520048およびJSPS
科研費26370040の助成を受けたものです．
本発表はその研究成果の一部です．

参考文献
• Bertrand, Marianne and Mullainathan, Sendhil (2004) “Are Emily
and Greg More Employable than Lakisha and Jamal? A Field
Experiment on Labor Market Discrimination, “ American Economic
Review, vol. 94, pp. 991-1013, Sep. 2004.
• Brey, Philip (2004) “Disclosive Computer Ethics, “ in Readings in
CyberEthics. (2nd ed.) Eds. R. A. Spinello and H. T. Tavani, Jones and
Bartlett, Sudbury, MA, pp. 55–66.2004.
• Carter, Caroline et al. (2006) “The Credit Card Market and
Regulation: In Need of Repair,“ North Carolina Banking Institute
Journal, Vol. 10, No. 23, pp.23-56.
• Citron, Danielle K. and Pasquale, Frank (2014) “The Scored Society:
Due Process for Automated Predictions,” Washington Law Review,
vol.89,pp.1-33.
• Eggers Dave (2013) The Circle: a Novel, Penguin, London. = (2014)吉
田恭子訳, ザ・サークル, 早川書房, 東京.

参考文献
• Enríquez, Juan (2013) “Your Online Life, Permanent as a Tattoo,” at TED
presentation. https://www.youtube.com/watch?v=pRXmEPZNkpY
• Fertik, Michael and Thompson, David C. (2015) The Reputation Economy:
How to Optimize Your Digital Footprint in a World Where Your Reputation
Is Your Most Valuable Asset, Piatkus Books, London = (2015)中里京子訳
『勝手に選別される世界ネットの「評判」がリアルを支配するとき，あな
たの人生はどう変わるか』ダイヤモンド社, 東京.
• Fried, Charles (1968) “Privacy[A moral analysis], “ The Yalre Law Journal,
vol. , pp.475-493.
• Friedman, Batya, and Nissenbaum, Helen (1996) “Bias in Computger
Systems, “ ACM Transactions on Information Systems, vol. 14, no. 3, pp.
330-347, July 1996.
• Lewis, Michael (2004) Moneyball : the Art of Winning an Unfair Game,
W.W. Norton, New York. = (2013) 中山宥訳, マネーボール完全版, 早川
書房, 東京.

参考文献
• Levy, Steven (2011) In the Plex: How Google Thinks, Works, and
Shapes Our Lives, Simon & Schuster, New York
• Marwick, Alice E. (2014) How Your Data Are Being Deeply Mined,
The New York Review of Books, Jan. 9, 2014.
http://www.nybooks.com/articles/2014/01/09/how-your-data-are-
being-deeply-mined/
• Pasquale, Frank (2015) The Black Box Society : The Secret
Algorithms That Control Money and Information, Harvard University
Press, Cambridge: MA.
• Prosser, William (1960) “Privacy[A legal analysis], “ California Law
Review, Vol. 48, pp. 338-423.
• Rachels, James (1975) “Why Privacy is Important, “ Philosophy &
Public Affairs, vol. 4, no.4, pp.323-333. Sen, Amartya (1984) “Well-
being, Agency and Freedom: The Dewey Lectures 1984, “ Journal of
Philosophy 82, 169-221.

参考文献
• Sen, Amartya (1985) “Well-being, Agency and Freedom: The Dewey
Lectures 1984, “ Journal of Philosophy, vol. 82, 169-221.
• Solove, Daniel (2007) The Future of Reputation: Gossip, Rumor, and
Privacy on the Internet, Yale University Press, New Haven and
London.
• Tavani, Herman (2012) “Search Engines and Ethics, “ Stanford
Encyclopedia of Philosophy.
http://plato.stanford.edu/entries/ethics-search/
• Trottier, Daniel (2014) Identity Problems in the Facebook Era,
Routledge, Abington.
• van den Hoven, Jeroen (2008) “Information technology, privacy, and
the protection of personal data, in Information technology and
moral philosophy, “ in Information technology and moral philosophy,
J. Van Den Hoven and J. Weckert eds., Cambridge University Press,
Cambridge, pp. 301–322.

参考文献
• 佐伯仁志 (1984)「プライヴァシーと名誉の保護（1）～（4・完）」『法学協会
雑誌』, vol. 101, no. 7-9, 11.
• 阪本俊生(1999)『プライバシーのドラマトゥルギーフィクション・秘密・個
人の神話』世界思想社, 東京.
• 阪本昌成 (1986)『プライヴァシー権論』日本評論社, 東京.
• 総務省 (n.d.) 「個人データ保護規則」案仮訳.
http://www.soumu.go.jp/main_content/000196316.pdf (原著 Europe
Union, Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND
OF THE COUNCIL on the protection of individuals with regard to the
processing of personal data and on the free movement of such data
(General Data Protection Regulation, 2012)
• 曽我部真裕, 反論権と表現の自由, 有斐閣, 東京, 2013.

参考文献
• 本田由紀 (2004) 『多元化する「能力」と日本社会ハイパーメリトクラシー
化のなかで』NTT出版, 東京.
• 棟居快行(2008)『人権論の新構成』信山社, 東京.
• 「マネーボール」, Wikipedia.
https://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%8D%E3%83%BC%E3%
83%BB%E3%83%9C%E3%83%BC%E3%83%AB

「自己像の同一性」の利益とプライバシー－”Scored Society”の歩き方－ The Interest of “Personal Identity” and Privacy: －Living in the “Scored Society”－

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Kürzlich hochgeladen

Kürzlich hochgeladen (12)

Empfohlen

Empfohlen (20)