機械学習の社会実装では、予測精度が高くても、機械学習がブラックボックであるために使うことができないということがよく起きます。
このスライドでは機械学習が不得意な予測結果の根拠を示すために考案されたLIMEの論文を解説します。
Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "" Why should i trust you?" Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining. 2016.
4. 今回紹介する論文
● “Why should I trust you?” Explaining the Predictions of Any Classifier
○ 著者: MT Ribeiro, S Singh, C Guestrin
○ 投稿: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge
Discovery and Data Mining. ACM. 2016, pp. 1135–1144.
○ 引用: 6147件 (2021/08/10 時点)
● 論文の内容
○ 人間がモデルを”信頼する”ための手法を提案
■ 予測時に何を重要視したか、局所的な説明をするためのアルゴリズムLIME
■ モデル全体を説明する、大域的な説明のためのSP-LIME