A Unified Approach to Interpreting Model Predictions まとめ

今回も判断根拠に関する論文を紹介します。
その名もSHAP。
こちらも、LIMEと同様、学習したモデルの説明を行う際に使用されます。

使用した論文
【 A Unified Approach to Interpreting Model Predictions まとめ 】
A Unified Approach to Interpreting Model Predictions

A Unified Approach to Interpreting Model Predictions

SHAPとは?

SHapley Additive exPlanationの略です。
LIMEと同じく、入力に対するブラックボックスモデルの予測の根拠を提示することで説明とする方法の一つです。

 

解釈可能なモデルが満たすべき3つの条件

Local Accuracy

局所的な精度。

式は下記のような感じ。
f(x)\quad =\quad g(x

Missingness

{ x

Consistency

一貫性。
式が長くて挫折しましたw

この3つが存在することが、解釈可能なモデルであるといえる条件と筆者は主張しています。

 

SHAP Value

SHAPely Value

日本語で調べると、シャアープレイ値と出てくる。
下記の式で表現される。

\phi _{i}(v)=\sum _{{S\subseteq N\setminus \{i\}}}{\frac {|S|!\;(n-|S|-1)!}{n!}}(v(S\cup \{i\})-v(S))

ゲーム理論は、協力ゲーム理論と非ゲーム理論にわけっることができる。今回は協力ゲーム理論を使用している。
協力ゲーム理論とは、他の人と協力して、得られたり利益をどのように分配するのかという理論です。

SHAP Value

SHAP Valueは、\phi を平均化することで、得られる。

 

提案されている6つの手法

今回提案されている手法は、合計4つです。

model-agnostic approximation methods

  • Kernel SHAP
  • SHAPley Kernel

model-type-specific approximation methods

  • Linear SHAP
  • Low-Order SHAP
  • Max SHAP
  • Deep SHAP

 

実験結果

計算効率性、人間の直感において、向上が見られた。

 

わからなかった単語

Novel

奇抜な、目新しい

property

性質

Quantitative

定量的な

 

参考になったリンク

シャープレイ値
NIPS2017読み会@PFN Lundberg and Lee, 2017: SHAP