ほくそ笑む

R言語と統計解析について

A Survey Of Methods For Explaining Black Box Models メモ (3)

機械学習の解釈可能性についてのサーベイ

  • Guidotti+ (2018) "A Survey Of Methods For Explaining Black Box Models"

のメモ

注:ここから各手法の紹介になるが、手法の具体的な内容をこの論文から正確に読み取ることは難しいので内容については言及しない

6 Solving the Black Box Model Explanation Problem

  • このセクションではブラックボックスのモデル説明問題に対する手法をレビューする
    • すなわちグローバルな説明を得る問題

6.1 Explanation via Single Tree Approximation

  • グローバルに理解可能な説明として単一の決定木を使用する手法
  • ブラックボックスが Neural Network
    • Craven et al. [20], 1996, Trepan
    • Krishnan et al. [50]
    • Boz [9], DecText
    • Johansson et al. [39] (遺伝的プログラミングを使用)
    • これらはすべて NN の性質を使わないため agnostic
  • ブラックボックスが Tree Ensemble
    • Chipman et al. [14]
    • [23], CMM (Combined Multiple Model)
      • [29]
      • [114], STA (Single Tree Approximation)
    • Schetinin et al. [87], CDT (Confident Decision Tree)
    • Hara et al. [32], ATM (Additive Tree Model)
    • [94], TSP (Tree Space Prototype)
      • ランダムフォレストの近接性 (proximity) を定義
    • これらの手法において、データを拡張するかどうか、どのように拡張するかは重要そうである

6.2 Explanation via Rule Extraction

  • グローバルに理解可能な説明として決定則を使用する手法
  • ブラックボックスが Neural Network
    • ここについてはすでにサーベイ [5] がある
      • サーベイ [5] はこの領域に強く特化しているため他の問題に使えない
    • Craven et al. [19]
    • Johansson et al. [40], ルール抽出のアルゴリズム G-REX [37] を使用
    • [38], REFNE
      • Augava et al. [8], RxREN
  • ブラックボックスが SVM
    • [70], SVM+P (SVM+Prototypes), if-then 規則に変換
    • Fung et al. [28], 線形SVMのみ
    • [65]
  • ブラックボックスが Tree Ensemble
    • Deng [22], inTrees
      • STEL (Simplified Tree Ensemble Learner) とも呼ばれる

6.3 Agnostic Explanator

  • ブラックボックスに関する制約のない手法
  • Lou et al. [60], 一般化加法モデル (GAM) を利用して、回帰スプラインとツリーアンサンブルを解釈する
    • 改良したものが同じ著者により [61] で提案されている
  • [33] GoldenEye
  • [51] PALM (Partition Aware Local Model)

6.4 Explanation via Other Approaches

  • その他特殊なアプローチとして [97] がある

7 Solving the Black Box Outcome Explanation Problem

  • このセクションではブラックボックスの出力説明問題に対する手法をレビューする
    • すなわちローカルな説明を得る手法

7.1 Explanation of Deep Neural Network via Saliency Masks

  • DNN に対して説明として Salient Mask を求める手法
    • Salient Mask は、画像またはテキストに対して、予測に寄与する部分のこと
  • [108] CNN と RNN の組み合わせにより画像キャプションを生成するブラックボックスに対して、予測の説明はキャプション内の各単語のアテンションとして得られるか
    • Fong et al. [25] も同様の結果を得ている。
  • [113] CAM (Class Activation Mapping)
    • [89] relaxed generalization Grad-CAM
  • [56] テキストに対して rationale (フレーズの部分集合) を組み込んだアプローチ

7.2 Agnostic Explanator

  • ブラックボックスに関する制約のない手法
  • [84] LIME (Local Interpretable Model-agnostic Explanations)
    • [82][83] は LIME の拡張
  • [98] MES (Model Explanation System)
    • Monte Carlo アルゴリズムを使用