機械学習モデルの判断根拠を説明する手法に関する説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点：説明可能AIの代表的手法
ポイント
Permutation Importanceは、特徴量の値を並べ替えたときの性能の低下から、モデル全体にとっての重要度を測ります。
選択肢ごとの解説
- A
適切 正解
Permutation Importanceは、学習済みモデルはそのままに、1つの特徴量の値だけをシャッフルして正解との対応を崩し、性能の悪化幅を調べます。悪化が大きい特徴量ほど、モデルが強く頼っていると判断できます。
- B
不適切
LIMEは、説明したい1件のデータの近くで入力を少しずつ変えたデータを作り、その範囲だけを線形モデルなどの単純なモデルで近似して、各特徴量の影響を示す局所的な説明手法です。
- C
不適切
SHAPは、各特徴量を協力ゲームの参加者とみなし、予測への貢献をシャープレイ値で配分します。モデルの種類を問わず使える手法で、表形式データを扱う勾配ブースティングなどにも広く使われます。
- D
不適切
その制約があるのはCAMです。Grad-CAMは、予測クラスのスコアを最後の畳み込み層の特徴マップで微分し、その勾配をチャネルごとに平均して重みとするため、モデルの構造を変えずに注目領域のヒートマップを作れます。
試験での狙われ方
各手法が局所的な説明か全体的な説明か、対象のモデルを選ぶかどうか、CAMとGrad-CAMの違いを問う形が典型です。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目33 モデルの解釈性）
- Breiman, Random Forests, Machine Learning 45 (2001)
- Ribeiro, Singh, Guestrin, "Why Should I Trust You?": Explaining the Predictions of Any Classifier (2016)
- Lundberg, Lee, A Unified Approach to Interpreting Model Predictions (2017)
- Selvaraju et al., Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization (2016)
- Zhou et al., Learning Deep Features for Discriminative Localization (2015)