解釈手法の弱点と注意点

解説

正解 D

この問題の論点：解釈手法の弱点と注意点

選択肢ごとの解説

1. A

   適切

   並べ替えた特徴量の情報を、相関の強い別の特徴量が補うため、性能があまり下がりません。本当は重要でも低く見えることがあるため、相関の強い特徴量をグループにまとめ、代表の1つだけを残して評価するなどの工夫をします。

2. B

   適切

   LIMEは、入力を少しずつ変えたデータをランダムに作り、その予測結果を線形モデルなどで近似します。乱数や近傍の範囲の設定によって結果がぶれるため、何度か試して安定性を確かめるのが望ましいです。

3. C

   適切

   シャープレイ値は、特徴量のあらゆる組み合わせについて、ある特徴量を加えたときの予測の変化を重み付きで平均して求めます。組み合わせの数は指数的に増えるため、サンプリングによる近似や、決定木の構造を利用した計算法などが使われます。

4. D

   不適切 正解

   Grad-CAMは通常、最後の畳み込み層の特徴マップをもとに計算します。ヒートマップの解像度はその特徴マップの大きさに限られ、入力画像より粗くなります。細部を示すため、画素単位の可視化手法と組み合わせる方法（Guided Grad-CAM）も提案されています。