ある損害保険会社が、AIの判断根拠を説明するための手法を、社内の要件ごとに選んでいる。要件と手法の組み合わせとして、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 D
この問題の論点：要件に合う説明手法の選択
ポイント
説明手法は、1件ごとの説明か、モデル全体の説明かという観点と、扱うデータやモデルの種類で選び分けます。
選択肢ごとの解説
- A
適切
SHAPは1件ごとの予測について、各特徴量が予測をどちらの向きにどれだけ動かしたかを示す、局所的な説明の手法です。モデルの種類を問わず使え、表形式のデータでもよく用いられます。
- B
適切
Permutation Importanceは、ある特徴量の値をデータ間で並べ替えたときの性能の低下から、モデル全体がその特徴量にどれだけ頼っているかを測る、大域的な説明の手法です。
- C
適切
Grad-CAMは、CNNの特徴マップと、その特徴マップに関する出力の勾配から、判断に効いた画像の領域をヒートマップで示します。構造を変えたり再学習したりせずに、多くのCNNに適用できます。
- D
不適切 正解
CAMは、グローバルアベレージプーリングの直後に出力層を置いたCNNで、特徴マップと出力層の重みから画像の注目領域を示す手法です。表形式のデータを扱う勾配ブースティングには使えず、SHAPやLIMEが向いています。
試験での狙われ方
手法の名前と仕組みだけでなく、局所的か大域的か、画像向けかどうかといった観点で、使い分けを場面にあてはめて問う形が考えられます。