あるカード会社が、申込者が支払いを延滞する確率を予測するモデルにSHAPを適用した。データ全体での予測の平均（ベース値）は0.20である。申込者XのSHAP値は、延滞回数が＋0.16、年収が−0.05、勤続年数が−0.03、借入件数が＋0.09であった。SHAP値は予測確率の単位で計算され、特徴量はこの4つだけとする。申込者Xに対するモデルの予測確率として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点：SHAP値の加法性
ポイント
SHAPでは、ベース値と各特徴量のSHAP値の合計が予測値に一致します。符号は、予測を押し上げるか押し下げるかを表します。
選択肢ごとの解説
- A
適切 正解
SHAPでは、ベース値に各特徴量のSHAP値を足すと、その1件の予測値に一致します。0.20＋0.16−0.05−0.03＋0.09＝0.37です。延滞回数と借入件数が予測を押し上げています。
- B
不適切
0.17は、SHAP値だけを合計した値（0.16−0.05−0.03＋0.09）です。SHAP値はベース値からの増減を表すため、予測値を求めるにはベース値0.20を足す必要があります。
- C
不適切
0.45は、ベース値に正のSHAP値だけを足した値（0.20＋0.16＋0.09）です。年収と勤続年数の負のSHAP値は予測を押し下げる向きに働くため、合計から差し引きます。
- D
不適切
0.53は、ベース値にSHAP値の絶対値の合計0.33（0.16＋0.05＋0.03＋0.09）を足した値です。SHAP値の符号は予測を上げるか下げるかを表すため、符号をつけたまま足し合わせます。
補足
分類のモデルでは、SHAP値を確率ではなく対数オッズの単位で計算することもあります。その場合も、ベース値とSHAP値の合計が予測値（対数オッズ）に一致し、確率として読むには変換が必要です。この問題では、確率の単位で計算されているものとしています。
試験での狙われ方
SHAP値の符号の意味や、ベース値と予測値の関係を、数値の例で確かめさせる形が考えられます。