信用金庫のV社は、事業者向け融資の審査を補助するモデルの導入を検討している。審査担当者は、融資を断った申込者にその理由を説明する必要がある。候補は、各項目に係数を掛けて合計し確率に変換するロジスティック回帰と、数百本の決定木を組み合わせた勾配ブースティングで、検証データでの精度はほぼ同じだった。説明可能性の観点からの判断として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点：解釈しやすいモデルの選択
ポイント
人への影響が大きい判断では、精度が同程度なら初めから解釈しやすいモデルを選ぶことも、ブラックボックス問題への有力な対応です。
選択肢ごとの解説
- A
適切 正解
精度がほぼ同じなら、判断の根拠を示しやすいモデルを選ぶのが合理的です。ロジスティック回帰は係数の符号と大きさから各項目の影響を読み取れるため、断った理由を申込者に説明しやすくなります。
- B
不適切
決定木1本なら分岐の経路をたどれますが、数百本の木の出力を足し合わせる勾配ブースティングでは、全体の判断を人間が追うことは困難です。アンサンブル学習のモデルもブラックボックスとして扱われます。
- C
不適切
説明可能性が求められるのは医療などに限りません。融資や採用のように人の生活や機会を大きく左右する判断では、本人の納得や誤りの発見のために、判断の根拠を説明できることが重要です。
- D
不適切
SHAPなどの事後的な説明は、各項目が予測をどれだけ押し上げたかを要約して示すもので、内部の計算過程そのものではありません。影響の大きい用途では、初めから解釈しやすいモデルを選ぶことも有力です。
補足
ロジスティック回帰でも、項目の数が非常に多い場合や、項目どうしを複雑に組み合わせた特徴量を使う場合は、解釈しにくくなります。解釈しやすさは、モデルの種類だけでなく、使う特徴量の数や作り方にも左右されます。
試験での狙われ方
モデルの種類ごとの解釈しやすさと、説明が特に求められる用途を結びつけて問う形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （法律・倫理分野 項目13 透明性）
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日） （第2部C 6）透明性 ④関連するステークホルダーへの説明可能性・解釈可能性の向上）
- Rudin, Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead (2018)
- Lundberg, Lee, A Unified Approach to Interpreting Model Predictions (2017)