病院グループのY社は、慢性疾患の患者の中から、手厚い訪問ケアの対象者を選ぶモデルを作った。ケアの必要性そのものは記録されていないため、グループの全患者の記録を使って翌年の医療費を予測し、予測額の高い順に対象者を選んだ。入力に人種や収入は含めていない。検証すると、通院の交通手段が乏しい地域の患者は、予測額が同じほかの患者より病状が重い傾向があった。この状況に関する説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 B
この問題の論点：予測目標の選び方とバイアス
ポイント
予測の目標が本当に知りたいものの代理にすぎない場合、精度を上げても偏りは残るため、目標の選び方から見直します。
選択肢ごとの解説
- A
不適切
問題はモデルの表現力ではなく、予測の目標に医療費を選んだことにあります。より高性能なモデルで医療費を正確に予測しても、医療費とケアの必要性のずれはそのまま再現されます。
- B
適切 正解
受診しにくい患者は、病状が同じでも医療を受ける機会が少なく、医療費が低くなります。医療費を必要性の代わりに予測したため、その差が必要性の差として扱われました。予測の目標を健康状態の指標に見直すことが対策になります。
- C
不適切
グループの全患者の記録を使っているため、データの集め方による偏りが主な原因ではありません。同じ目標のままデータを増やしても、医療費が必要性を低く表す傾向がそのまま学習されます。
- D
不適切
医療費の予測がいくら正確でも、医療費の高い順はケアの必要性の高い順と一致しません。目標が本当に知りたいものを表しているかを確かめないまま精度を上げても、偏りは解消しません。
補足
米国で広く使われていた医療のアルゴリズムを分析した2019年の研究では、医療費を必要性の代わりに予測していたため、同じリスクスコアでも黒人の患者のほうが病状が重いことが示されました。医療を受ける機会の差が、医療費の差として表れていたためです。予測の目標に健康状態の指標を組み合わせて見直すと、偏りは大きく減りました。
試験での狙われ方
入力にセンシティブ属性がないのに偏りが生じる事例で、原因が入力の項目、データの集め方、予測の目標のどこにあるかを見分けさせる形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （法律・倫理分野 項目10 公平性）
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日） （第2部C 3）公平性 ①AIモデルの各構成技術に含まれるバイアスへの配慮）
- Obermeyer, Powers, Vogeli, Mullainathan, Dissecting racial bias in an algorithm used to manage the health of populations, Science 366 (2019)