人材サービスのF社は、過去10年分の書類選考の結果を学習データとして、応募書類の合否を予測するモデルを作った。過去の合格者は男性が大半だった。差別を避けるため入力から性別の項目を削除したが、検証すると女性応募者の合格予測率は依然として低かった。この状況に関する説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 B
この問題の論点：代理変数によるバイアス
ポイント
センシティブ属性を削除しても、それと相関する代理変数を通じてバイアスが残ることがあります。属性別の結果を比べて検証します。
選択肢ごとの解説
- A
不適切
センシティブ属性の列を消しても、ほかの特徴量に性別の情報が残っていれば、モデルは間接的にそれを利用できます。件数不足による誤差と決めつけず、男女差の原因を調べる必要があります。
- B
適切 正解
性別と相関する項目は代理変数となり、削除した属性の代わりに偏りを再現します。検証のために、予測には使わない形で性別の情報を保持し、男女別の合格予測率や誤り率を比べることが有効です。
- C
不適切
偏りの原因は件数の少なさではなく、過去の選考そのものの傾向にあります。同じ方法で集めたデータを増やしても、偏った傾向がそのまま学習されるだけです。データの集め方や正解ラベルの妥当性を見直す必要があります。
- D
不適切
選ばれる割合をそろえる基準と、適格者が選ばれる割合（真陽性率）をそろえる基準は、別の公平性の定義です。グループ間で適格者の割合が異なると、一方をそろえても他方はそろわないのが一般的です。
試験での狙われ方
「センシティブ属性を除けば公平になる」という誤解を見抜けるかを、採用や融資の事例で問う形が典型的です。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （法律・倫理分野 項目10 公平性）
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日） （第2部C 3）公平性（脚注38 潜在的なバイアス））
- Kleinberg, Mullainathan, Raghavan, Inherent Trade-Offs in the Fair Determination of Risk Scores (2016)