公平性（シラバス 法律・倫理10）

「属性を消せば公平」は誤り

「性別の列を消せば差別は起きない」と考えがちですが、AIはデータと設計を通じて社会の偏りを受け継ぎます。AIの判断が特定の集団に不当に不利になる問題を、アルゴリズムバイアスと呼びます。統計の「バイアスとバリアンス」のバイアス（予測の系統的なずれ）とは別の意味です。

偏りが入りこむ経路

• データの偏り：学習データに特定の集団が少ないと、その集団での精度が下がります。顔画像に肌の色が濃い人が少なければ、その人たちの認識を誤りやすくなります。
• サンプリングバイアス：データの集め方に原因がある偏りです。アプリの利用者だけを調べると、使わない人の傾向が抜け落ちます。同じ集め方で件数を増やしても直りません。
• 過去の判断の偏り：過去の採用や融資の結果を正解として学習すると、当時の差別的な判断まで再現します。
• 代理変数：センシティブ属性と相関する別の項目です。居住地域や職歴の空白期間が、人種や性別の代わりとして働くことがあります。
• 設計の選択：何を予測の目的にし、どの指標で評価するかでも結果は変わります。全体の正解率だけを見ると、少数の集団の誤りを見過ごします。

センシティブ属性と代理変数

センシティブ属性は、性別、人種、国籍、年齢、信条など、不当な差別につながりうる属性です。対象の属性は、憲法14条1項が挙げる事由や国際的な人権のルールを参考に決めます。

この属性を入力から外すだけでは、代理変数を通じて偏りが残ります。AI事業者ガイドラインも、これを潜在的なバイアスの例に挙げています。偏りを確かめるには、予測に使わない形で属性の情報を残し、属性ごとに結果や誤り率を比べる必要があります。

公平性の定義は1つではない

定義	考え方	書類選考での例
属性を使わない（unawareness）	センシティブ属性を入力に使わない	性別の列を削除する
demographic parity	集団間で陽性と予測する割合をそろえる	男女の通過率を同じにする
equalized odds	集団間で真陽性率と偽陽性率をそろえる	適格者が通る割合と、不適格者が通る割合を男女でそろえる
個人の公平性	似た人には似た結果を出す	経歴が同じなら性別によらず同じ結果にする

上の3つは集団の公平性、最後は個人の公平性の基準です。集団ごとに実際の適格者の割合が違うと、demographic parityとequalized oddsは、意味のある予測をする限り同時には満たせません。この両立の難しさは、再犯予測などの研究で示されています。用途に合わせて優先する公平性を決め、理由を説明できるようにします。

対策の流れ

センシティブ属性と確保すべき公平性の内容を決め、データの代表性を確かめます。そのうえで属性ごとに結果を評価し、必要に応じてデータの重み付けや判定のしきい値を調整します。影響の大きい判断には人間の確認を入れ、運用後も偏りを監視します。