アルゴリズムバイアスとは

アルゴリズムバイアスは、AIの判断が、性別、人種、年齢などで分けた特定の集団に対して、不当に不利な方向へ偏る問題です。AIは人間のような偏見をもたないと思われがちです。しかし実際には、データや設計を通じて人間社会の偏りを受け継ぎ、ときには拡大します。

偏りが入りこむ経路

主な経路は次のとおりです。

• データの偏り：学習データに特定の集団が少ないと、その集団での精度が下がります。データの集め方に原因がある場合は、サンプリングバイアスと呼びます。
• 過去の判断の偏り：過去の採用や融資の結果を正解として学習すると、過去の差別的な判断まで再現します。
• 代理変数：性別などのセンシティブ属性を入力から除いても、それと相関する住所や経歴などの項目を通じて、偏りが残ることがあります。
• 設計の選択：何を予測の目的にするか、どの評価指標を使うかといった判断も、結果の偏りに影響します。

実例と影響

2018年に発表されたGender Shadesという研究では、顔画像から性別を推定する複数の商用システムを調べました。誤り率は、肌の色が濃い女性で最大34.7%、肌の色が薄い男性で最大0.8%でした。採用、融資、医療、司法などで使われるAIに偏りがあると、人の権利や機会を直接左右します。

対策の考え方

AI事業者ガイドラインは、バイアスを完全には排除できないことを前提にしています。そのうえで、代表性のあるデータで学習し、合理的に説明できない不利益を生む「不公正なバイアス」がないかを点検するよう求めています。属性ごとに結果を比べる評価、人間による確認、運用後のモニタリングが基本です。なお、何をもって公平とするかの定義は複数あり、すべてを同時には満たせない場合があります。

統計学でいう「バイアスとバリアンス」のバイアス（予測の系統的なずれ）とは、別の意味で使われる言葉です。