データの偏りとは

AIはデータから学ぶため、データが偏っていれば、その偏りを判断に持ち込みます。データの偏りは、アルゴリズムバイアスの主な原因の1つです。AI事業者ガイドラインの別添も、データは現実の一部を切り取ったものにすぎず、特定のコミュニティがデータ上に少なすぎたり多すぎたりするおそれがあると注意しています。

主な種類

偏りの入り方は、いくつかに分けて考えると整理しやすくなります。

• 代表性の偏り：特定の集団のデータが少ない。2018年の研究では、顔分析の評価に使われていた2つのデータセットで、肌の色が明るい人が約80%と約86%を占めていました。集め方に原因がある場合は、サンプリングバイアスと呼びます。
• 歴史的な偏り：データは正確でも、過去の社会の不平等や差別的な判断をそのまま記録している。
• 測定の偏り：測り方や記録の仕方が集団によって違う。知りたいものの代わりに測りやすい量を使うと、その代理変数のずれも入ります。
• ラベルの偏り：正解ラベルを付ける人の先入観が反映される。

AIへの影響

データに少ない集団では精度が下がり、誤りがその集団に集中します。全体の精度が高くても、この偏りは平均に埋もれて見えにくくなります。社会の偏見を含むデータで学習すると、AIはそれを再現します。その判断が広く使われると、偏りがさらに広がることもあります。

対策

データの出どころと集め方を記録し、集団ごとの件数や比率を確かめます。不足する集団のデータを補い、集団ごとに精度や誤り率を評価します。入力ミスを直すデータクレンジングだけでは、こうした偏りは取り除けません。

不均衡データとの区別

不良品が全体の1%しかないといった、分類のクラスごとの件数の差も「データの偏り」と呼ばれることがあります。こちらは不均衡データと呼ばれ、主に予測精度の問題として扱います。公平性の文脈でいうデータの偏りとは、論点が異なります。