公平性の定義とは

「公平なAI」といっても、何をもって公平とするかは1つに決まりません。AIを使うときは、まず「どの意味で公平か」を決め、測れる形にします。こうして定めた基準を、公平性の定義と呼びます。

集団公平性の主な基準

センシティブ属性で人をグループに分け、予測の割合や誤り率をグループ間でそろえる考え方です。

• 統計的パリティ（demographic parity）：陽性と予測される割合（合格率など）をそろえる。
• 機会均等（equal opportunity）：実際に陽性の人が陽性と予測される割合、つまり真陽性率をそろえる。
• 均等化オッズ（equalized odds）：真陽性率に加えて、偽陽性率もそろえる。
• 予測パリティ：陽性と予測された人のうち、実際に陽性である割合（適合率）をそろえる。

センシティブ属性を入力に使わないこと（unawareness）も基準の1つです。ただし、関連する項目から属性が推測されうるため、それだけでは不十分です。

個人公平性

グループに分けずに、「似た人には似た結果を出す」ことを求める考え方です。何をもって似ているとするかを、用途ごとに決める必要があります。

基準どうしは両立しないことがある

2016年、報道機関のProPublicaは、米国の再犯予測ツールCOMPASについて、再犯しなかったのに高リスクと判定される割合が、黒人の被告で白人の被告のほぼ2倍だったと報じました。開発企業はこれに反論しました。

この論争をきっかけに、基準どうしの関係が数学的に調べられました。グループ間で実際の再犯率（基準率）が異なる場合、予測が完全でない限り、適合率をそろえる基準と、誤り率をそろえる基準は同時に満たせません。

基準の選び方

どの基準を優先するかは、技術だけでは決まりません。誤って不利に判定される害と、本来得られる機会を逃す害のどちらが重いかなど、用途と影響を踏まえて決めます。AI事業者ガイドラインの別添も、確保すべき公平性の内容を明確にするよう求めています。