センシティブ属性とは

センシティブ属性は、AIの公平性を考えるときの出発点になる概念です。性別、人種、民族、国籍、年齢、宗教、障害の有無など、その違いを理由に人を不利に扱えば差別に当たる属性を指します。保護属性や要配慮属性とも呼ばれます。

何が当たるか

全員に共通の決まった一覧があるわけではありません。AI事業者ガイドラインの別添は、各事業者が自社にとってのセンシティブ属性を明確にするよう求めています。その際には、憲法14条1項が列挙する事由（人種、信条、性別、社会的身分、門地）や、国際的な人権のルールで言及されている属性を考慮するとしています。

公平性の評価での役割

センシティブ属性の値で人をグループに分け、合格率や誤り率をグループ間で比べることで、偏りの有無を確かめます。統計的パリティや機会均等といった集団公平性の基準は、どれもセンシティブ属性を軸に定義されています。そのため、評価にはセンシティブ属性の情報が必要になる場面があり、その取得や保管にはプライバシーへの配慮も求められます。

センシティブ属性を入力から外しても、それと強く相関する項目が代理変数として働けば、偏りは残ります。AI事業者ガイドラインも、明らかなセンシティブ属性を取り除いたデータでも、関連する情報から属性が類推されてしまう場合があると注意しています。

要配慮個人情報との違い

個人情報保護法の要配慮個人情報（2条3項）は、人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実などを含む個人情報です。取得には、原則としてあらかじめ本人の同意が必要です（20条2項）。

センシティブ属性と重なる部分はありますが、同じものではありません。たとえば性別や年齢は、公平性の分析では代表的なセンシティブ属性です。しかし、要配慮個人情報には含まれません。前者は公平性を考えるための概念で、後者は個人情報の取扱いを定める法律上の区分です。