AIに対する監査とは

AIに対する監査は、AIを管理する仕組みが方針どおりに作られ、実際に機能しているかを、当事者から独立した立場で確かめることです。独立性が求められるのは、作った人や使っている人の自己点検だけでは、見落としや甘さが残りやすいからです。会社の決算書を、作成した部署とは別の監査人が確かめるのと同じ考え方です。

ガイドラインでの位置づけ

AI事業者ガイドラインのアジャイル・ガバナンスでは、サイクルの「評価」に当たります。別添の行動目標5-1は、経営層の主導のもと、AIマネジメントシステムの設計・運用から独立した、関連する専門性をもつ者に評価を求めることを期待しています。担い手の例は次のとおりです。

• 社内：内部監査部門、監査対象の業務に関与していないAI開発者を加えた自己監査
• 社外：外部の監査主体、国際機関など

実効性を高める工夫

• 結果をリスク管理部門やAIガバナンス担当役員に報告させる。
• 内部監査部門にAIの技術がわかる人を置く。AIに詳しくないと、指摘が見えやすい運用面に偏り、設計・開発の問題を見逃しやすくなります。
• 外部に任せきりにしない。社会の受け止め方の把握やステークホルダーとの対話は、自社でも進めます。

ガイドラインは、国際規格の参照も有用としています。AIマネジメントシステムの規格がISO/IEC 42001、その監査と認証を行う機関の要件がISO/IEC 42006です。

監査を支える記録

監査は、データの出所、判断の経緯、モデルのバージョンといった記録があって初めて成り立ちます。トレーサビリティや再現性の確保が前提です。研究では2020年に、開発の各段階で作成した文書を最終的な監査報告にまとめる、社内向けのアルゴリズム監査の枠組み（SMACTR）が提案されています。

倫理アセスメントとの違い

倫理アセスメントは、個々のAIが人や社会に与える影響を評価する活動です。監査は、そうした評価やモニタリングを含む仕組み全体が機能しているかを、独立した立場から確かめます。