トレーサビリティとは

トレーサビリティは、ある結果がどのような経緯で生まれたかを、記録をたどって後から確かめられる状態です。食品や工業製品では、どこで作られ、どの経路で届いたかをたどれることを指します。AIでは、データ、モデル、判断の経緯が追跡の対象です。

記録する主な内容

• データ：学習データの出所、収集の時期と方法、加工の履歴（データの来歴）
• モデル：どのデータとコードで学習した、どの版のモデルか
• 運用：判断したときの入力と出力、使ったモデルの版、日時
• 意思決定：開発や運用の途中で、誰が、何を、どんな理由で決めたか

なぜ必要なのか

AIが誤った判断をしたとき、記録がなければ、データの問題なのか、モデルの更新が原因なのかを特定できません。経緯をたどれれば、原因を突き止めて再発を防げます。AIについての責任を果たすこと（アカウンタビリティ）や、監査の土台にもなります。

ガイドラインと法規制

AI事業者ガイドラインは、共通の指針の「アカウンタビリティ」の最初に「トレーサビリティの向上」を置いています。データの出所や、開発・提供・利用中に行われた意思決定などを、技術的に可能かつ合理的な範囲で追跡・遡求できる状態にすることです。「透明性」の項では、検証可能性を確保するためのログについて、記録方法、頻度、保存期間を、事故の原因究明での重要性などを踏まえて検討するとしています。

OECDのAI原則も、アカウンタビリティの原則の中でトレーサビリティの確保を挙げています。EU AI法は12条で、高リスクAIに、存続期間を通じてログを自動で記録できる機能を求めています。

似た言葉との違い

再現性は、同じ条件でやり直して同じ結果を得られることです。トレーサビリティは、結果に至った経緯をさかのぼれることです。説明可能性は、モデルがなぜその出力をしたかを示すことで、トレーサビリティはその手がかりにもなります。

覚え方

「trace（たどる）＋ability（できること）」と覚えます。