人間の関与（Human-in-the-Loop）とは

人間の関与は、AIが判断する流れ（ループ）に人を組み込み、出力を確かめ、直し、必要なら止められるようにすることです。英語ではHuman-in-the-Loop（HITL）と呼ばれます。影響の大きい判断をAIだけに任せないための歯止めです。

関与の3つの型

EUの専門家会合が2019年に公表した「信頼できるAIのための倫理ガイドライン」は、人による監督の方法を3つ挙げています。ここでのHITLは狭い意味です。

• Human-in-the-Loop（HITL）：判断のたびに人が介入できる形。多くの場合、可能でも望ましくもないとされます。
• Human-on-the-Loop（HOTL）：設計段階で介入し、稼働中の動きを監視する形。
• Human-in-Command（HIC）：AIの活動全体と社会への影響を見渡し、どの場面でどう使うか、使わないかを決める形。

型は用途とリスクに応じて選びます。人が監督できる度合いが小さいほど、より広範なテストと厳格なガバナンスが必要だとされています。

ガイドラインと法規制

AI事業者ガイドラインは、共通の指針の「公平性」で、適切なタイミングで人間の判断を介在させる利用の検討を挙げています。EU AI法は14条で、高リスクAIを人が実効的に監督できるよう設計することを定めています。出力を覆すことや、「停止」ボタンなどで安全に止めることも含まれます。

形だけにしない

AIの出力をそのまま承認していては、関与の意味がありません。自動化されたシステムを過度に信頼し、依存する傾向を自動化バイアスといいます。AI事業者ガイドラインは対策として、AIの欠点を含む特性を学ぶトレーニングや、承認の理由を自分で考えてから承認することを挙げています。

人がラベル付けなどで学習に加わる仕組みも同じ名前で呼びますが、AIガバナンスでいう人間の関与は、運用や利用の判断への関わりです。

覚え方

「in（判断ごと）、on（見張る）、in Command（使うかを決める）」と覚えます。