人間の自律性とは

人間の自律性は、人が自分の意思で考え、選び、決めることです。AIは情報を選んで示したり、おすすめを出したりして、人の判断を助けます。しかし使い方によっては、本人が気づかないうちに判断を左右し、自分で決める力を弱めてしまいます。

自律性を損なう3つの形

• 操作：利用者の不安や衝動を読み取り、気づかれない形で購買や投票などの判断を誘導する。
• 過度の依存：AIの出力を確かめずに受け入れる。自動化されたシステムを過信するこの傾向を、自動化バイアスという。
• 選択肢の偏り：好みに合う情報ばかりが表示され、本来得られるはずの選択肢が知らないうちに狭まる（フィルターバブル）。

ガイドラインと法規制

AI事業者ガイドラインは、すべての事業者が取り組む「人間中心」の項目で、人間の尊厳と個人の自律を尊重するよう求めています。あわせて、人間の意思決定や感情を不当に操作するAIを開発・提供・利用しないこと、AIへの過度な依存のリスクに対策を講じることを挙げています。

EU AI法は、意識下に働きかける手法や、意図的に操作・欺瞞する手法で人の判断をゆがめ、重大な害を生じさせるおそれのあるAIを禁止しています（5条1項(a)）。2019年にEUの専門家会合がまとめた「信頼できるAIのための倫理ガイドライン」も、7つの要件の最初に「人間の主体性と監督」を挙げています。

「AIの自律性」との違い

AIエージェントのように、AIが人の指示を逐一待たずに動くことも「自律」と呼びます。しかし、シラバスでいう人間の自律性は、AIではなく人間の側の自由です。AIが自律的に動く範囲が広がるほど、人間が最終的に判断できる余地を残す設計が大切になります。影響の大きい判断に人の確認を挟む人間の関与（Human-in-the-Loop）は、そのための仕組みの1つです。

覚え方

「自律するのはAIではなく人間」と覚えます。