民主主義（シラバス 法律・倫理14）

なぜ民主主義の問題なのか

民主主義は、人々が多様な情報にふれ、自分で考えて選ぶことを前提にしています。ところが、SNSや動画サイトでは、AIによる推薦が一人ひとりに見せる情報を選んでいます。この仕組みが情報の偏りや偽の情報の拡散を生むと、世論や選挙の結果がゆがめられるおそれがあります。

注目を集めるほど得をする仕組み

多くのサービスは広告で収益を上げるため、利用者の注目を集め、長く使ってもらうほど得をします。この経済の仕組みはアテンション・エコノミーと呼ばれます。推薦アルゴリズムが反応されやすい情報を優先すると、刺激の強い情報や偽の情報が広まりやすくなります。2018年の研究は、Twitter上で偽のニュースが真実のニュースより速く、広く拡散したと報告しています。

日本でも、2024年の能登半島地震で、偽の救助要請の投稿をもとに警察や消防が出動する事例が起きました。総務省の検討会のとりまとめは、この地震の偽・誤情報に、閲覧数稼ぎなどの金銭的な動機やイデオロギーによるものが見られたとしています。

フィルターバブルとエコーチェンバー

	フィルターバブル	エコーチェンバー
原因	アルゴリズムが好みに合う情報を優先して表示する	似た考えの人どうしが集まり、意見が反響し合う
起こること	異なる意見から、知らないうちに隔てられる	同じ意見ばかりが返ってきて、考えが強まり極端になる
例	ニュースアプリが閲覧履歴から記事を選ぶ	同じ主張の人だけをフォローしたSNSのタイムライン

どちらも社会の分断につながると指摘されています。

選挙への影響

• AI事業者ガイドラインは、性格診断アプリなどで集めた個人情報から人の性格を推測し、それに働きかける広告を打った海外の選挙支援活動を、民主主義をゆがめる例として挙げています。
• 各国の選挙で、候補者についての偽情報やディープフェイクが広まる事例も起きています。

ガイドラインは、選挙など社会に重大な影響を与える手続きにかかわる場合は、AIの出力を慎重に扱うよう求めています。最終的な判断を人間が行うことも、有用な手法として挙げています。

対策

• 提供者：偶然の出会い（セレンディピティ）を考慮して推薦に多様性を持たせる、アルゴリズムを見直す、推薦の理由を示す。
• 利用者：複数の情報源にあたる、発信元を確かめる、拡散する前に立ち止まる。
• 社会：ファクトチェックやメディアリテラシーの教育を広げる。

個人に合わせた推薦には、ほしい情報に早くたどり着ける便益もあります。推薦をやめることではなく、多様な情報にふれる機会を保つことが目標です。