悪用（シラバス 法律・倫理12）

悪用とは何か

AIの悪用は、本来の目的から外れた使い方で、人や社会に害を与えることです。同じ技術が役にも立ち、害にもなる点が難しいところです。たとえば音声合成は、声を失った人の支援にも、なりすまし詐欺にも使えます。

日本のAI法（2025年）は、AIの研究開発や活用が不正な目的や不適切な方法で行われると、犯罪への利用、個人情報の漏えい、著作権の侵害などを助長するおそれがあるとしています。そのうえで、透明性の確保などの施策を講じるよう定めています（3条4項）。国は、こうした権利侵害の事案を分析し、対策を検討することになっています（16条）。

典型的な悪用

• なりすまし詐欺：経営者や家族の声や顔をまねて、送金や情報の提供を指示します。
• 世論の操作：選挙で、候補者が言っていない発言の動画や画像を広めます。
• 人権の侵害：本人の同意なく、性的な画像や動画を作ります。
• 市場の混乱：AI事業者ガイドラインは、「国防総省の近くで爆発が起きた」とする生成AIの偽画像がSNSで広まり、株価が一時下落した例を挙げています。

生成AIで変わったのは、専門の知識がなくても、短時間で精巧な偽物を大量に作れるようになった点です。偽物が増えると、本物の映像まで「フェイクだ」と言い逃れされるおそれも出てきます。

ディープフェイクとフェイクニュース

	ディープフェイク	フェイクニュース
指すもの	AIで作った偽の映像・音声・画像	報道などを装って広まる、事実と異なる情報
作り方	GAN、拡散モデル、音声合成など	手段を問わない（文章だけのものも含む）
関係	フェイクニュースを作る手段の1つ	ディープフェイクを含む広い概念

偽の情報には、だます意図で作られたもの（偽情報）と、勘違いで広まったもの（誤情報）があります。AI事業者ガイドラインは、AIが作った偽情報・誤情報・偏った情報が社会を混乱させるリスクを踏まえて、対策をとるよう求めています。

対策は組み合わせる

立場	対策の例
開発者・提供者	禁止する用途を利用規約で示す、有害な出力を防ぐ、電子透かしや来歴の情報を付ける
利用する組織	送金などの重要な指示は、登録済みの別の連絡先で本人に確かめる手順を決める
社会・個人	発信元を確かめる、ファクトチェックを活用する、拡散する前に立ち止まる

広島AIプロセスの国際指針は、電子透かしなどで、AIが作ったコンテンツを利用者が見分けられるようにする認証や来歴の仕組みの導入を掲げています。EUのAI法は、ディープフェイクを作るAIを利用する者に、AIで生成・加工したことの開示を求めています（50条4項）。