ディープフェイクとは

ディープフェイクは、ディープラーニング（deep learning）と偽物（fake）を組み合わせた造語です。実在の人物の顔を別人の動画に合成したり、本人の声をまねた音声を作ったりして、本物と見分けにくい偽のコンテンツを作ります。2017年ごろ、海外の掲示板サイトで顔を入れ替えた動画とともに広まった言葉とされています。

作られ方

初期には、顔の特徴を圧縮して別人の顔に置き換えるオートエンコーダや、生成器と識別器を競わせるGAN（敵対的生成ネットワーク）がよく使われました。現在は拡散モデルや音声合成の技術も加わり、少ない素材からでも、もっともらしい偽物を作れるようになっています。

悪用のリスク

• なりすまし：経営者や家族の声をまねて、送金を指示する詐欺などです。
• 偽情報の拡散：AI事業者ガイドラインは、米国防総省の近くで爆発が起きたとする生成AIの偽画像がSNSで拡散し、株価が一時下落した例を挙げています。選挙で候補者の偽情報が出回る例もあります。
• 人権の侵害：本人の同意なく性的な画像や動画を作る被害が深刻です。
• 本物まで疑われる：偽物が広まるほど、本物の映像まで「フェイクだ」と言い逃れされるおそれがあります。

対策

対策は1つでは足りません。偽物を見抜く検出技術は、生成技術の進歩との追いかけっこになります。そこで、撮影や編集の履歴を記録してコンテンツの来歴を確かめる技術や、AIで作ったことの表示が重視されています。EUのAI法も、ディープフェイクを生成したAIの利用者に、人工的に作られたものであることの開示を求めています。組織では、重要な指示を別の経路で確かめる手順を決めておくことも有効です。

似た言葉のフェイクニュースは、偽の情報全般を指す広い言葉です。ディープフェイクは、フェイクニュースを作る手段の1つにもなります。