G検定 練習問題 #0117・悪用

音声ディープフェイクへの備え

AI倫理・AIガバナンス › 悪用 単一選択 難易度 基礎

商社のH社の経理担当者に、社長本人と思われる声で「極秘の案件なので、今日中に指定の口座へ送金してほしい」と電話があった。声も話し方も社長にそっくりだったが、送金先はこれまで取引のない口座だった。生成AIによるディープフェイクの悪用を想定した対応として、最も適切なものを1つ選べ。

正解と解説を見る

解説

正解 B

この問題の論点:音声ディープフェイクへの備え

ポイント

ディープフェイクは本物と見分けにくいため、あらかじめ決めた別の経路で本人に確認する業務手順が有効です。

選択肢ごとの解説

  1. A

    不適切

    音声合成の技術により、講演や動画などで公開された音声から、特定の人物によく似た声を作れるようになっています。声が似ていることは、本人であることの証拠になりません。

  2. B

    適切 正解

    相手が指定する手段ではなく、あらかじめ登録された別の経路で本人に確認するのが基本です。急がせる、秘密にさせるといった特徴は、なりすまし詐欺によく見られる手口です。

  3. C

    不適切

    生成技術と検出技術はいたちごっこの関係にあり、検出ツールの判定は確実ではありません。ツールは判断材料の1つとし、本人への確認や複数人での承認といった業務手順と組み合わせます。

  4. D

    不適切

    ディープフェイクは著名人だけでなく、企業の経営者や取引先になりすまして送金させる詐欺にも悪用された例が報じられています。講演や取材などで声や映像が公開される機会の多い経営者も、標的になりえます。

補足

生成する側の対策としては、電子透かしや、コンテンツの作成元や編集の履歴を記録する来歴の仕組みがあります。AI事業者ガイドラインも、広島AIプロセスの国際指針を受けて、技術的に可能な場合は、利用者がAI生成コンテンツを識別できるようにするコンテンツ認証や来歴の仕組みを開発・導入することを挙げています。

試験での狙われ方

ディープフェイクの悪用例(詐欺、偽情報、選挙)と、技術・制度・業務手順を組み合わせた対策を問う形が考えられます。

参考

表示設定

テーマ
文字の大きさ
問題演習