公開された学習済みモデルの汚染

解説

正解 C

この問題の論点：公開された学習済みモデルの汚染

選択肢ごとの解説

1. A

   不適切

   モデル汚染は、学習済みモデルそのものにバックドアなどの細工を仕込む攻撃です。自社のデータをいくら点検しても、ダウンロードした時点でモデルに仕込まれていた細工は見つけられません。

2. B

   不適切

   ファインチューニングで重みが変わっても、仕込まれたバックドアが残る場合があることが研究で示されています。追加学習をしたことを、安全性を確かめたことの代わりにはできません。

3. C

   適切 正解

   バックドアを仕込まれたモデルは、トリガーとなる模様を含まない通常の入力には正しく応答します。精度評価に加えて、配布元の信頼性の確認や、トリガーの有無を調べる検証が必要です。

4. D

   不適切

   利用者が多いことは、改ざんされていない保証になりません。精度が高くても細工が潜んでいることがあるため、配布元の信頼性を確かめ、ハッシュ値などでファイルの改ざんの有無を確認します。