生命保険会社のQ社は、過去のコールセンターの通話を文字に起こした記録でLLMをファインチューニングし、契約者向けの問い合わせ対応AIを作る計画である。記録には契約者の氏名、住所、証券番号などが含まれる。学習後のLLMが、こうした個人情報を回答の中にそのまま出力してしまうリスクへの対応として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点：LLMからの学習データ抽出
ポイント
LLMは学習データを記憶して再現することがあるため、出力させたくない情報は学習データに含めないことが対策の基本です。
選択肢ごとの解説
- A
適切 正解
出力させたくない情報は、そもそも学習データに含めないのが基本です。また、学習データに何度も現れる文章ほどそのまま再現されやすいことが知られており、重複を減らすことも記憶による漏えいを抑えます。
- B
不適切
大規模言語モデルへの問い合わせだけで、学習データの文章を数百件そのまま取り出せたという研究があり、氏名や電話番号も含まれていました。LLMが学習データを記憶し、再現することはありえます。
- C
不適切
出力の検証は有効な対策の1つですが、表記を変えた情報などを見逃すことがあります。フィルタは学習データからの除去と組み合わせる追加の防御とし、それだけに頼らないことが大切です。
- D
不適切
学習データを取り出す研究では、温度を高くするなどして多様な文章を大量に生成させ、その中から記憶された文章を見つけています。ランダム性の調整は、記憶された情報の漏えいを防ぐ手段になりません。
補足
総務省の「AIのセキュリティ確保のための技術的対策に係るガイドライン」も、システムの目的や用途に応じて、ファインチューニングデータなどに出力を意図しない機密情報を用いないことが重要になる場合があるとしています。なお、顧客の個人データを学習に使う場合は、利用目的の範囲内かどうかなど、個人情報保護法上の確認も欠かせません。
試験での狙われ方
生成AIの学習データに含まれる個人情報や機密情報が出力される事例で、学習の前後のどの段階で何をするかを問う形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （法律・倫理分野 項目11 安全性とセキュリティ）
- 総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」（令和8年3月） （3.4 AI提供者における対策（出力の検証）、3.5 AI開発者・提供者に係るその他の基本的な対策等）
- Carlini et al., Extracting Training Data from Large Language Models (2020)
- Kandpal, Wallace, Raffel, Deduplicating Training Data Mitigates Privacy Risks in Language Models (2022)