ある損害保険会社は、保険金の請求書類の不備を見つけるAIの本格導入を検討している。経営層は「AIを入れれば見落としがなくなる」と期待している。PoCでは、不備のある書類の95%を検出できたが、不備のない書類の一部も「不備あり」と判定した。本格導入に向けた進め方として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 B
この問題の論点：AIの誤りを前提とした業務設計
ポイント
AIは誤りをなくせない前提で、誤りの影響と許容できる水準を利用部門と合意し、人の確認を組み込んだ業務を設計します。
選択肢ごとの解説
- A
不適切
AIの誤りを完全になくすことは、現実にはほぼできません。達成できない目標を前提にするとPoCが終わらず、効果を得る機会も逃します。まず期待の水準を関係者とすり合わせます。
- B
適切 正解
AIの判定には誤りが残る前提で、見落としと誤検知のどちらがどれだけ困るかを利用部門と確かめ、許容できる水準を合意します。人が確認・修正する手順を組み込めば、誤りの影響を抑えられます。
- C
不適切
検出率が95%でも、残りの5%の不備は見落とされます。支払いの判断のように誤りの影響が大きい業務で人の確認をなくすと、見落としがそのまま損失や顧客の不利益につながります。
- D
不適切
しきい値を上げると誤検知は減りますが、見落としは増えるのが一般的です。経営層が見落としを心配している中で、影響を確かめずに片方だけを優先すると、関係者のニーズとずれます。
試験での狙われ方
精度100%を前提にする進め方や、人の確認をすべてなくす進め方は、業務への導入の場面では不適切になりやすい典型です。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目35 AIプロジェクトの進め方）
- Amershi et al., Guidelines for Human-AI Interaction (CHI 2019) （G2 Make clear how well the system can do what it can do / G9 Support efficient correction）