人間の関与と自動化バイアス

解説

正解 A

この問題の論点：人間の関与と自動化バイアス

選択肢ごとの解説

1. A

   適切 正解

   人がAIの出力を過信する自動化バイアスへの対策です。AI事業者ガイドラインも、AIの欠点を含む特性を理解するトレーニングや、人がAIの判断を承認する前に自ら根拠を考えることを挙げています。

2. B

   不適切

   医師がAIの結果をほとんど修正していなければ、確認が形だけになっている兆候かもしれません。修正の頻度や、AIと医師の判断が食い違った事例を分析すると、関与が機能しているかを確かめられます。

3. C

   不適切

   厚生労働省は、AIを用いた診療でも診断の主体は医師であり、最終的な判断の責任は医師が負うと示しています。AIの判定だけで診断を確定させる運用はこれに反し、見落としが患者に重大な影響を与えるおそれもあります。

4. D

   不適切

   関与の度合いは、用途のリスクに応じて決めるのが基本です。文書の下書きのようなリスクの低い用途まで一律に承認を求めると、確認の負担が増えて承認が作業化し、かえって重要な判断での関与が形骸化しやすくなります。