2010年代に画像認識などで成果を上げたディープラーニングのモデルと、2020年代に急速に広がった生成AIとを比べた説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点:生成AIと従来型モデルの違い
ポイント
生成AIの多くは、大量のデータで事前学習した1つのモデルを多様なタスクに使う基盤モデルの考え方に立っています。
選択肢ごとの解説
- A
適切 正解
大量のデータで事前学習し、多様なタスクに適応できるモデルを基盤モデルと呼びます。GPT-3の論文では、追加の学習をせず、文章で課題や例を示すだけで、翻訳や質問応答などをこなせることが示されました。
- B
不適切
GPTシリーズをはじめ、大規模言語モデルの多くはTransformerを基本構造としています。系列の要素を順番に処理するRNNと違い、まとめて並列に計算できるため、大量のデータを使う大規模な学習に向いています。
- C
不適切
データを生成するニューラルネットワークは以前から研究されていました。2014年に提案されたGANは、生成器と識別器を競わせて画像などを生成します。生成AIは、こうした研究の延長線上にあります。
- D
不適切
GPT-3は1,750億個のパラメータをもち、約6,000万個のAlexNetの数千倍の規模です。こうしたモデルの学習には多数のGPUやTPUと膨大なデータが必要で、規模の拡大が性能の向上を支えました。
試験での狙われ方
生成AIを、GAN、Transformer、基盤モデルといったディープラーニングの発展の流れの中に位置づけさせる形が考えられます。