ある企業が、次の（ア）〜（ウ）の自然言語処理のモデルを開発する。それぞれの学習に主に使うデータの組み合わせとして、最も適切なものを1つ選べ。（ア）日本語のマニュアルを英語に訳す機械翻訳モデル（イ）契約書の文中から会社名や日付などの語句を抜き出すモデル（ウ）大量の文章から次の単語を予測して言語の知識を身に付ける、大規模言語モデルの事前学習
正解と解説を見る
解説
正解 C
この問題の論点：タスクに応じたコーパスの種類
ポイント
コーパスは、タスクが求める対応関係やラベルに合わせて選びます。事前学習では、ラベルのない大量のテキストそのものが学習の材料になります。
選択肢ごとの解説
- A
不適切
（イ）と（ウ）が逆です。ラベルのないテキストだけでは、どの語句が会社名や日付かという正解を学べません。逆に事前学習は、人手のラベルがなくても文章そのものから学べる点が強みです。
- B
不適切
（ア）と（イ）が逆です。固有表現のタグだけでは、日本語と英語の対応は学べません。翻訳には、同じ内容の日本語の文と英語の文を対にした対訳コーパスが必要です。
- C
適切 正解
機械翻訳には原文と訳文の対応を学ぶ対訳コーパス、固有表現の抽出には語句の範囲と種類を付けたタグ付きコーパスを使います。事前学習では、ラベルのない大量のテキストから次の単語を予測して学びます。
- D
不適切
（ア）と（ウ）が逆です。訳の対応が付いていないテキストだけでは、どの文がどの訳に当たるかを直接学べません。また、大規模言語モデルの事前学習は、対訳に限らずラベルのない大量のテキストで行います。
試験での狙われ方
コーパスの種類は、機械翻訳・固有表現抽出・事前学習などのタスクと結び付けて押さえておくと、選択肢を絞りやすくなります。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目36 データの収集・加工・分析・学習）
- Koehn, Europarl: A Parallel Corpus for Statistical Machine Translation (MT Summit X, 2005)
- Tjong Kim Sang and De Meulder, Introduction to the CoNLL-2003 Shared Task: Language-Independent Named Entity Recognition (2003)
- Brown et al., Language Models are Few-Shot Learners (2020) （2.2 Training Dataset）