word2vecの学習に、形態素解析で「母/が/庭/で/歌う」の5語に区切った文を使う。ウィンドウサイズは2(中心語の前後2語まで)に固定し、文の端では実在する語だけを周辺語とする。1回の予測で当てる単語を1語と数えるとき、この文から行われる予測の回数の組み合わせとして、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 B
この問題の論点:スキップグラムとCBOWの予測回数
ポイント
スキップグラムは周辺語の数だけ予測を繰り返すため、同じ文からCBOWより多くの予測を行い、そのぶん学習に時間がかかります。
選択肢ごとの解説
- A
不適切
予測の向きが逆です。中心語から周辺語を1語ずつ当てるのがスキップグラムで、14回になります。CBOWは周辺語の集まりから中心語を当てるので、中心語の数と同じ5回です。
- B
適切 正解
スキップグラムは中心語から周辺語を1語ずつ予測します。各語の周辺語は文頭から順に2、3、4、3、2語で、計14回です。CBOWは周辺語をまとめて入力して中心語を1回予測するため、5語で5回です。
- C
不適切
20回は、どの語にも前後2語ずつ計4語の周辺語があるとみなした値です。文の端では実在する語だけを使うため、1語目と5語目は2語、2語目と4語目は3語で、合計は14回です。
- D
不適切
CBOWは周辺語のベクトルを平均してまとめて入力し、中心語を1回だけ予測します。周辺語ごとに予測を分けるのはスキップグラムなので、CBOWの回数は中心語の数と同じ5回です。
試験での狙われ方
CBOWとスキップグラムは、何を入力にして何を予測するかという向きを入れ替えた選択肢で問われやすい論点です。