ある食品工場が、16×16画素のグレースケール画像を256次元のベクトルに平坦化して入力し、ユニット数64の隠れ層と、ユニット数3の出力層で、包装の状態を3クラスに分類するニューラルネットワークを作った。隠れ層と出力層はいずれもバイアスを持つ全結合層である。このネットワークで学習するパラメータ（重みとバイアス）の総数として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 C
この問題の論点：全結合層のパラメータ数
ポイント
全結合層のパラメータ数は、入力数×出力数の重みと、出力数と同じ数のバイアスの合計です。
選択肢ごとの解説
- A
不適切
256＋64＋3＝323はユニット（ニューロン）の数です。全結合層では入力側と出力側のユニットのすべての組み合わせに重みがあるため、パラメータ数はユニット数の和ではなく積で増えます。
- B
不適切
256×64＋64×3＝16,576は重みだけの数です。全結合層は重み付き和にバイアスを足す線形関数なので、出力ユニットごとのバイアス64＋3＝67個も加える必要があります。
- C
適切 正解
隠れ層は重み256×64＝16,384個とバイアス64個で16,448個、出力層は重み64×3＝192個とバイアス3個で195個です。合計は16,448＋195＝16,643個です。
- D
不適切
重み16,576個に、バイアスを入力側のユニット数（256と64）で数えて加えた値です。バイアスは出力ユニットごとに1つずつ持つため、隠れ層は64個、出力層は3個が正しい数です。
補足
全結合層の1つの出力ユニットは、すべての入力に重みを掛けて足し合わせ、バイアスを加えます。この計算は線形関数で、その後に活性化関数を通します。画像を平坦化して全結合層に入れると、画素どうしの上下左右の位置関係を生かせません。また、1層目の重みの数は画素数に比例して増えます。画像で畳み込み層が使われる理由の1つです。
試験での狙われ方
入力と出力のユニット数を示し、重みとバイアスを合わせたパラメータ数を計算させる形や、畳み込み層との数の比較で問われます。