CNNの中間層の出力（サンプル数×チャネル数×高さ×幅）に適用する正規化の手法と、平均と分散を計算する範囲の説明として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 D
この問題の論点：正規化手法と統計量の範囲
ポイント
グループ正規化は統計量の範囲がグループ数で変わり、グループ数1でレイヤー正規化、チャネル数と同数でインスタンス正規化と同じになります。
選択肢ごとの解説
- A
適切
バッチ正規化は、同じチャネルの値をミニバッチ全体と縦横の全位置から集めて統計量を求めます。推論時は、学習中に蓄積した平均と分散の移動平均を使います。
- B
適切
レイヤー正規化は1つのサンプルの中だけで統計量を求めるため、ミニバッチサイズに左右されません。RNNやTransformerでよく使われる手法です。
- C
適切
インスタンス正規化は、画像1枚・チャネル1つの範囲だけで統計量を求めます。画像ごとのコントラストの違いなどを打ち消せるため、スタイル変換で使われてきました。
- D
不適切 正解
グループ数をチャネル数と同じにすると、各グループは1チャネルだけになり、インスタンス正規化と同じ計算になります。レイヤー正規化と一致するのは、全チャネルを1つにまとめるグループ数1のときです。
試験での狙われ方
各正規化手法と、統計量を計算する範囲（サンプル方向・チャネル方向）の対応や、グループ正規化とほかの手法の関係を入れ替えて問う形が見られます。