Cutoutとは

Cutoutは、学習用の画像の一部を正方形で塗りつぶし、一部が隠れた画像で学習させるデータ拡張の手法です。2017年にDeVriesとTaylorが提案しました。写真の毎回違う場所に、四角い付箋を貼って隠すイメージです。

仕組み

学習のたびに、画像の中から中心の位置をランダムに選び、決まった大きさの正方形の範囲を0で塗りつぶします。画像はあらかじめ画素の平均が0になるように正規化しておくので、データ全体の平均的な色で覆うことになります。正方形の一部が画像の外にはみ出すことも許します。そのため、ほとんど隠れない画像も混ざります。論文では、この扱いが良い性能に欠かせなかったと報告されています。正解ラベルは変えません。猫の顔が隠れても、写っているのは猫だからです。推論のときは、画像をそのまま使います。

なぜ効くのか

モデルは、猫の顔のように特に目立つ部分だけに頼って判断しがちです。その部分が隠れた画像で学習すると、耳や体の模様など、ほかの手がかりも使うようになります。その結果、過学習が抑えられ、物の一部が隠れた画像にも強くなります。論文では、CIFAR-10、CIFAR-100、SVHNで精度が上がりました。反転や切り出しなど、ほかのデータ拡張と組み合わせて使えます。

ドロップアウトとの関係

Cutoutは、ドロップアウトを入力画像に応用したものとみなせます。違いは2つです。中間層ではなく入力層に適用すること、そして1つずつの画素ではなく、まとまった領域を消すことです。

似た手法との違い

• Random Erasing：Cutoutと同じ2017年に論文が公開されました。長方形の大きさや縦横比を毎回変え、ランダムな値で塗りつぶします。
• CutMix：塗りつぶす代わりに別の画像の一部を貼り付け、正解ラベルも面積の比率で混ぜます。