データ拡張（シラバス 技術25）

データ拡張の目的

データ拡張は、学習データに意味を変えない範囲の変換を加えて、データの数と多様さを増やす手法です。写真を少し回転させても、猫は猫のままです。こうした変化を含むデータで学習すると、モデルは学習データの細部を丸暗記しにくくなり、過学習が抑えられて汎化性能が上がります。新しくデータを集めてラベルを付けるコストをかけずに済む点も利点です。

画像の基本的な変換

まとまり	手法	内容
位置・向き	Random Flip	ランダムに左右（または上下）を反転する
位置・向き	Rotate	角度を変えて回転する
位置・向き	Crop	画像の一部を切り出す
色・明るさ	Brightness	明るさを変える
色・明るさ	Contrast	明暗の差を変える

どの変換が使えるかは課題によります。風景写真の上下反転は現実にない画像を作りますし、数字の6を大きく回転すると9に見えます。

一部を消す手法

• Cutout：画像のランダムな位置に、決まった大きさの正方形のマスクをかけ、画素を一定の値（0など）で塗りつぶします。
• Random Erasing：ランダムに選んだ長方形の領域を、ランダムな値で塗りつぶします。領域の大きさや縦横比も毎回変えます。

どちらも対象の一部が隠れた画像を作り、隠れに強いモデルにします。ラベルは元のままです。

2枚を混ぜる手法

• Mixup：2枚の画像を、画素ごとに一定の比率で重ね合わせます。ラベルも同じ比率で混ぜます。猫の画像を70%、犬の画像を30%で重ねたら、正解も「猫0.7、犬0.3」です。
• CutMix：一方の画像の一部を四角く切り取り、もう一方の画像の同じ位置に貼り付けます。ラベルは、貼り付けた部分の面積の比率で混ぜます。

変換を自動で選ぶRandAugment

変換の組み合わせを手作業で決めるのは手間がかかります。先行するAutoAugmentは、よい組み合わせを強化学習で探しましたが、探索に大きな計算コストがかかりました。RandAugmentは、変換の候補からN個をランダムに選び、すべてに共通の強さMで適用します。調整するのはNとMの2つだけなので、探索の手間が大きく減りました。

文章のデータ拡張

文章は少しの変更で意味が変わりやすいため、画像より慎重に扱います。

• paraphrasing：意味を保ったまま言い換えます。類義語への置き換えや、別の言語に翻訳してから元の言語に戻す逆翻訳が代表例です。
• noising：単語をランダムに削除・挿入・入れ替えたり、誤字を混ぜたりして、小さなノイズを加えます。音声に雑音を重ねるのも同じ考え方です。

「この店はおいしくない」から「ない」を消すと、感情のラベルが逆になります。どの手法でも、変換後に正解が変わらないかを確かめることが大切です。