Dilated Convolutionとは

Dilated Convolutionは、フィルタの目を粗くして、広い範囲を一度に見る畳み込みです。Atrous Convolutionとも呼ばれ、同じ操作を指します。Atrousは、フランス語のà trous（穴のあいた）に由来します。

仕組み

Dilated Convolutionでは、フィルタの要素どうしの間に間隔を設けます。間隔の度合いを膨張率（dilation rate）と呼びます。膨張率2なら1画素おき、膨張率3なら2画素おきに値を取り出して計算します。膨張率1なら通常の畳み込みです。膨張率は、設計者があらかじめ決めるハイパーパラメータです。

フィルタの大きさをk、膨張率をdとすると、見渡す範囲は k + (k − 1) × (d − 1) です。3×3のフィルタなら、膨張率2で5×5、膨張率4で9×9の範囲を、9個の重みのまま扱えます。

なぜ使うのか

広い範囲の文脈をつかむには、層を重ねるか、プーリングやストライドで特徴マップを縮めるのが一般的です。しかし層を増やせば計算が増え、縮めれば位置の細かい情報が失われます。

Dilated Convolutionなら、パラメータ数を増やさず、解像度も保ったまま受容野を広げられます。膨張率を層ごとに1、2、4、8と倍にして重ねると、受容野は層の数に対して指数関数的に広がります。

使われている場面

• セマンティックセグメンテーション：DeepLabは、解像度を保ったまま周囲の文脈を捉えるために使います。膨張率の異なる畳み込みを並べるASPPも使います。
• 音声生成：WaveNetは、因果的な畳み込みと組み合わせ、長い波形を少ない層で扱いました。

ストライドとの違い

ストライドは「フィルタをずらす幅」で、大きくすると出力が小さくなります。Dilated Convolutionは「フィルタの内側の間隔」で、出力を間引かずに見る範囲を広げます。

覚え方

「網の目を粗くして、広く見る。網の数は増やさない」と覚えます。