1行定義
MobileNetとは、Depthwise Separable Convolutionで計算量を減らした、端末向けの軽量なCNNのことです。
くわしく
MobileNetは、Googleの研究者Andrew Howardらが2017年に発表したCNNです。スマートフォンなど、計算の力や電池に限りがある端末で画像認識を動かすことを目的にしています。
計算を2つに分けて軽くする
中心となる工夫は、Depthwise Separable Convolutionです。通常の畳み込みは、縦横の模様を見る処理と、チャネルどうしの情報を混ぜる処理を1回で行います。MobileNetはこれを、チャネルごとに縦横の模様を見るDepthwise畳み込みと、1×1のフィルタでチャネルを混ぜるPointwise畳み込みに分けます。
3×3のフィルタの場合、計算量は通常の畳み込みのおよそ8〜9分の1になり、精度の低下はわずかです。最初のMobileNetは、VGG16に近い精度を、約32分の1のパラメータ数と約27分の1の計算量で実現しました。
2つの乗数で大きさを調整する
モデルを縮めるためのハイパーパラメータも2つあります。
- 幅乗数(width multiplier):各層のチャネル数を一律に細くします。計算量は、およそ幅乗数の二乗の割合で減ります。
- 解像度乗数(resolution multiplier):入力画像を小さくします。計算量は、およそ解像度乗数の二乗の割合で減ります。
小さくするほど速くなる一方、精度は下がります。端末に合わせて精度と速さのバランスを選べます。
その後の発展
2018年のMobileNetV2では、反転残差と線形ボトルネックという構造が導入されました。この構造は、MnasNetやEfficientNetの基本ブロックにも使われています。MobileNetは、SSDなどの物体検出モデルの土台としても使われ、エッジAIを代表するモデルの1つになりました。
覚え方
「MobileNetは、畳み込みを縦横とチャネルに分けて軽くする」と覚えます。
G検定での出題
出題のされ方
通常の畳み込みをDepthwise畳み込みとPointwise畳み込みに分けて計算量を減らす仕組み、パラメータ数の計算、エッジAIでの活用場面が問われます。幅乗数などで精度と速さを調整できる点も論点です。
混同しやすい用語
| 用語 | 意味 |
|---|---|
| MobileNetこのページの用語 | Depthwise Separable Convolutionで計算量を減らした、端末向けの軽量なCNN |
| MnasNet | スマートフォンの実機で測った推論時間と精度の両方を目的にして、NASで構造を探索したモバイル向けのCNN |
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
MobileNetで幅乗数(width multiplier)を0.5にすると、計算量もおよそ半分になる。
答えを見る
答え × 誤り
幅乗数は入力と出力の両方のチャネル数を細くするため、計算量はおよそ二乗の割合で減り、0.5なら約4分の1になります。論文の表では、積和演算が約5億6,900万回から約1億4,900万回に減っています。
-
MobileNetV2では、細い層の間で一度チャネル数を広げてから戻す、反転残差(inverted residual)の構造が導入された。
答えを見る
答え ◯ 正しい
通常のボトルネックとは逆に、入口と出口を細く、中間を広くします。広げた中間でDepthwise畳み込みを行い、細い出口の層では活性化関数を使いません(線形ボトルネック)。
-
MobileNetは、画像分類だけでなく、物体検出モデルの特徴を取り出す部分としても使われる。
答えを見る
答え ◯ 正しい
論文では、SSDやFaster R-CNNの土台をMobileNetに置き換えた実験が示されています。端末で物体検出を行う用途で広く使われてきました。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目26 画像認識)
- Andrew G. Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco Andreetto, Hartwig Adam, MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications, arXiv:1704.04861 (2017) (3.1 Depthwise Separable Convolution、3.3 Width Multiplier、3.4 Resolution Multiplier、4.6 Object Detection)
- Mark Sandler, Andrew Howard, Menglong Zhu, Andrey Zhmoginov, Liang-Chieh Chen, MobileNetV2: Inverted Residuals and Linear Bottlenecks, CVPR 2018, arXiv:1801.04381