MnasNetとは

MnasNetは、GoogleのMingxing Tanらが2018年に発表した、スマートフォン向けのCNNです。名前は、論文が提案したモバイル向けのNAS（MNAS）に由来します。人手で設計するのではなく、NASで構造を自動で探索して作られました。

実機で測った速さを目的に入れる

スマートフォン向けのモデルには、精度だけでなく速さが求められます。それまでの研究では、速さの目安として計算量（FLOPS）がよく使われていました。しかし計算量が同じでも、端末での実際の速さは大きく異なることがあります。論文では、MobileNetとNASNetの計算量はほぼ同じなのに、推論時間は113ミリ秒と183ミリ秒だった例が示されています。

そこでMnasNetの探索では、候補のモデルをPixelスマートフォンで実際に動かし、推論時間を測りました。精度と推論時間を1つの報酬にまとめ、推論時間が目標より長いほど報酬が下がり、短いほど上がるようにしています。この報酬が大きくなるように、強化学習で構造を探しました。

ブロックごとに違う構造を選ぶ

それまでのNASの多くは、セルと呼ぶ部品を数種類だけ探し、それを繰り返し積み重ねていました。MnasNetは、ネットワークをいくつかのブロックに分け、ブロックごとに畳み込みの種類、フィルタの大きさ、層の数などを選べるようにしました。層ごとの違いを保てるため、端末での効率が上がります。

成果とその後

ImageNetの画像分類では、MobileNetV2より約1.8倍速く、精度も上回りました。COCOの物体検出でも、MobileNetを使った場合より高い精度を示しています。MnasNetの探索空間は、のちにEfficientNetのベースのモデル（B0）の探索にも使われました。

覚え方

「MnasNetは、スマホで実際に測ってから選ぶNAS」と覚えます。