エッジAIとは

エッジAIは、AIの推論を、クラウドのデータセンターではなく、データが生まれる現場に近い端末で行う仕組みです。エッジとは「端」のことで、ネットワークの末端にあるスマートフォン、監視カメラ、自動車、工場の機械、IoT機器などを指します。

クラウドでの推論との違い

クラウドで推論する場合、端末はデータをインターネット経由でサーバーに送り、結果を受け取ります。エッジAIでは、端末の中のモデルがその場で答えを出します。これにより、次の利点が生まれます。

• 遅延が小さい：通信の往復を待たないため、自動運転や製造ラインの異常検知のように、すぐに判断が必要な処理に向きます。
• 通信量を減らせる：映像などの大きなデータを送らず、結果だけを送れば済みます。
• プライバシーを守りやすい：人の顔が映った映像などを外部に出さずに処理できます。
• 通信が途切れても動く：電波の届きにくい場所でも推論を続けられます。

課題とモデルの軽量化

一方、端末のメモリ、計算能力、電力、発熱の余裕はサーバーより限られます。そこで、大きなモデルをそのまま載せるのではなく、量子化、プルーニング、蒸留といったモデル圧縮の手法で小さくします。MobileNetのように、はじめから少ない計算量で動くよう設計されたモデルも使われます。推論を省電力で行う専用の演算回路を載せた端末もあります。

学習は大量のデータと計算を要するため、クラウドなどで行い、学習済みのモデルを端末に配る構成が一般的です。そのため、多数の端末にあるモデルを更新し、性能を見守る運用の仕組みも必要になります。

クラウドとの組み合わせ

エッジとクラウドは、どちらか一方を選ぶものとは限りません。端末で一次処理をして、集計や再学習はクラウドで行うなど、役割を分けて組み合わせる設計がよく取られます。

覚え方

「考える場所を、データの生まれる現場へ」と覚えます。