マルチタスク学習とは

マルチタスク学習は、関連する複数のタスクを、1つのモデルで同時に学習する手法です。たとえば工場の製品写真から、傷の検出、部品の種類の判別、組み付けのずれの判定を、別々のモデルではなく1つのネットワークに学ばせます。

なぜ効果があるのか

関連するタスクには、共通して役立つ知識があります。傷も部品の種類も組み付けのずれも、製品の画像から形や輪郭をとらえる特徴が土台になります。複数のタスクを同時に学ぶと、モデルはどのタスクにも通用する特徴を身につけようとします。その結果、1つのタスクのデータの雑音やくせに合わせすぎる過学習が起きにくくなります。1997年にこの手法を体系的に論じたCaruanaは、関連するタスクの教師信号を、汎化を高める手がかりに使う方法だと説明しました。

2つの共有のしかた

• ハードパラメータ共有：入力に近い層をすべてのタスクで共有し、出力に近い層だけをタスクごとに分けます。最もよく使われる方式です。
• ソフトパラメータ共有：タスクごとに別のモデルをもち、パラメータどうしの差に正則化をかけて近い値に保ちます。

学習では、タスクごとの損失を重み付けして足し合わせ、1つの損失として最小化するのが基本です。

注意点

関係の薄いタスクを一緒に学習すると、互いの学習を邪魔して、かえって性能が下がることがあります。これを負の転移と呼びます。損失の重みのつけ方によっては、一部のタスクばかりが学習されることもあります。

転移学習との違い

転移学習やファインチューニングは、先に学習したタスクの知識を、後から別のタスクに移します。マルチタスク学習は、複数のタスクを同時に学習する点が異なります。

マルチモーダルとの関係

シラバスでは、マルチモーダルの項目に含まれます。Unified-IOは、画像と言語にまたがる多数のタスクを1つのモデルで同時に学習した例です。

覚え方

「一緒に学ぶと、共通の土台が育つ」と覚えます。