オープンデータセットとは

オープンデータセットは、誰でも入手できるように公開されたデータの集まりです。機械学習では、モデルの学習にも、性能の評価にも使われます。

代表的な例

• 画像：手書き数字のMNIST、1,400万枚以上の画像にラベルを付けたImageNet、物体検出やセグメンテーション向けのCOCO。
• テキスト：Wikipediaの記事をまとめたデータなど、コーパスとして公開された文章。
• 行政データ：国や自治体が公開する統計や地図などのデータ。

使う利点

データを自分で集めてアノテーションする費用と時間を省けます。また、多くの研究が同じデータセットで評価するため、手法どうしの性能を同じ条件で比べられます。性能を比べる共通の物差しとして使うデータセットと評価方法を、ベンチマークと呼びます。

使う前に確かめること

• 利用条件：公開されていても、自由に使えるとは限りません。研究目的に限る、商用利用を認めないなど、データセットごとにライセンスが定められています。
• 偏りと誤り：集め方によって、地域や属性に偏りが生じます。ラベルの誤りが含まれることもあります。
• 個人情報：顔写真や個人の書き込みが含まれることがあります。
• 現場との違い：撮影条件や対象が違えば、公開データで出た精度は自社の現場では再現されないことがあります。
• 評価データの混入：Webで公開された評価用の問題が大規模言語モデルの学習データに紛れ込み、性能が実力より高く出ることがあります。

データセットを作った目的や集め方、想定する用途を文書にまとめて添える「データシート」という提案もあります。

行政のオープンデータとの違い

日本政府のオープンデータ基本指針は、営利・非営利を問わず二次利用でき、機械判読に適し、無償で使えるデータをオープンデータと定めています。一方、機械学習で「オープンデータセット」と呼ばれるものには、商用利用を認めないものも含まれます。名前で判断せず、個々の利用条件を確認します。