1行定義
データマイニングとは、大量のデータを統計学や機械学習の手法で分析し、人が気づいていなかった有用な規則性や傾向を見つけ出す技術のことです。
くわしく
データマイニングは、大量のデータの中から、人が気づいていなかった規則性や傾向を見つけ出す技術です。マイニングは「採掘」を意味し、データの山から価値のある知識を掘り当てることにたとえた言葉です。企業にデータが大量にたまるようになった1990年代に、広く使われるようになりました。
知識発見の流れの一部
ファイヤドらは1996年の論文で、データから知識を得る一連の過程をKDD(Knowledge Discovery in Databases、データベースからの知識発見)として整理しました。KDDは、データの選択、前処理、変換、データマイニング、解釈・評価という段階からなります。この整理では、データマイニングはパターンを取り出す中心の段階です。実務では、前後の工程を含めた全体をデータマイニングと呼ぶことも多くあります。
主な手法
- アソシエーション分析:一緒に起こりやすい事柄の組み合わせを見つける。
- クラスタリング:似たもの同士をグループに分ける。
- 分類・回帰:過去のデータから、ラベルや数値を予測する規則を作る。
- 異常検知:大部分と違う振る舞いをするデータを見つける。
これらの多くは、機械学習や統計学の手法です。ファイヤドらも、データマイニングを機械学習、統計学、データベースの技術と深く関わる分野として位置づけています。
G検定での位置づけ
知識表現の項目で、ウェブマイニングと並んで登場します。人手で知識を書き込む方法には限界がありました。そこで、蓄積されたデータから知識を自動で取り出す方向が重視されるようになりました。対象をWeb上のデータに広げたものがウェブマイニングです。
注意点
見つかったパターンは、項目どうしの相関を示すだけで、因果関係を示すとは限りません。偶然の一致や、背後にある別の要因による見かけの相関もあります。結果を施策に使う前に、検証が欠かせません。
G検定での出題
出題のされ方
大量のデータから未知のパターンを見つけるという目的や代表的な手法、ウェブマイニングやビッグデータとの関係が問われます。業務の事例に当てはめて判断させる形もあります。
混同しやすい用語
| 用語 | 意味 |
|---|---|
| データマイニングこのページの用語 | 大量のデータを統計学や機械学習の手法で分析し、人が気づいていなかった有用な規則性や傾向を見つけ出す技術 |
| ウェブマイニング | データマイニングの技術をWeb上の文章やリンク、アクセスの記録などに適用し、有用な知識やパターンを取り出す技術 |
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
KDD(データベースからの知識発見)の過程では、データマイニングは、データの選択や前処理などのあとに置かれ、パターンを取り出す段階を指す。
答えを見る
答え ◯ 正しい
ファイヤドらは、選択、前処理、変換、データマイニング、解釈・評価という流れで整理しました。前処理の質が結果を大きく左右します。
-
データマイニングで見つかった規則は項目どうしの相関を示すもので、それだけで因果関係が確かめられたことにはならない。
答えを見る
答え ◯ 正しい
季節など共通の要因による見かけの相関(擬似相関)や、偶然の一致の可能性があります。施策に使う前に、実験などの別の方法で確かめます。
-
データマイニングの手法は、正解のラベルを使う分類や回帰に限られ、クラスタリングのように正解を使わない手法は含まれない。
答えを見る
答え × 誤り
似たもの同士をグループにまとめるクラスタリングも、データマイニングの代表的な手法です。正解のない大量のデータから傾向を探す場面でよく使われます。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目4 知識表現とエキスパートシステム)
- Usama Fayyad, Gregory Piatetsky-Shapiro, Padhraic Smyth, From Data Mining to Knowledge Discovery in Databases, AI Magazine 17(3), 37–54 (1996)
- Rakesh Agrawal, Tomasz Imieliński, Arun Swami, Mining association rules between sets of items in large databases, Proceedings of ACM SIGMOD 1993, 207–216