1行定義
階層的クラスタリングとは、似ているデータやクラスタを順に併合(または分割)していき、クラスタの入れ子の構造を木の形で求めるクラスタリング手法のことです。
くわしく
階層的クラスタリングは、クラスタリングの手法を大きく2つに分けたときの一方です。もう一方は、k-means法に代表される非階層的クラスタリングです。シラバスのキーワードにあるウォード法とデンドログラム(樹形図)を理解する土台になります。
手順(凝集型)
よく使われるのは、小さなまとまりから大きなまとまりを作っていく凝集型(ボトムアップ型)です。
- データ1件ずつを、それぞれ1つのクラスタとします。
- すべてのクラスタの組について距離を求め、最も近い組を1つに併合します。
- 全体が1つのクラスタになるまで、2を繰り返します。
逆に、全体を1つのクラスタとして、順に分けていく分割型(トップダウン型)もあります。併合や分割の過程を木の形で描いたものがデンドログラムです。どの高さで切るかで、クラスタ数を後から選べます。
クラスタ間の距離の測り方
データどうしの距離は決めやすくても、複数のデータを含むクラスタどうしの距離には、いくつかの定義があります。
- 最短距離法:2つのクラスタで最も近いデータどうしの距離を使う。データが鎖のようにつながり、細長いクラスタができやすい(鎖効果)。
- 最長距離法:最も遠いデータどうしの距離を使う。
- 群平均法:2つのクラスタから1件ずつ選んだ、すべてのデータの組の距離の平均を使う。
- ウォード法:併合したときのクラスタ内のばらつきの増加が最も小さい組を選ぶ。大きさのそろったクラスタができやすい。
どれを選ぶかで結果が変わるため、データの性質や目的に合わせて使い分けます。
非階層的な手法との比較
階層的クラスタリングは、クラスタ数を先に決めなくてよく、結果を図で確かめられる点が長所です。一方、すべての組の距離を繰り返し調べるため、データの件数が多いと計算量やメモリの負担が大きくなります。件数が多い場合は、k-means法などの非階層的な手法が向いています。
G検定での出題
出題のされ方
シラバスのキーワードではなく、ウォード法とデンドログラム(樹形図)の背景知識として扱われます。データを順に併合する手順や、クラスタ数を先に決めるk-means法との違いが問われます。
混同しやすい用語
| 用語 | 意味 |
|---|---|
| 階層的クラスタリングこのページの用語 | 似ているデータやクラスタを順に併合(または分割)していき、クラスタの入れ子の構造を木の形で求めるクラスタリング手法 |
| k-means法 | データをあらかじめ決めたk個のクラスタに分けるため、重心への割り当てと重心の再計算を繰り返すクラスタリング手法 |
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
凝集型の階層的クラスタリングでは、はじめにデータ1件ずつを1つのクラスタとし、近いクラスタどうしを順に併合していく。
答えを見る
答え ◯ 正しい
全体が1つのクラスタになるまで併合を繰り返します。逆に、全体を1つのクラスタとして、順に分けていく方法を分割型と呼びます。
-
階層的クラスタリングでは、クラスタ間の距離をどう定義しても、併合の順番と最終的な結果は同じになる。
答えを見る
答え × 誤り
最短距離法、最長距離法、群平均法、ウォード法など、クラスタ間の距離の定義によって併合の順番が変わり、結果も変わります。
-
最短距離法は、クラスタ間で最も近いデータどうしの距離を使うため、データが鎖のようにつながり、細長く大きなクラスタができやすい。
答えを見る
答え ◯ 正しい
この性質は鎖効果と呼ばれます。ノイズに弱い反面、丸くない形のクラスタを見つけられることもあります。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目8 教師なし学習)
- Stephen C. Johnson, Hierarchical Clustering Schemes, Psychometrika 32(3), 241–254 (1967)
- Joe H. Ward Jr., Hierarchical Grouping to Optimize an Objective Function, Journal of the American Statistical Association 58(301), 236–244 (1963)
- scikit-learn User Guide, Clustering(Hierarchical clustering)