1行定義
潜在的ディリクレ配分法(LDA)とは、各文書を複数のトピックの混ざり合いとみなし、文書の集まりからトピックとその割合を推定するトピックモデルのことです。
くわしく
潜在的ディリクレ配分法(LDA)は、トピックモデルの代表的な手法です。デビッド・ブレイらが2001年の国際会議NIPSで発表し、2003年に論文誌で詳しく示しました。文書の集まりから、語られている話題(トピック)と、各文書がどの話題をどれくらい含むかを推定します。
文書ができる過程を仮定する
LDAは、文書が次のような手順で書かれたと仮定します。
- 文書ごとに、話題の割合を決めます。たとえば「料理7割、健康3割」です。
- 単語を1つ書くたびに、その割合に従って話題を1つ選びます。
- 選んだ話題の「単語の出やすさ」に従って、単語を1つ選びます。
実際に手元にあるのは、書かれた文書だけです。LDAは、観測できる単語から逆算して、隠れた話題の割合と、話題ごとの単語の出やすさを推定します。この計算は厳密には解けないため、変分推論(変分ベイズ法)やギブスサンプリングといった近似の方法を使います。
名前の意味
- 潜在的:話題は直接は観測できない、隠れた変数であることを表します。
- ディリクレ:文書ごとの話題の割合が、ディリクレ分布という確率分布から生まれると考えることに由来します。ディリクレ分布は、足すと1になる割合の組を生み出す分布です。
- 配分:文書の中の単語を、いずれかの話題に割り振るイメージです。
使うときの注意点
LDAは語順を無視し、文書を単語の出現回数の集まり(Bag-of-Words)として扱います。話題の数は、分析者があらかじめ決めて与えます。得られた話題が何を意味するかは、出やすい単語を見て人が解釈します。
もう1つの注意点は略称です。LDAは、教師あり学習の線形判別分析(Linear Discriminant Analysis)を指すこともあります。トピックや文書の話題が出てくる文脈なら、潜在的ディリクレ配分法のことです。
覚え方
「1つの文書に話題を配分し、話題が単語を選ぶ」と覚えます。
G検定での出題
出題のされ方
トピックモデルの代表的な手法として、文書を複数のトピックの割合で表すこと、トピックを単語の出現確率の分布で表すこと、語順を使わないこと、教師なし学習であることが問われます。
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
LDAでは、各トピックがすべての単語に出現確率を割り当てるため、同じ単語が複数のトピックで高い確率をもつこともある。
答えを見る
答え ◯ 正しい
たとえば「ボール」は、野球の話題でもサッカーの話題でも出やすい単語になりえます。1つの単語を1つの話題に固定するわけではありません。
-
LDAで文書を分析するには、学習に使う各文書に、どの話題を扱っているかという正解ラベルを人があらかじめ付けておく必要がある。
答えを見る
答え × 誤り
LDAは教師なし学習です。正解ラベルのない文書の単語の現れ方だけから、話題とその割合を推定します。
-
線形判別分析も略称はLDAだが、こちらは正解ラベルを使ってクラスを分ける軸を求める教師あり学習の手法であり、潜在的ディリクレ配分法とは別のものである。
答えを見る
答え ◯ 正しい
どちらも略すとLDAになります。トピックや文書の話題の文脈なら潜在的ディリクレ配分法、クラスの分類の文脈なら線形判別分析です。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目8 教師なし学習)
- David M. Blei, Andrew Y. Ng, Michael I. Jordan, Latent Dirichlet Allocation, Advances in Neural Information Processing Systems 14 (NIPS 2001), 601–608
- David M. Blei, Andrew Y. Ng, Michael I. Jordan, Latent Dirichlet Allocation, Journal of Machine Learning Research 3, 993–1022 (2003) (3 Latent Dirichlet allocation、5 Inference and Parameter Estimation)
- Thomas L. Griffiths, Mark Steyvers, Finding scientific topics, Proceedings of the National Academy of Sciences 101(suppl. 1), 5228–5235 (2004)
- David M. Blei, Probabilistic topic models, Communications of the ACM 55(4), 77–84 (2012)