AI用語集・機械学習の概要

潜在的ディリクレ配分法(LDA)とは

せんざいてきでぃりくれはいぶんほうlatent Dirichlet allocation略語 LDA

別名:潜在ディリクレ配分法、潜在的ディリクレ配分

  • シラバス 技術8
  • ◯×チェック3問
  • 練習問題3問

最終更新日:作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合)人による確認:未出典

1行定義

潜在的ディリクレ配分法(LDA)とは、各文書を複数のトピックの混ざり合いとみなし、文書の集まりからトピックとその割合を推定するトピックモデルのことです。

くわしく

潜在的ディリクレ配分法(LDA)は、トピックモデルの代表的な手法です。デビッド・ブレイらが2001年の国際会議NIPSで発表し、2003年に論文誌で詳しく示しました。文書の集まりから、語られている話題(トピック)と、各文書がどの話題をどれくらい含むかを推定します。

文書ができる過程を仮定する

LDAは、文書が次のような手順で書かれたと仮定します。

  1. 文書ごとに、話題の割合を決めます。たとえば「料理7割、健康3割」です。
  2. 単語を1つ書くたびに、その割合に従って話題を1つ選びます。
  3. 選んだ話題の「単語の出やすさ」に従って、単語を1つ選びます。

実際に手元にあるのは、書かれた文書だけです。LDAは、観測できる単語から逆算して、隠れた話題の割合と、話題ごとの単語の出やすさを推定します。この計算は厳密には解けないため、変分推論(変分ベイズ法)やギブスサンプリングといった近似の方法を使います。

名前の意味

  • 潜在的:話題は直接は観測できない、隠れた変数であることを表します。
  • ディリクレ:文書ごとの話題の割合が、ディリクレ分布という確率分布から生まれると考えることに由来します。ディリクレ分布は、足すと1になる割合の組を生み出す分布です。
  • 配分:文書の中の単語を、いずれかの話題に割り振るイメージです。

使うときの注意点

LDAは語順を無視し、文書を単語の出現回数の集まり(Bag-of-Words)として扱います。話題の数は、分析者があらかじめ決めて与えます。得られた話題が何を意味するかは、出やすい単語を見て人が解釈します。

もう1つの注意点は略称です。LDAは、教師あり学習の線形判別分析(Linear Discriminant Analysis)を指すこともあります。トピックや文書の話題が出てくる文脈なら、潜在的ディリクレ配分法のことです。

覚え方

「1つの文書に話題を配分し、話題が単語を選ぶ」と覚えます。

G検定での出題

出題のされ方

トピックモデルの代表的な手法として、文書を複数のトピックの割合で表すこと、トピックを単語の出現確率の分布で表すこと、語順を使わないこと、教師なし学習であることが問われます。

シラバスでは「潜在的ディリクレ配分法(LDA)」と表記されています。

◯×チェック

3問

次の文が正しいか、誤りかを選んでください。

  1. LDAでは、各トピックがすべての単語に出現確率を割り当てるため、同じ単語が複数のトピックで高い確率をもつこともある。

    答えを見る

    答え ◯ 正しい

    たとえば「ボール」は、野球の話題でもサッカーの話題でも出やすい単語になりえます。1つの単語を1つの話題に固定するわけではありません。

  2. LDAで文書を分析するには、学習に使う各文書に、どの話題を扱っているかという正解ラベルを人があらかじめ付けておく必要がある。

    答えを見る

    答え × 誤り

    LDAは教師なし学習です。正解ラベルのない文書の単語の現れ方だけから、話題とその割合を推定します。

  3. 線形判別分析も略称はLDAだが、こちらは正解ラベルを使ってクラスを分ける軸を求める教師あり学習の手法であり、潜在的ディリクレ配分法とは別のものである。

    答えを見る

    答え ◯ 正しい

    どちらも略すとLDAになります。トピックや文書の話題の文脈なら潜在的ディリクレ配分法、クラスの分類の文脈なら線形判別分析です。

この用語の練習問題

3問
  1. #0024次元削減手法の選択難易度 基礎・単一選択未回答
  2. #0151LDAによる文書の表し方難易度 標準・単一選択未回答
  3. #0337分析目的と教師なし手法の対応難易度 基礎・組合せ未回答

出典

作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合)人による確認:未 最終確認日: 対応シラバス:シラバス第1.4版 技術8

誤りを報告

表示設定

テーマ
文字の大きさ
問題演習