トピックモデルとは

トピックモデルは、大量の文書を分析して、語られている話題（トピック）を自動で見つける手法です。たとえばニュース記事から、「試合」「選手」「得点」がよく一緒に出るまとまりや、「選挙」「議員」「政策」のまとまりを見つけます。人が見れば、前者はスポーツ、後者は政治の話題だとわかります。

考え方

トピックは、「どの単語がどれくらい出やすいか」という確率の分布で表します。そして、1つの文書は複数のトピックが混ざってできていると考えます。同じ文書によく一緒に現れる単語ほど、同じトピックにまとめられやすくなります。

どの文書が何の話題かという正解ラベルは使わないので、教師なし学習の一種です。k-means法のように1つの文書を1つのグループにだけ入れるクラスタリングと違い、「健康の話題が中心で、料理の話題も少し含む」といった文書を表せます。話題の割合は、文書を少数の値で表す次元削減の結果としても使えます。

代表的な手法

• 潜在意味解析（LSA）：文書×単語の行列を特異値分解し、少数の意味の軸で表します。確率モデルではなく、トピックモデルの源流にあたります。
• 確率的潜在意味解析（pLSA）：LSAを確率モデルとして組み立て直したもので、1999年に発表されました。
• 潜在的ディリクレ配分法（LDA）：pLSAを発展させ、文書ごとの話題の割合にディリクレ分布という事前分布を置いたモデルです。2001年に発表され、トピックモデルの代表的な手法になりました。

使いどころと注意点

レビューや問い合わせの傾向分析、記事の分類や推薦、文書検索などに使われます。単語を商品などに置き換えれば、文章以外のデータにも使えます。

注意点として、見つかったトピックが何の話題かは、出やすい単語を見て人が解釈します。また、多くの手法は語順を無視し、単語の出現回数だけを使います。

覚え方

「一緒に出る単語の束が、1つの話題」と覚えます。