隠れマルコフモデルとは

隠れマルコフモデル（HMM）は、時間とともに変わる現象を確率で表すモデルです。ディープラーニングが広まる前の音声認識で、中心的な役割を果たしました。

仕組み

HMMでは、現象の背後に、外からは見えない「状態」があると考えます。状態は、直前の状態だけで決まる確率（遷移確率）で次の状態へ移ります。この性質をマルコフ性といいます。各状態からは、状態ごとに決まった確率（出力確率）で、観測できる値が出てきます。観測できるのは出力された値の系列だけで、状態の系列は隠れています。これが名前の由来です。

代表的な計算には、観測系列が得られる確率を求める前向きアルゴリズム、最も確からしい状態の系列を求めるビタビアルゴリズム、データから確率を推定するバウム・ウェルチアルゴリズムがあります。

音声認識での使い方

従来の音声認識では、音素ごとにHMMを用意し、音声から取り出したMFCCなどの特徴量を観測値として扱いました。出力確率には、主に混合ガウス分布（GMM）を使いました。この音響モデルに、単語の読みを記した発音辞書と、単語の並びやすさを表す言語モデルを組み合わせて、最も確からしい単語列を探します。

2010年代に入ると、出力確率の計算をディープニューラルネットワークに置き換えたDNN-HMMが、精度を大きく高めました。その後、CTCなどを使い、音声から文字列までを1つのニューラルネットワークで学習するEnd-to-Endの手法が広まりました。

マルコフ決定過程との違い

どちらもマルコフ性を仮定します。マルコフ決定過程は行動と報酬をもち、強化学習で使います。HMMは行動も報酬ももたず、観測から隠れた状態を推し量るために使います。

覚え方

「見えない状態が、見える音を出す」と覚えます。