統計的機械翻訳とは

統計的機械翻訳は、翻訳を確率の問題として扱う方式です。1990年前後にIBMの研究者らが提案しました。それまで主流だったルールベース機械翻訳では、言語学者が文法規則や辞書を人手で整えていました。統計的機械翻訳は、同じ内容を2つの言語で書いた文の組（対訳コーパス）を大量に集め、そこから翻訳の手がかりを自動で学びます。

仕組み

原文をf、訳文の候補をeとします。原文が与えられたときに確率P(e|f)が最も高くなる訳文を選びます。ベイズの定理でP(e|f) = P(f|e) × P(e) ÷ P(f)と書き換えると、P(f)はどの候補でも同じです。そのため、P(f|e) × P(e)が最大になるeを選べば済みます。

• P(f|e)：翻訳モデル。語句がどう対応しやすいかを表し、対訳コーパスから推定します。
• P(e)：言語モデル。訳文が目的言語の文としてどれだけ自然かを表し、目的言語の大量の文章から推定します。n-gramがよく使われました。

訳語の正しさは翻訳モデルが、文の自然さは言語モデルが受け持ちます。

発展と限界

初期のモデルは単語を単位にしていましたが、2000年代には数語のまとまり（句）を単位とするフレーズベースの方式が主流になりました。Google翻訳も、長くこの方式を使っていました。

一方で、訳の品質は対訳データの量と、訳したい文書との分野の近さに左右されます。語句を組み合わせて訳を作るため、日本語と英語のように語順が大きく違う言語の組では、長い文が不自然になりがちでした。2010年代半ばには、文全体をニューラルネットワークで扱うニューラル機械翻訳が広がり、Google翻訳も2016年に切り替えを始めました。

位置づけ

機械翻訳の主流は「ルールベース→統計的→ニューラル」と移ってきました。統計的機械翻訳は、人が書く規則からデータで学ぶ方法への転換点であり、統計的自然言語処理の代表例です。

覚え方

「訳の正しさは翻訳モデル、文の自然さは言語モデル」と覚えます。