ある外食チェーンが、口コミのレビューを肯定・否定に分類する感情分析モデルを作った。各レビューをBoW(Bag-of-Words)で単語の出現回数のベクトルにし、ロジスティック回帰で分類している。しかし「まずくはないが、二度と行かない」「値段は高いけど、また来たい」のようなレビューの誤分類が目立つ。改善の方針として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点:感情分析での語順と文脈
ポイント
BoWは語順を捨てるため、否定や逆接を含む文の感情をとらえにくくなります。文脈を考慮できるモデルが有効です。
選択肢ごとの解説
- A
適切 正解
BoWは単語の出現回数だけを数え、語順を捨てます。そのため否定がどこにかかるかや、逆接のどちら側に評価の重心があるかを区別できません。BERTは文全体の文脈から各語の表現を作るため、こうした構造をとらえやすくなります。
- B
不適切
TF-IDFは語の重みを変えるだけで、語順を捨てる点はBoWと同じです。しかも「ない」「が」のように多くのレビューに出る語ほど重みが下がるため、否定や逆接の手がかりがかえって弱まるおそれがあります。
- C
不適切
機能語の除去は文書分類でよく使われる前処理です。しかし感情分析では、「ない」は評価を反転させ、「が」「けど」は評価の重心を後ろに移します。除去すると、誤分類の原因になっている情報をさらに失います。
- D
不適切
低頻度語の除外は、次元の削減や過学習の抑制には役立ちます。しかし語順の情報は戻りません。今回の誤りは単語の並びや文の構造に由来するため、語彙を絞っても改善は見込めません。
補足
2語や3語の並び(語のn-gram)を特徴量に加えると、「おいしく ない」のような隣り合う語の否定は少しとらえやすくなります。ただし、離れた語どうしの関係や、文全体のどこに評価の重心があるかまでは扱えません。
試験での狙われ方
BoWやTF-IDFが語順を扱えない点を、感情分析や文書分類の場面に当てはめて問う形が見られます。