問題 No.3060
自然言語処理におけるトピックモデルの手法の一つである「潜在ディリクレ配分法（LDA）」に関する記述として、不適切なものを一つ選べ。
【正解の解説】
文書中の単語の出現順序や文脈を完全に保持した上で、文書のトピック構造を確率的にモデル化する手法である。
潜在ディリクレ配分法（LDA）は、単語の順番や文脈を無視して「どの単語が一緒に使われているか」の集まりだけを見るため、単語の並びを保持するという記述は誤りとなります。これは、料理を作る際に材料の分量（どの食材がどれくらいあるか）だけを気にして、食材を包丁で切る順番や調理の手順を全く気にしないのと同じ状態です。
スポンサーリンク
【その他の選択肢の解説】
文書を単語の出現頻度のみで構成される袋とみなすことで、文書のトピック構造を確率的に推定する手法である。
初学者は「文脈を無視する」というと欠点のように感じて混乱しがちですが、LDAではあえて単語の順序を捨てて袋にジャラジャラと放り込むことで、文書全体にどんなテーマが何パーセント含まれているかをシンプルな計算で炙り出すことができます。このアプローチにより、計算量を抑えつつ効率的なトピック抽出が可能になります。
各文書は複数のトピックから構成されると仮定し、教師あり学習を用いて文書分類を効率的に行う手法である。
LDAは正解ラベルを与えずにデータ自体の構造を見つけ出す「教師なし学習」の手法です。あらかじめ人間が「これは経済のニュース」「これはスポーツ」と教え込む教師あり学習とは異なり、AIが自発的に文書群の裏にあるテーマの組み合わせを発見するため、この点は出題者がよく仕掛ける典型的な罠となっています。
トピックごとの単語分布に対して事前分布としてディリクレ分布を設定し、文書の潜在変数を算出する手法である。
ディリクレ分布という名前は難しく聞こえますが、要するに「確率の確率」を表す便利な道具です。例えば、あるトピックにおいて『野球』や『選手』という単語が出やすい確率の偏り具合をあらかじめ緩やかに設定しておき、実際のデータからその偏りを上手く調整していくためにこの確率分布が使われています。