問題 No.2259
自然言語処理の分野において、単語の意味を低次元の連続値ベクトルとして空間上に配置し、単語間の類似度や意味的関係性を捉えることを可能にした分散表現学習の手法であり、トマス・ミコロフ（Tomas Mikolov）らによって提案された代表的なモデルの総称はどれか。
【正解の解説】
word2vec
人間が言葉の意味を理解するように、AIにも「王様から男性を引いて女性を足すと女王になる」といった言葉の計算を可能にする魔法の辞書のようなものです。言葉を意味の近さに応じて地図上にマッピングするイメージで、自然言語処理の歴史を大きく変えた画期的な技術として広く使われています。
スポンサーリンク
【その他の選択肢の解説】
fasttext
word2vecが単語を一つの塊として扱うのに対し、こちらは単語をさらに細かな文字の部品に分けて学習します。そのため、タイポや辞書にない新しい言葉が登場しても意味を推測できるのが強みですが、問題文にある「単語単位での低次元ベクトル表現の基礎を築いたモデル」としてはword2vecが該当します。
bert
word2vecが「りんご」という単語に対して常に一つの固定されたベクトルを割り当てるのに対し、こちらは「アップルパイのりんご」と「会社のロゴのアップル」のように、前後の文脈によって意味が変わる動的なニュアンスを理解できます。より高度なタスクで使われますが、問題文にある基本的な分散表現学習の代表例としてはword2vecを指します。
bagofwords
文章の中にどの単語が何回出てきたかという「単語の詰め合わせバッグ」を作るだけで、言葉同士の意味的な近さや文脈は完全に無視されてしまいます。「銀行」という言葉が川の土手なのか金融機関なのかを区別できず、word2vecが持つような空間上の意味関係を捉える能力はありません。