問題 No.4646
自然言語処理において、全語彙数が $10,000$ 語である辞書を用いて、ある特定の単語をワンホットベクトルで表現する場合、生成されるベクトルの次元数と、ベクトル中の要素 $1$ の個数の正しい組み合わせはどれか。
【正解の解説】
次元数: $10,000$、要素 $1$ の個数: $1$
これはクラス名簿で自分の名前の欄だけに「1」を書き込み、他の全員の欄には「0」を書くようなものです。辞書にあるすべての単語の数だけ座席（次元）が用意され、今注目している単語の座席だけに「1」が光る仕組みになっています。
スポンサーリンク
【その他の選択肢の解説】
次元数: $10,000$、要素 $1$ の個数: $10,000$
もし全ての要素が1であれば、どの単語であっても全く同じベクトルになってしまい、単語の違いを区別することができなくなります。ワンホットベクトルの「ワン」は、光るランプが常に1つだけであることを表しています。
次元数: $1$、要素 $1$ の個数: $1$
次元数が1ということは、座席がたった1つしかない教室のようなものです。そこに10,000種類の異なる単語を割り当てようとしても、全員が同じ1つの席に座ることになり、個々の単語を区別して識別することが不可能になってしまいます。
次元数: $10,000$、要素 $1$ の個数: $0$
要素がすべて0になってしまうと、どの単語を選んだとしても何も情報がない状態になってしまいます。ワンホットベクトルでは、必ずどれか一つの意味を持つ場所を指定するために、どこか一箇所だけは必ず1にする必要があります。