問題 No.1878
自然言語処理において、入力文中のトークンの一部を隠蔽し、その周辺の文脈情報を用いて隠蔽されたトークンを復元する事前学習の仕組みを指す略称として、正しいものはどれか。
【正解の解説】
MLM
穴埋め問題（クイズ）を解くことで言葉の意味を学習する仕組みです。まるで推理小説を読んでいるときに、黒塗りされた犯人の名前を前後の文章から推測するようなもので、AIが言葉の文脈を深く理解するために非常に効果的なトレーニング方法となっています。
スポンサーリンク
【その他の選択肢の解説】
NLG
NLGは「Natural Language Generation」の略で、ChatGPTのように人間と会話したり文章を自動作成したりする技術全般を指します。トークンを隠して穴埋めさせる学習手法そのものを指す言葉ではないため、目的と手段の混同に注意が必要です。
NLU
NLUは「Natural Language Understanding」の略で、テキストの感情分析や意図把握など、AIが言葉を正しく「理解」する能力や研究分野を指します。問題文にあるような「トークンを隠蔽して復元する学習手法」という具体的なメカニズムを指す用語ではありません。
LLM
LLMは「Large Language Model」の略であり、GPT-4などのモデル自体を指します。問題文で聞かれているのはモデルそのものではなく、モデルを育てるための「事前学習の仕組み（タスク）」の名前であるため、対象のレイヤーが異なる点に注意してください。