問題 No.1764
機械学習のアンサンブル学習の手法の一つである「ブースティング」に関する説明として、最も適切なものはどれか。
【正解の解説】
予測を誤ったデータに対して重みを大きくするなどの調整を行いながら、弱い学習器を順番に直列に結合して強い学習器を構築する手法である。
これはまるで、最初のテストで間違えた苦手な問題だけを次のテストで重点的に復習し、段階的に点数を上げていく勉強法にそっくりです。前のモデルが犯した「失敗（間違い）」を次のモデルがバトンタッチされて引き継ぎ、協力しながら賢くなっていくため、最終的に非常に強力な予測モデルを作り上げることができます。
スポンサーリンク
【その他の選択肢の解説】
予測を誤ったデータに対して重みを小さくするなどの調整を行いながら、強い学習器を順番に並列に結合して弱い学習器を構築する手法である。
ブースティングの本質は「間違えた問題に注目して次の学習に活かす（重みを大きくする）」ことであり、重みを小さくすると失敗から学ばなくなってしまいます。また、学習器を並列に並べるのはバウンディング等の別の手法の特徴であり、直列につなぐブースティングとは構造が根本的に異なります。
予測を誤ったデータに対して重みを均等にするなどの調整を行いながら、強い学習器を同時に統合して弱い学習器を構築する手法である。
ブースティングの最大の特徴は、前の学習器が間違えたデータに対して「次こそは絶対に正解するぞ」と重要度（重み）を変えていく点にあります。重みを均等にしてしまうと、どのデータが難問なのかが分からなくなり、段階的に精度を底上げしていくブースティングの仕組みが完全に機能しなくなってしまいます。
予測を誤ったデータに対して重みを変更せずに、弱い学習器を独立して並列に結合して強い学習器を構築する手法である。
重みを変更せずに学習器を独立して並列に結合するのは、ブースティングではなく「ランダムフォレスト」などで使われるバギングという別のアンサンブル学習の手法です。ブースティングは「前の結果を受けて次を変える（直列）」のに対し、バギングは「みんなで同時にバラバラに考えて後で多数決をとる（並列）」という決定的な違いがあります。