問題 No.3016
複数の機械学習モデルを組み合わせるアンサンブル学習の手法に関する記述として不適切なものはどれか。
【正解の解説】
バギングは複数のモデルを順番に直列に学習させる手法であり、ブースティングは複数のモデルを同時に並列に学習させる手法である。
バギングは学校のクラス全員が同時にテストを解いて答えを持ち寄る「並列学習」であり、ブースティングは先輩の答案のミスを後輩が教わって直していく「直列学習」のイメージです。この選択肢ではその役割が真逆に説明されており、アンサンブル学習の基本構造を理解しているかを問う最大の罠となっています。
スポンサーリンク
【その他の選択肢の解説】
スタッキングは個別のモデルの予測結果を単純な多数決で統合するのではなく、メタモデルを用いて総合的な予測を行う手法である。
スタッキングは、複数の初心者の意見をそのまま多数決するのではなく、それぞれの意見を「どの程度信用すべきか」を判断する熟練のリーダー（メタモデル）を配置して最終決定を下す高度な手法です。単なる多数決ではなく、モデルの上にさらにモデルを重ねるという構造上の特徴を正しく捉えています。
ランダムフォレストは決定木をベースモデルとして多数用いるバギングの一種であり、特徴量もランダムに選択して学習を行う。
ランダムフォレストは、森の木（決定木）のように多数のモデルを作りますが、それぞれの木が見るデータだけでなく使う質問（特徴量）までもバラバラにするのがポイントです。全員が違う視点を持つことで、偏りのない非常に強力で賢い多数決チームを作り上げる仕組みを正確に表しています。
アダブーストは誤分類されたデータに対して高い重みを付与しながら、複数のモデルを直列に結合して逐次的に学習を進める手法である。
アダブーストは、前のモデルが「惜しくも間違えてしまった問題」に大きく赤丸をつけて、次のモデルがそこを重点的に勉強するように仕向けるスパルタ教育の直列スタイルです。苦手な部分を次々に補っていくブースティングの代表的なアルゴリズムとして非常に適切な記述です。