問題 No.1885
複数の機械学習モデルを組み合わせて予測性能を向上させるアンサンブル学習に関する記述として不適切なものはどれか。
【正解の解説】
アンサンブル学習を行う際は、個々のモデル同士が高い相関を持つように設計することで、予測の多様性を最大化させる。
アンサンブル学習は、意見が異なる多様な専門家を集めて会議を開くようなものです。全員が全く同じ意見を持つ（相関が高い）人たちばかりだと、一人目が間違えた時に全員が同じ間違いをしてしまい、集団のメリットが消えてしまいます。そのため、異なる視点を持つモデルを組み合わせることが鉄則となります。
スポンサーリンク
【その他の選択肢の解説】
バギングは、訓練データから復元抽出したサブセットを用いて複数のモデルを並列に学習させ、全体の分散を低減させる手法である。
バギングは、同じテストの問題を少しずつ違う角度から解いた答案用紙をたくさん集めて、最終的にみんなの多数決をとるような仕組みです。ランダムフォレストなどが代表例で、個々のモデルが持つクセを打ち消し合って全体の精度を安定させるため、試験でも非常によく狙われる重要な基本概念です。
ブースティングは、先行するモデルが予測を誤ったデータに対して重みを大きくしながら、逐次的に新しいモデルを学習させる手法である。
ブースティングは、最初は算数が苦手な生徒に基礎を教え、次に「さっき間違えた問題」を集中的に特訓してステップアップしていくスパルタ塾のようなものです。前のモデルの苦手な部分を次のモデルがバトンタッチしてカバーしていくため、予測精度がグングン上がっていくのが最大の特徴です。
スタッキングは、複数の異なるベースモデルによる予測結果をメタモデルの新たな入力特徴量として用いて最終的な予測を行う手法である。
スタッキングは、まず複数の異なる専門家（例えば法律、医療、経済のプロ）に意見を聞き、そのバラバラの意見を踏まえて最終的なジャッジを下す「総理大臣」のようなメタモデルを置く仕組みです。単なる多数決よりも高度で賢い判断ができる反面、仕組みが複雑になりやすい点に注意が必要です。