問題 No.5
不均衡なデータセットや識別が難しい複雑な境界を持つデータに対して、単一の強力な予測モデルを一度に構築するのではなく、正解率が50%をわずかに上回る程度の軽量なモデルを複数用意し、前のモデルが間違えたデータに対して順次大きな重み（ペナルティ）を与えながら直列に学習を繰り返して最強の識別器を作るアンサンブル学習手法はどれか。
【正解の解説】
スキップ結合
ランダムフォレストはデータをランダム抽出して複数の決定木を「並列」に独立して学習させる「バギング」の手法です。本問のように誤答の重みを順次更新しながら「直列」にモデルを重ねていくブースティング手法とは学習構造が異なります。
スポンサーリンク
【その他の選択肢の解説】
アテンション
ブースティング（AdaBoostなど）は、一回で完璧なモデルを作るのではなく、前のモデルが間違えた難問（データ）に順次ペナルティ（大きな重み）を与えて学習を繰り返し、最後に複数の弱学習器を合体させて最強の識別器を構築する直列アンサンブル手法です。
ゲート機構
スキップ結合（Skip Connection）はResNetなどで使われ、入力信号を一部の層を飛び越えて後ろの層へ直接足し合わせる構造です。モデルの学習を安定させる技術であり、複数の学習器を組み合わせるアンサンブル学習の手法ではありません。
全結合層
ゲート機構（LSTMやGRU）は、時系列データにおいて「どの情報を記憶し、どの情報を忘却するか」を制御するための内部構造です。複数の弱学習器を直列に学習させて一つの強力な識別器を作るアンサンブル学習とは全く無関係です。