問題 No.2620
顧客の購買履歴データを用いて、商品の需要予測を行うことになった。単一の決定木では過学習が起きやすいため、ランダムフォレストを適用してモデルの汎化性能を高めたい。このとき、ランダムフォレストのハイパーパラメータの調整に関する記述として、最も適切なものはどれか。
【正解の解説】
構築する決定木の数を増やすと過学習のリスクを抑えつつ予測の安定性が向上するが、計算コストが増加する。
多くの意見を聞くほど偏った判断が減る「多数決の原理」と同じです。複数の優秀でないコメンテーター（決定木）を集めて議論させると全体として正しい予測ができるようになりますが、参加者を増やすほど会議の準備や集計に時間がかかる（計算コストが増える）のと同じ理由です。
スポンサーリンク
【その他の選択肢の解説】
各決定木の分岐における最大深さを無制限に設定すると過学習の抑制が強まり、複雑なデータのパターンを正確に捉えられる。
木の深さを無制限にすると、過去のデータに完全に合わせた「枝葉末節まで覚えた完璧主義の子供」が出来上がります。学校のテストの過去問を丸暗記した結果、少し問題が変わると全く解けなくなるのと同じで、未知のデータに対応できなくなるというアンチパターンです。
ノードを分割する際に考慮する特徴量の最大数を増やすと各木の多様性が高まり、モデル全体の予測精度が大幅に向上する。
特徴量の最大数を増やすと、すべての木が同じ重要な情報ばかりを見てしまい、個々の木が持つ「多様性」が失われます。これは、全員が同じニュースだけを見て話し合う会議のようなもので、異なる視点からの意見が出にくくなり、アンサンブル学習のメリットが薄れてしまいます。
ブートストラップサンプリングの割合を極端に小さくするとデータの偏りが解消され、未知のデータに対する汎化性能が最大化する。
サンプリングの割合を極端に小さくするということは、料理に例えるならレシピに必要な材料のほんの一握りだけでスープを作ろうとするようなものです。情報が少なすぎて全体像を把握できなくなり、未知のデータに対する予測力（汎化性能）は最大化するどころか著しく劣化します。