問題 No.2253
機械学習における決定木アルゴリズムの特徴として不適切なものを一つ選べ。
【正解の解説】
モデルの学習時に過学習が生じることは原理的に一切なく、正則化パラメータの調整が不要である。
これは「無限にルールを細かくして自分のテスト勉強用の問題ばかり完璧に暗記し、初見の問題に全く対応できなくなる優等生」のような状態です。決定木は木の深さを制限したり枝刈りを行ったりする正則化を行わないと、訓練データにガチガチに適合しすぎて未知のデータに対する予測精度が落ちる過学習を引き起こします。
スポンサーリンク
【その他の選択肢の解説】
数値データだけでなくカテゴリカルデータも扱えるため、事前のダミー変数化などの前処理が不要である。
初学者が驚くポイントですが、決定木は「りんごか、みかんか」といった文字データのままでも「りんごならこっち」とそのまま分岐を作れます。ニューラルネットワークのようにすべてのデータを数字に変換するダミー変数化の面倒な前処理をスキップできるのが大きな強みです。
特徴量のスケールに依存しない性質を持つため、特徴量ごとの正規化や標準化を行う必要がない。
例えば「年収（数百万〜数千万）」と「年齢（0〜100）」を比較する場合、決定木は「年収500万以下か？」という境界線を引くだけなので、単位や桁数がバラバラでも大小関係の順位さえ変わらなければ結果は一切変わりません。そのため面倒な標準化の作業が不要になります。
分岐の条件式が直感的に解釈可能であるため、データ数が膨大になってもモデルの複雑化や解釈性の低下は生じない。
「ルールが分かりやすい」のはデータがシンプルで木のサイズが小さい時だけの話です。データが増えすぎると「もし〜なら、かつ〜なら、さらに〜なら…」という条件分岐が何百個も連なり、まるで迷路のように複雑化してしまい、人間には全体像が全く把握できなくなります。