問題 No.1819
機械学習における正則化手法の一つであるL2正則化（Ridge回帰）に関する記述として適切なものはどれか。
【正解の解説】
損失関数に重みの二乗和に比例するペナルティ項を追加することで、重みの値が過度に大きくなることを防ぎ、モデルを滑らかにする効果がある。
例えるなら、アクセル全開で急カーブを曲がろうとする暴走車にブレーキをかけるようなものです。重み（係数）の数値が暴走して巨大になりすぎないよう、全体にブレーキをかけてモデルの形をなだらかに整え、未知のデータでも正しく予測できるようにする仕組みです。
スポンサーリンク
【その他の選択肢の解説】
損失関数に重みの絶対値の和に比例するペナルティ項を追加することで、一部の重要でない重みを完全にゼロにし、モデルの解釈性を高める効果がある。
L1正則化は不要な特徴量の重みをきれいに「ゼロ」にして消去し、スリムなモデルを作るのが得意です。一方、L2正則化はすべての重みを小さく残しつつ均す特徴があるため、この二つはセットで出題される典型的なひっかけポイントとしてよく混同されます。
損失関数に重みの二乗和に比例するペナルティ項を追加することで、すべての重みの値を一律に縮小させながらも、個々の重みを完全にゼロにする効果がある。
L2正則化は二乗和ペナルティの性質上、値をどれだけ小さくしても限りなくゼロに近づくだけで、完全にゼロには落ちきりません。完全に重みをゼロにして変数を削りたい場合は、L1正則化の絶対値ペナルティを使う必要があるため、この違いに注意してください。
損失関数に重みの絶対値の和に比例するペナルティ項を追加することで、外れ値の影響を強く受けるように調整し、学習データに対する適合度を最大化する効果がある。
正則化の目的は、学習データに過剰に適合する「過学習」を防いで汎用性を高めることです。外れ値の影響をあえて強めるような調整はモデルの性能を著しく下げる原因になるため、正則化の本来の目的や効果とは真逆の誤った記述となります。