問題 No.1867
機械学習の線形回帰モデルにおいて、モデルの汎化性能を高めるために、損失関数にL2正則化項を追加することでパラメータの二乗和にペナルティを課す手法はどれか。
【正解の解説】
リッジ回帰
これは、厳しすぎる校則で生徒が暴走するのを防ぐようなものです。モデルが複雑になりすぎて訓練データに過剰に適応（過学習）してしまうのを防ぐため、係数が大きくなりすぎないようブレーキをかけます。すべてのパラメータを少しずつ小さく残すのが特徴です。
スポンサーリンク
【その他の選択肢の解説】
ラッソ回帰
リッジ回帰の「二乗和（L2）」と混同しやすい最大のライバルです。ラッソ回帰は、使わない変数の係数をバッサリと「ゼロ」にして消去してくれるため、自動で変数選択をしてくれるようなスリム化が得意という決定的な違いがあります。
エラスティックネット
一方が二乗和で一方が絶対値の和なら、両方混ぜていいとこ取りをしようという欲張りな手法です。単独ではどちらか一方しか使えない場面で、両方のメリットを同時に活かしたいときによく選ばれる応用的なアルゴリズムとなっています。
ロジスティック回帰
名前の最後に「回帰」とついていますが、実際にはメールが迷惑メールかそうでないかを判定するような「分類」を行うための手法です。損失関数にペナルティを課す正則化の話ではなく、目的そのものが根本的に異なります。