問題 No.1138
過学習を防ぐための手法である「早期終了」に関する記述として【不適切なもの】はどれか。
【正解の解説】
モデルが未学習であっても指定したエポック数に到達すれば必ず学習を終了する機能のことである
早期終了は「事前に設定したエポック数まで無条件に回す設定」ではありません。モデルの学習状態(未学習であれ何であれ)に関わらず規定回数で終わらせる記述は誤りであり、正しくは「検証データの性能向上が見込めなくなった時点で途中で打ち切る」動的な機能です。
スポンサーリンク
【その他の選択肢の解説】
学習中に検証用データセットの誤差を定期的に監視する
早期終了(Early Stopping)では、モデルを訓練用データで学習させつつ、1エポックごとに独立した「検証用データ」に対する評価誤差をチェックします。これにより過学習が始まる兆候をタイムリーに検知することができます。
訓練データの誤差が下がっていても検証データの誤差が上昇し始めたら学習を打ち切る
過学習(オーバーフィッティング)が発生すると、訓練データの誤差は下がり続ける一方で、未知の検証データの誤差は反転して上昇し始めます。この悪化が始まったタイミング(最小検証誤差の時点)で学習を自動停止するのが早期終了の本来の仕組みです。
計算リソースの無駄を省き無意味な学習の継続を防ぐ効果もある
過学習に陥った後の無意味な学習計算を自動的にストップさせることができるため、貴重なGPUなどの計算リソースの無駄遣いを防ぎ、モデル開発の実験サイクルを高速化できる実用上の大きなメリットが存在します。