問題 No.2132
機械学習におけるハイパーパラメータの最適化手法の一つであり、あらかじめ定められた探索範囲の中から確率的なサンプリングによってパラメータの組み合わせをランダムに決定し、それぞれの性能を評価して最も優れたものを選定する手法はどれか。
【正解の解説】
ランダムサーチ
これは広大な宝の地図からランダムにいくつか場所を定めて一斉に掘ってみるようなものです。すべてをしらみつぶしに調べる時間がないときに、運も味方につけながら効率よく「そこそこの当たり」を素早く見つけ出すための非常にシンプルで強力なアプローチとして、実際の開発現場でも重宝されています。
スポンサーリンク
【その他の選択肢の解説】
グリッドサーチ
ランダムサーチがガチャをランダムに引くような方法であるのに対し、こちらはマニュアル通りに全通りを一つ残らず順番に試す方法です。候補の数が少ないうちは確実で良いのですが、パラメータが増えると爆発的に時間がかかるようになるため、まずはランダムサーチで大まかな当たりをつけてから範囲を絞るという使い分けが実務ではよく行われます。
ベイジアン最適化
ランダムサーチが完全に運任せ（確率的）に選び直すのに対し、こちらは過去の失敗や成功の履歴をノートにメモして「次はここが怪しい」と推理して攻めるスマートな方法です。効率よく最適解にたどり着けますが、計算の準備やアルゴリズム自体が複雑になるため、手軽に試したい場合にはランダムサーチが選ばれます。
勾配降下法
ハイパーパラメータの組み合わせを探すのではなく、AIモデル自身の内部にあるパラメータを微調整して正解率を上げるために使われる根本的な数学的手法です。そもそも探索する対象が違うため、ハイパーパラメータの選び方の問題でこれを選ぶと見当違いになってしまうので、初学者は目的の違いをしっかり区別して覚える必要があります。