問題 No.2463
自動音声認識や画像認識の分野において、探索空間を効率的に探索するためにニューラルネットワークのアーキテクチャやハイパーパラメータを自動的に最適化する手法として、ニューラルアーキテクチャサーチ（NAS）が活用されている。このNASの主要なアプローチに関する記述として最も適切なものはどれか。
【正解の解説】
強化学習や進化アルゴリズム、勾配法を用いて、最適なネットワーク構造を自動的に探索・設計する。
料理のレシピを人間が考えるのではなく、AI自身に無数の組み合わせを試させ、一番美味しくなるレシピを自動で見つけ出させる自動調理ロボットのようなものです。職人の勘や手作業に頼っていた神経回路の設計を、機械学習の力で効率的に最適化できる点が最大の特徴であり、ディープラーニングの進化をさらに加速させる技術として注目されています。
スポンサーリンク
【その他の選択肢の解説】
事前に人間が定義した複数の候補モデルの中から、交差検証のスコアが最も高くなるネットワーク構造を手動で選定する。
人間がいくつかの選択肢を用意して実際に試す「グリッドサーチ」や「ランダムサーチ」と呼ばれる従来の手法です。NASは人間が候補をあらかじめ固定せず、AIが自律的に新しい構造のアイデアを生み出して最適化する点が決定的に異なります。試験問題では、自動化と手動のどちらであるかをすり替える罠としてよく使われます。
大規模な事前学習済みモデルの重みを固定したまま、タスク固有の出力層のみを微調整して最適なネットワーク構造を決定する。
すでに賢くなった先輩AI（事前学習モデル）の頭脳をそのまま借りて、新しいお仕事の訓練だけを少し行うアプローチです。既存のモデルをベースに効率よく学習させる点では便利ですが、ネットワークの骨組み自体をゼロから自動生成したり最適化したりするNASの役割とはまったく異なる概念なので注意が必要です。
ネットワークの各層における重みパラメータのスパース性を高めることで、モデル全体のデータ容量と推論コストを自動的に削減する。
完成した巨大なビルの中で、使われていない部屋や無駄な廊下を壊してスリム化するようなイメージのリダクション技術です。モデルを小さくしてスマホなどでも動かせるようにする目的がありますが、NASのように全く新しい構造の組み合わせを自ら探索して設計するプロセスとはアプローチの目的も手法も根本的に異なります。