問題 No.1829
ディープラーニングのネットワーク構造の一つであるWideResNetに関する説明として、最も適切なものはどれか。
【正解の解説】
残差ネットワーク(ResNet)の層を深くする代わりにチャネル数を増やすことで、表現力を高めたモデルである。
道路をどこまでも縦に長く伸ばす代わりに、1本の道路の車線を一気に何車線もドカンと広げたような構造です。これにより、車のすれ違い(情報の伝達)がスムーズになり、並列処理の効率が爆発的に高まって学習が安定するという、おデブちゃんながら非常に賢いアプローチなのです。
スポンサーリンク
【その他の選択肢の解説】
残差ネットワーク(ResNet)のチャネル数を増やす代わりに層を深くすることで、過学習を防ぐモデルである。
ResNetの基本は「層を深くすること」ですが、WideResNetはその逆の発想で「横幅(チャネル数)を広げる」ことに特化しています。層を深くしすぎると勾配消失問題などで学習が難しくなるため、横に太らせることで性能を向上させようというのが出題者が狙う最大のひっかけポイントです。
残差ネットワーク(ResNet)のスキップ接続を廃止し、密な結合を用いることでパラメータ効率を高めたモデルである。
画像を分割して並列処理するのは主にViTやCNNの別アプローチや画像分割の仕組みであり、WideResNetのテーマはあくまでネットワークの「幅(チャネル数)」の拡張です。名前の響きから「幅広く画像を処理するのかな?」と連想させて誤答に誘導する典型的な出題パターンです。
残差ネットワーク(ResNet)の入力画像を複数に分割し、並列処理を行うことで推論速度を高速化したモデルである。
スキップ接続はResNetやWideResNetの命とも言える超重要パーツであり、これを廃止してしまうと元の木阿弥になってしまいます。密な結合といえばDenseNetなどの別アーキテクチャの特徴なので、有名なネットワーク同士の特徴をごちゃ混ぜにする初学者の勘違いを誘うために置かれています。