問題 No.1726
多層パーセプトロン（Multi-Layer Perceptron）の性質として、最も適切なものはどれか。
【正解の解説】
入力層と出力層の間に一つ以上の隠れ層を持つネットワーク構造であり、非線形な境界線を表現できる。
多層パーセプトロンは入力層と出力層の間に隠れ層を設けることで、入力を高次元の特徴空間へと写像します。これにより、単なる線形分離だけでなく、複雑な非線形境界線を構築できるようになり、ディープラーニングの基礎となる表現力を手に入れました。
スポンサーリンク
【その他の選択肢の解説】
単純パーセプトロンとは異なり、層を深くすることで線形分離可能な問題のみを高精度に学習できる。
層を重ねる目的は、線形分離可能な問題を解くためではなく、単純な線形変換の組み合わせによって複雑な非線形の写像を表現することにあります。線形分離だけであれば、単層の単純パーセプトロンで十分であり、層を深くする意味がありません。
出力層の各ノードには必ず活性化関数としてステップ関数を使用しなければならない制約がある。
ステップ関数を使用すると、関数が至る所で微分可能ではなくなり、誤差逆伝播法を用いた勾配ベースの学習が困難になります。そのため、実際には微分可能なシグモイド関数やReLU、Tanhなどが用いられ、学習の効率化が図られています。
誤差逆伝播法を用いる場合、層の数にかかわらず勾配消失問題は理論的に発生しない仕組みである。
誤差逆伝播法では連鎖律を用いて勾配を計算しますが、微分値の積が繰り返されることで層が深くなるほど勾配がゼロに近づいてしまいます。これは多層パーセプトロンにおける重要な課題であり、活性化関数の工夫や層の正規化などによる対策が必要です。