問題 No.2346
ディープラーニングの要素技術である積層オートエンコーダ（Stacked Autoencoder）に関する説明として、不適切なものを1つ選べ。
【正解の解説】
出力層の次元数を行入力層の次元数よりも常に大きく設計し情報の保持量を増大させる。
オートエンコーダは、限られた容量のバッグに荷物を効率よく詰め込むようなものであり、あえて入力層より次元の小さい中間層を通すことで重要な特徴を圧縮学習させます。そのため、出力層を常に入力層より大きくして情報を増やす設計は、情報を圧縮するという本来の目的から外れてしまうため不適切となります。
スポンサーリンク
【その他の選択肢の解説】
中間層の次元数を行入力層の次元数よりも小さく設計し特徴量を効率的に圧縮する。
これは「情報の要約」を行うプロセスであり、分厚い本をペラペラの要約ノートにまとめる作業に似ています。無駄なノイズを削ぎ落として本質のデータだけを取り出すため、あえて狭い部屋（低次元の中間層）を通過させるという設計が非常に重要なポイントになります。
各層の重みパラメータを教師なし学習で事前訓練した後に微調整を行う。
料理の仕込みに例えると、いきなり本番の調理をするのではなく、まずは野菜を効率よくカットする練習（事前訓練）をしてから全体の味を調える（微調整）という二段構えの手法です。この事前訓練があるおかげで、深いネットワークでも安定した学習が可能になります。
複数のオートエンコーダを縦方向につなぎ合わせて深層のネットワークを構築する。
ブロック玩具を垂直に積み上げて高いタワーを作るように、1つひとつの小さなオートエンコーダ（圧縮・復元ユニット）を縦にズラリと連結させることで、より複雑で高度なデータの特徴を段階的に捉えられる深いネットワークを構築することができます。