問題 No.2350
リカレントニューラルネットワーク（RNN）の発展形であるLSTMブロックに関する記述として、最も不適切なものを1つ選べ。
【正解の解説】
LSTMブロックは通常のRNNと比較してパラメータ数が少なく、計算コストを大幅に削減できる構造を持つ。
LSTMは内部に複数の扉（ゲート）を持っているため、構造が非常にリッチで複雑になります。これは、普通の自転車（通常のRNN）に比べて、ギアチェンジやサスペンションがてんこ盛りな高級マウンテンバイク（LSTM）のようなものです。機能が豪華になった分、部品点数（パラメータ数）が増えてペダルを漕ぐ重さ（計算コスト）も重くなるため、パラメータ数が少ないという記述は誤りになります。
スポンサーリンク
【その他の選択肢の解説】
LSTMブロックは忘却ゲートや入力ゲートなどの制御機構を備えることで長期的な依存関係を学習できる。
この選択肢はLSTM最大の特徴を正確に述べています。人間の脳が「昨日の朝食は忘れたが、3年前の旅行の思い出は覚えている」と情報の取捨選択をするように、LSTMも不要な過去の記憶を忘れ、重要な記憶だけを残す仕組み（忘却ゲートや入力ゲート）を持っています。したがって、問題文が求める「不適切な記述」ではなく、正しい記述であるため誤答となります。
LSTMブロックは勾配消失問題を軽減するために情報を選択的に保持・更新する仕組みを取り入れている。
通常のRNNでは、過去の古い情報が時間とともに薄れて消えてしまう「勾配消失問題」という弱点がありました。LSTMはベルトコンベアのような「セルの状態」という通り道を設けることで、古い情報でも途中で消えずに遠くまで運べるよう工夫されています。この仕組みによって長期の学習が安定するため、この記述はLSTMの特徴として完全に正しいものになります。
LSTMブロックは時系列データの処理において過去の情報を正確に伝播させるため複数種類のゲートを持つ。
LSTMには忘却ゲート、入力ゲート、出力ゲートという「複数種類のゲート」が存在します。これらは、情報の門番として「どれを消して、どれを新しく取り入れて、どれを外に出すか」を細かくコントロールしています。文章や音声などの時系列データで、遠く離れた単語同士のつながりを正しく理解するために不可欠な構造であるため、この記述も正しい内容です。