問題 No.1126
再帰型ニューラルネットワークの勾配消失問題を解決するために考案された長短期記憶において、過去の長期的な情報を保持するセル状態に対して、新しく入ってきた情報のうち「どの情報をどれだけ捨てるか」を決定する機構を【 】と呼ぶ。
【正解の解説】
忘却ゲート
忘却ゲート（Forget Gate）は、LSTMの内部で直前のセル状態 $C_{t-1}$ の情報に対してシグモイド関数（0〜1の出力）を掛け合わせ、「過去の記憶をどれだけ保持し、どの程度忘却（破棄）するか」を要素ごとに制御する長短期記憶の最も中核的な機構です。
スポンサーリンク
【その他の選択肢の解説】
入力ゲート
入力ゲート（Input Gate）は、現在ステップで新しく入力された情報のうち、どれだけをセル状態（記憶）に新しく書き込むかをシグモイド関数を用いて決定する仕組みです。「どの情報を捨てるか」を決定するゲートではありません。
出力ゲート
出力ゲート（Output Gate）は、最新のセル状態にtanh関数を適用した値に対してシグモイド関数の出力を掛け合わせることで、最終的な隠れ状態 $h_t$ として次のタイムステップや上位層へどの情報を出力するかを制御する役割を担います。
更新ゲート
更新ゲート（Update Gate）は、LSTMの構造を簡略化したGRUで導入されたゲートです。過去の記憶の維持と新しい情報の追加を1つのゲートで同時にコントロールする仕組みであり、標準的なLSTMの忘却ゲートとは名称・構造が異なります。