問題 No.2122
ディープラーニングのモデルにおいて、LSTM（Long Short-Term Memory）の内部構造を構成する主要な要素の一つであり、セル状態に保持されている情報をどの程度外部へ出力するかを決定する役割を持つ機構はどれか。
【正解の解説】
セル状態の情報を基にして、次の隠れ状態としてどの程度出力するかをシグモイド関数やtanh関数を用いて制御する
人間が膨大な記憶の中から「今の会話ではこの部分だけを声に出そう」と選ぶ脳の働きに似ています。レストランの調理場に例えると、これまでの調理工程で溜まった食材やスープから、今どの料理をお皿に盛り付けてお客様のテーブルへ提供すべきかを最終判断して送り出す、まさに最後の配膳口のような役割を果たしています。
スポンサーリンク
【その他の選択肢の解説】
セル状態の情報を基にして、過去の記憶をどの程度忘却するかをシグモイド関数やtanh関数を用いて制御する
LSTMには情報の流れを制御する複数の扉があり、これは忘却ゲートの機能です。初学者は「出力」と「忘却」の役割をごちゃ混ぜにしがちですが、前者はこれから外に出す情報の量を調整し、後者は過去の古い記憶をどれだけ捨てるかを決めるため、担当している仕事のタイミングが根本的に異なります。
セル状態の情報を基にして、新しい入力情報をどの程度反映するかをシグモイド関数やtanh関数を用いて制御する
新しい知識を頭に詰め込むときに入り口でどれくらい重要視するかを決める仕組みであり、記憶の倉庫から外へ荷物を取り出す出力ゲートとは逆のベクトルを持ちます。試験ではこの「入れる」「残す」「出す」という3つのゲートの役割が巧妙に入れ替えて出題されるため、情報の方向性をしっかりイメージして区別することが重要です。
セル状態の情報を基にして、全体の勾配爆発をどの程度抑制するかをシグモイド関数やtanh関数を用いて制御する
LSTMは誤差が消えてしまう勾配消失問題に強い構造をしていますが、それを直接コントロールしているのは各ゲートが連携して情報をうまく流す仕組みそのものです。出力ゲート自体はあくまで「出力を決めるフィルター」であり、勾配爆発の抑制を直接の目的として作られた特殊な制御弁ではありません。