LSTMのゲート構造

問題

LSTM（Long Short-Term Memory）について、正しい記述を1つ選べ。

LSTM（Long Short-Term Memory：長・短期記憶）は、従来のRNNが抱えていた「長い文章になると古い情報が消えてしまう（勾配消失問題）」という弱点を克服したモデルです。

情報を保持するコンベアベルトのような「セル状態（Cell State）」と、情報をどれくらい「忘れるか（忘却）」「入力するか（入力）」「出力するか（出力）」を調整する3つの「ゲート構造」を持つことで、重要な情報を長期にわたって記憶し続けることができます。

1. LSTM（Long Short-Term Memory）はゲート構造を持たず、通常のRNNと同じ構造である。

誤り：LSTMは従来のRNNの単純な構造を大幅に改良し、「セル状態」と「3つのゲート（入力、忘却、出力）」という複雑な構造を持たせたものです。

2. LSTM（Long Short-Term Memory）は入力ゲート・忘却ゲート・出力ゲートを使って情報を制御する。

正しい：不要な記憶を捨てる「忘却ゲート」、新しい記憶を追加する「入力ゲート」、次の層へ渡す情報を選ぶ「出力ゲート」により情報の流れを精緻に制御します。

3. LSTM（Long Short-Term Memory）は勾配爆発を完全に防ぐため、学習率を自動調整する仕組みを持つ。

誤り：LSTMはゲート機構によって情報の保持と破棄をコントロールし「勾配消失」を防ぐのに長けていますが、学習率を自動調整する機能は持っていません（それはAdamなどの最適化アルゴリズムの役割です）。

4. LSTM（Long Short-Term Memory）は短期記憶のみを扱い、長期記憶は扱えない。

誤り：LSTMはその名の通り、Short-Term Memory（短期記憶＝RNNの隠れ状態）を、Long（長期間）保持できるように設計されたモデルであり、長期依存のモデリングに優れています。

← 前の問題次の問題 →

📚 より詳細を学びたい方へ