RNNの特徴に関する問題

問題

リカレントニューラルネットワーク（RNN）について、正しい記述を1つ選べ。

RNN（リカレントニューラルネットワーク）は、回帰結合（自己ループ）を持つことで、過去の情報を記憶（内部状態として保持）しながら系列データを処理できるニューラルネットワークです。

「私は昨日、美味しいリンゴを〇〇〇」といった文章の続きを予測する際、過去の単語の文脈を踏まえて処理できます。

ただし、長い文章になると古い記憶が薄れてしまう（勾配消失問題による長期依存性の学習困難）という弱点があり、これを克服するためにLSTMやGRUといった発展モデルが生まれました。

1. リカレントニューラルネットワーク（RNN）は各ステップで異なる重みを使い、時系列の変化に柔軟に対応する。

誤り：RNNは、異なる時刻（ステップ）の入力に対して「全く同じ重みパラメータ（共有重み）」を繰り返し適用して処理を進めるのが特徴です。

2. リカレントニューラルネットワーク（RNN）は過去の状態を保持しながら処理するため、文章や音声などの順序を持つデータに適している。

正しい：内部状態（隠れ状態）を次の時刻へ引き継ぐことで、時間的な順序や文脈（コンテキスト）を持つデータの処理に適しています。

3. リカレントニューラルネットワーク（RNN）は勾配消失が起こらないため、長期依存の学習に非常に強い。

誤り：標準的なRNN（Simple RNN）は、過去に遡って誤差を伝播させる際（BPTT）に「勾配消失」が非常に起きやすく、長期的な依存関係を学習するのが苦手です。

4. リカレントニューラルネットワーク（RNN）は入力の順序を無視して処理する。

誤り：入力の順序を無視して処理するのはBag-of-Wordsのような古典的手法です。RNNは順序（系列）を逐次的に処理するためのネットワークです。

← 前の問題次の問題 →

📚 より詳細を学びたい方へ