スキップ結合の役割に関する問題
問題
スキップ結合(Skip Connection)の役割について、以下の記述のうち誤りを1つ選べ。
解説
スキップ結合(Skip Connection / Shortcut Connection)は、ディープラーニングにおいて「層を深くするとかえって精度が落ちる(劣化問題:Degradation problem)」という課題を解決した画期的なアーキテクチャです。
ある層の入力データを、途中の処理層を「スキップ(ショートカット)」して、後ろの層の出力に「そのまま足し合わせる(加算する)」構造を持っています。
これにより、逆伝播の際に勾配がショートカットを通って浅い層まで届きやすくなり、勾配消失問題が緩和されます。
1. スキップ結合は勾配消失を緩和し、深いネットワークでも学習を安定化させる。
正しい:入力がショートカット経路をそのまま通過できるため、誤差逆伝播の際に勾配が消失しにくく、100層を超えるような超深層モデルの学習が可能になりました。
2. スキップ結合は入力をそのまま後ろの層に加算することで恒等写像を学習しやすくする。
正しい:入力をそのまま出力に足すことで「何もしない(恒等写像)」ことを学習しやすくなり、無駄に層を深くしても最低限の精度を保てるようになりました。
3. スキップ結合はネットワークのパラメータ数を大幅に増加させる。
誤り:スキップ結合は、以前の層の出力値をそのまま足し合わせる(加算する)だけの操作であるため、学習が必要なパラメータ数は増えません。
4. スキップ結合は深いネットワークで発生する劣化問題を改善する。
正しい:ネットワークを深くした際に学習エラーがむしろ悪化してしまう「劣化問題」を克服するために、ResNetで初めて導入され大成功を収めました。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- TPUの理解
- ノーフリーランチの定理の理解
- 全結合層の特徴に関する問題
- 全結合層のパラメータ数に関する問題
- 畳み込み層の役割に関する問題
- カーネル(フィルタ)の理解
- パディングの目的
- 特徴マップの理解
- CNNの構造に関する問題
- Depthwise Separable Convolution
- Dilation Convolution の理解
- 全結合層と畳み込み層の違い
- バッチ正規化(Batch Normalization)の理解
- 正規化層の役割に関する問題
- プーリング層の役割に関する問題
- 最大値プーリングと平均値プーリングの理解
- グローバルアベレージプーリング(GAP)の特徴
- スキップ結合の役割に関する問題
- Residual Network(ResNet)の特徴
- 回帰結合層の理解
- RNNの特徴に関する問題
- LSTMのゲート構造
- GRUの特徴に関する問題
- 双方向RNNの理解
- Attentionの役割に関する問題
- Self-Attentionの特徴
- Multi-Head Attentionの理解
- Transformerの構造に関する問題
- Encoder-Decoder Attentionの理解
- Seq2SeqとAttentionの関係
- オートエンコーダの基本理解
- 積層オートエンコーダの特徴
- 次元削減とオートエンコーダ
- 変分オートエンコーダ(VAE)の理解
- データ拡張の基本理解
- 画像データ拡張手法の理解
- テキストデータの拡張手法


