正規化層の役割に関する問題
問題
以下の文章を読み、空欄 ( あ ) ~ ( う ) に最もよく当てはまる語句の組み合わせとして適切なものを1つ選べ。
ディープラーニングにおいて、ネットワークの層が深くなるにつれて各層の入力分布が学習過程で変化する現象を ( あ ) と呼び、これが学習を不安定にする一因とされてきた。この問題に対処し、学習を安定化・高速化するために導入されるのが正規化層である。代表的な手法として、ミニバッチに含まれるデータ全体を用いてチャネルごとに平均と分散を計算する ( い ) や、自然言語処理などでよく用いられ、各データごとにすべてのチャネルにわたって正規化を行う ( う ) がある。
同じカテゴリの問題
- TPUの理解
- ノーフリーランチの定理の理解
- 全結合層の特徴に関する問題
- 全結合層のパラメータ数に関する問題
- 畳み込み層の役割に関する問題
- カーネル(フィルタ)の理解
- パディングの目的
- 特徴マップの理解
- CNNの構造に関する問題
- Depthwise Separable Convolution
- Dilation Convolution の理解
- 全結合層と畳み込み層の違い
- バッチ正規化(Batch Normalization)の理解
- 正規化層の役割に関する問題
- プーリング層の役割に関する問題
- 最大値プーリングと平均値プーリングの理解
- グローバルアベレージプーリング(GAP)の特徴
- スキップ結合の役割に関する問題
- Residual Network(ResNet)の特徴
- 回帰結合層の理解
- RNNの特徴に関する問題
- LSTMのゲート構造
- GRUの特徴に関する問題
- 双方向RNNの理解
- Attentionの役割に関する問題
- Self-Attentionの特徴
- Multi-Head Attentionの理解
- Transformerの構造に関する問題
- Encoder-Decoder Attentionの理解
- Seq2SeqとAttentionの関係
- オートエンコーダの基本理解
- 積層オートエンコーダの特徴
- 次元削減とオートエンコーダ
- 変分オートエンコーダ(VAE)の理解
- データ拡張の基本理解
- 画像データ拡張手法の理解
- テキストデータの拡張手法
