連鎖律(チェーンルール)の役割
問題
連鎖律(Chain Rule)の役割について、正しいものを1つ選べ。
解説
連鎖律(Chain Rule)は、高校数学で習う「合成関数の微分公式」のことです。ディープラーニングのネットワークは、何十層もの関数がマトリョーシカのように入れ子になった「巨大な合成関数」とみなせます。
誤差逆伝播法(バックプロパゲーション)は、この連鎖律を利用して「出力層での誤差」を「直前の層の微分」と掛け合わせながら、入力層に向かってドミノ倒しのように伝播させていくことで、複雑なネットワーク内のすべての重みの勾配(更新量)を効率よく計算します。
1. 連鎖律は複数の関数が組み合わさったとき、全体の変化率を部分的な変化率の掛け算で求める。
正しい:連鎖律は「複数の関数が組み合わさったとき、全体の変化率を部分的な変化率の掛け算で求める」という微分の基本法則であり、誤差逆伝播法の計算の根幹です。
2. 連鎖律は誤差逆伝播法では使用されず、主に推論時に使われる。
誤り:連鎖律はモデルの「学習時(パラメータの更新時)」における誤差逆伝播(勾配計算)で必須となるものであり、推論時(予測時)には使われません。
3. 連鎖律は勾配爆発を防ぐための正則化手法の一種である。
誤り:連鎖律はあくまで数学的な「微分の計算ルール」であり、過学習を防いだり勾配爆発を防いだりするための正則化手法(L2正則化やDropoutなど)ではありません。
4. 連鎖律は損失関数の値を直接小さくするためのアルゴリズムである。
誤り:損失を小さくするためのアルゴリズムは「勾配降下法などの最適化手法」です。連鎖律はその最適化に必要な「勾配を計算するための数学的手段」にすぎません。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- 過学習(Overfitting)の理解
- AUCの理解
- 単純パーセプトロンの限界に関する問題
- 多層パーセプトロン(MLP)の特徴
- GPUとCPUの違いに関する理解
- ディープラーニングの学習データ量に関する理解
- ニューラルネットワークの層構造に関する問題
- 活性化関数の役割に関する理解
- シグモイド関数の特徴に関する問題
- ReLU関数の利点と注意点
- Leaky ReLUの特徴に関する問題
- ソフトマックス関数の理解
- 誤差関数の基本的な役割に関する理解
- 平均二乗誤差(MSE)の特徴
- 交差エントロピーの性質に関する理解
- KLダイバージェンス(カルバック・ライブラー情報量)の理解
- Contrastive Loss(コントラスト損失)の理解
- Triplet Loss(トリプレット損失)の特徴
- 正則化の目的に関する理解
- L1正則化(ラッソ回帰)の特徴
- L2正則化(リッジ回帰)の性質
- ドロップアウトの仕組みと目的
- L0・L1・L2正則化の違いに関する理解
- 誤差逆伝播法の基本原理に関する理解
- 連鎖律(チェーンルール)の役割
- 勾配爆発問題の原因に関する理解
- 勾配降下法の基本原理に関する理解
- 学習率(Learning Rate)の特徴
- 確率的勾配降下法(SGD)の性質
- バッチ学習・ミニバッチ学習・オンライン学習の違い
- 局所最適解と大域最適解の理解
- 早期終了(Early Stopping)の目的
- ハイパーパラメータの役割
- 最適化手法の課題と改善手法
- ミニバッチ学習の利点
- オンライン学習の特徴
- 学習率と収束の関係
- 二重降下現象の特徴
- モーメンタムの役割
- AdaGradの特徴
- RMSpropの改善点
- AdaDeltaの特徴
- Adamの理解
- AMSGradの特徴
- AdaBoundの理解
- AMSBoundの特徴
- グリッドサーチの特徴
- ランダムサーチの特徴


