誤差逆伝播法の基本原理に関する理解
問題
誤差逆伝播法(バックプロパゲーション)の概要について、以下の記述のうち誤りを1つ選べ。
解説
誤差逆伝播法(Backpropagation:バックプロパゲーション)は、ディープラーニングが複雑なネットワークのパラメータ(重みとバイアス)を自動的に学習するための心臓部となるアルゴリズムです。
モデルが出力した予測値と正解との「誤差(損失)」を計算し、その誤差を「出力層から入力層に向かって逆向き」に伝えていきます。
その際、数学の「連鎖律(チェーンルール)」を用いることで、各層の重みが誤差にどれくらい影響を与えたか(勾配)を効率よく計算し、重みを修正(最適化)します。
1. 誤差逆伝播法は出力層での誤差を入力層へ逆方向に伝えて重みを更新する。
正しい:順伝播(入力から出力へ)で予測を行い、誤差逆伝播(出力から入力へ逆戻り)で各パラメータの誤差に対する責任度合いを計算して重みを更新します。
2. 誤差逆伝播法は損失関数の微分(勾配)を用いて重みの更新量を計算する。
正しい:誤差関数を各重みパラメータで偏微分した値(勾配)を求め、勾配降下法などの最適化アルゴリズムを使って、誤差が小さくなる方向に重みを更新します。
3. 誤差逆伝播法は連鎖律を利用して勾配を効率的に計算する。
正しい:微分における「連鎖律(合成関数の微分公式)」を適用することで、何十層・何百層と連なる複雑なネットワークの勾配計算を、コンピュータで高速かつ効率的に処理できます。
4. 誤差逆伝播法は勾配を使わず、ランダムに重みを更新することで学習を進める。
誤り:ランダムに重みを更新するのではなく、連鎖律によって正確に計算された「勾配(傾き)」の方向に沿って、誤差が減るように計画的に重みを更新します。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- 過学習(Overfitting)の理解
- AUCの理解
- 単純パーセプトロンの限界に関する問題
- 多層パーセプトロン(MLP)の特徴
- GPUとCPUの違いに関する理解
- ディープラーニングの学習データ量に関する理解
- ニューラルネットワークの層構造に関する問題
- 活性化関数の役割に関する理解
- シグモイド関数の特徴に関する問題
- ReLU関数の利点と注意点
- Leaky ReLUの特徴に関する問題
- ソフトマックス関数の理解
- 誤差関数の基本的な役割に関する理解
- 平均二乗誤差(MSE)の特徴
- 交差エントロピーの性質に関する理解
- KLダイバージェンス(カルバック・ライブラー情報量)の理解
- Contrastive Loss(コントラスト損失)の理解
- Triplet Loss(トリプレット損失)の特徴
- 正則化の目的に関する理解
- L1正則化(ラッソ回帰)の特徴
- L2正則化(リッジ回帰)の性質
- ドロップアウトの仕組みと目的
- L0・L1・L2正則化の違いに関する理解
- 誤差逆伝播法の基本原理に関する理解
- 連鎖律(チェーンルール)の役割
- 勾配爆発問題の原因に関する理解
- 勾配降下法の基本原理に関する理解
- 学習率(Learning Rate)の特徴
- 確率的勾配降下法(SGD)の性質
- バッチ学習・ミニバッチ学習・オンライン学習の違い
- 局所最適解と大域最適解の理解
- 早期終了(Early Stopping)の目的
- ハイパーパラメータの役割
- 最適化手法の課題と改善手法
- ミニバッチ学習の利点
- オンライン学習の特徴
- 学習率と収束の関係
- 二重降下現象の特徴
- モーメンタムの役割
- AdaGradの特徴
- RMSpropの改善点
- AdaDeltaの特徴
- Adamの理解
- AMSGradの特徴
- AdaBoundの理解
- AMSBoundの特徴
- グリッドサーチの特徴
- ランダムサーチの特徴


