ミニバッチ学習の利点

問題

ミニバッチ学習の特徴について、正しいものを1つ選べ。

ディープラーニングにおける「学習方式（データの処理単位）」には、全データを一気に計算する「バッチ学習」、1件ずつ計算する「オンライン学習（SGD）」、そしてそれらの中間である「ミニバッチ学習」があります。

ミニバッチ学習は、数万件のデータを数十〜数百件（例：32, 64, 256など）の「ミニバッチ」に分割して処理します。

これにより、GPUの並列計算能力を最大限に活かしつつ、外れ値に振り回されない安定した学習が可能になります。

1. ミニバッチ学習は勾配が最も不安定になる。

誤り：1件ずつ更新するため勾配（進む方向）が最もジグザグで不安定になるのは「オンライン学習（または本来の意味でのSGD）」です。ミニバッチ学習はある程度データをまとめるため、オンライン学習より安定します。

2. ミニバッチ学習は計算効率と安定性のバランスが良い。

正しい：1件ずつよりは安定し、全データ一括よりはメモリ消費や計算時間が少ないため、計算効率と安定性の「いいとこ取り」をした深層学習の標準的な学習方式です。

3. ミニバッチ学習はすべてのデータを使うため計算が重い。

誤り：全データ（1エポック分のデータすべて）を一度にまとめてメモリに乗せ、巨大な計算を行うのは「バッチ学習」の特徴です。

4. ミニバッチ学習はストリーミングデータに最適である。

誤り：データが次々と無限に送られてくるような環境（ストリーミングデータ）や、常に最新の傾向を学習させ続けたい場合には、1件ずつ処理する「オンライン学習」が最適です。

← 前の問題次の問題 →

📚 より詳細を学びたい方へ