エポック（Epoch）とイテレーションの理解
問題
以下の文章を読み、空欄 ( あ ) と ( い ) に入る数値の組み合わせとして、最も適切なものを1つ選べ。
ニューラルネットワークのミニバッチ学習において、全訓練データ数を N、バッチサイズを B としたとき、1エポックあたりのイテレーション（重みパラメータの更新回数）は ⌈N/B⌉ となる。
例えば、訓練データ数が10,000件であり、バッチサイズを250に設定して学習を行った場合、1エポックを完了するために必要なイテレーション数は ( あ ) 回となる。
また、この設定のまま学習を続け、総イテレーション数が2,000回に達した時点での消化エポック数は ( い ) エポックとなる。
解説
エポック（Epoch）は訓練データ全体を「何周学習したか」を表し、イテレーション（Iteration）はミニバッチごとに「重みパラメータを何回更新したか」を表します。
訓練データ10,000件をバッチサイズ250で学習する場合、1エポックあたりのイテレーション数は 10,000 ÷ 250 = 40 回となります。
したがって、総イテレーション数が2,000回に達した時点での消化エポック数は、2,000 ÷ 40 = 50 エポックとなります。
1. (あ) 40 (い) 50
正しい。1エポックのイテレーションは 10,000 / 250 = 40 回。総イテレーション2,000回でのエポック数は 2,000 / 40 = 50 エポックとなります。
2. (あ) 40 (い) 500
誤り。(あ)の計算は正しいですが、2,000イテレーションでのエポック数は 2,000 / 40 = 50 エポックとなります。
3. (あ) 250 (い) 8
誤り。250はバッチサイズです。イテレーション数の計算が間違っています。
4. (あ) 250 (い) 50
誤り。(あ)の計算が間違っています。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- tanh関数の理解
- 勾配消失問題と活性化関数の関係
- エポック（Epoch）とイテレーションの理解
- 鞍点（Saddle Point）の理解
- ストライド（stride）の理解
- BPTTの理解
- 位置エンコーディングの理解
- MixupおよびCutMixの理解
- 物体識別と物体検出の違い
- セマンティックセグメンテーションの特徴
- インスタンスセグメンテーションの理解
- パノプティックセグメンテーションの特徴
- 姿勢推定（Pose Estimation）の理解
- AlexNetの特徴
- GoogLeNet（Inception）の理解
- VGGの構造的特徴
- ResNetの残差学習の理解
- Wide ResNetの特徴
- DenseNetの密結合構造
- EfficientNetとMobileNetの理解
- NAS（ニューラルアーキテクチャ探索）の特徴
- MnasNetの探索戦略
- NASNetのセル構造
- SENet（Squeeze-and-Excitation Network）の理解
- Vision Transformer（ViT）の特徴
- Fast R-CNNの処理構造
- Faster R-CNNのRPN
- Mask R-CNNの追加機能
- SSD（Single Shot MultiBox Detector）の特徴
- YOLO（You Only Look Once）の特徴
- FPN（Feature Pyramid Network）の理解
- FCN（Fully Convolutional Network）の特徴
- OpenPoseとPart Affinity Fields
- BERTの事前学習タスク
- Bag-of-Words（BoW）の特徴
- word2vecの理解
- fastTextのサブワード学習
- CBOW（Continuous Bag-of-Words）の特徴
- skip-gramの特徴
- CEC（Constant Error Carousel）の役割
- ELMoの文脈化表現
- GPTモデルの学習方式
- PaLMの理解
- Seq2Seqモデルの構造
- TF-IDFの重要度計算
- 形態素解析の役割
- 構文解析の目的
- 感情分析の特徴
- 文書要約の種類
- A-D変換（アナログ-デジタル変換）のプロセス
- WaveNetの特徴
- 音韻の理解
- 音声認識の基本
- 音素の理解
- 隠れマルコフモデル（HMM）の特徴
- 高速フーリエ変換（FFT）の理解
- スペクトル包絡の特徴
- PCM（パルス符号変調）の理解
- MFCC（メル周波数ケプストラム係数）の特徴
- CTC（Connectionist Temporal Classification）の理解
- A3C（Asynchronous Advantage Actor-Critic）の特徴
- Agent57の特徴
- APE-Xの理解
- DQN（Deep Q-Network）の理解
- Double DQNの理解
- Dueling Networkの特徴
- PPO（Proximal Policy Optimization）の理解
- OpenAI Fiveの特徴
- AlphaStarの理解
- sim2realの課題
- ドメインランダマイゼーションの理解
- ノイジーネットワークの特徴
- 報酬成形（Reward Shaping）の理解
- GAN（敵対的生成ネットワーク）の理解
- DCGANの特徴
- Diffusion Modelの理解
- NeRF（Neural Radiance Fields）の特徴
- Pix2Pixの理解
- CycleGANの特徴
- StyleGANの理解
- データ生成タスクの応用
- 転移学習の基本概念
- ファインチューニングの特徴
- Few-shot / One-shot 学習の理解
- 自己教師あり学習の役割
- 破壊的忘却（Catastrophic Forgetting）
- 半教師あり学習の特徴
- マルチモーダルAIの基本理解
- CLIPの特徴理解
- DALL-Eの役割
- Visual Question Answeringの理解
- zero-shot推論の理解
- マルチタスク学習の特徴
- CAMの特徴に関する問題
- Grad-CAMの理解
- LIMEの特徴
- SHAPの特徴理解
- 知識蒸留の理解
- プルーニングの理解
- 量子化の理解
- 説明可能AI（XAI）の理解