二重降下現象の特徴

問題

二重降下現象（Double Descent）に関する記述のうち、正しいものを1つ選べ。

二重降下現象（Double Descent）は、現代のディープラーニングにおいて観察される、従来の機械学習の常識を覆す現象です。

従来は「モデルのパラメータ数を増やすと、最初はテスト誤差が下がるが、ある時点（補間閾値）を超えると過学習を起こして誤差が上昇し続ける（U字カーブ）」と考えられていました。

しかし、ディープラーニングのようにパラメータ数がデータ数よりも圧倒的に多い（過剰にパラメータ化された）領域に入ると、「誤差が再び減少し始める」という非直感的な挙動を示します。

1. 二重降下現象ではモデルが複雑になるほど誤差は単調に減少する。

誤り：単調に減少するわけではなく、一度「過学習」によって誤差が増加するフェーズ（補間閾値）を挟んでから、再び減少に転じます。

2. 二重降下現象は誤差が「減る→増える→再び減る」という挙動を示す。

正しい：モデルの複雑さ（パラメータ数）を増やしていくと、テスト誤差が「減る（未学習の解消）→増える（過学習）→再び減る（過剰パラメータ領域）」という二重の降下を描く現象です。

3. 二重降下現象は単純な線形モデルでのみ発生する。

誤り：単純な線形モデル（特定の条件下）でも観察されますが、特にResNetなどの複雑でパラメータが極めて多い深層学習モデルにおいて顕著に確認され、注目を集めました。

4. 二重降下現象は過学習が起きないことを示す。

誤り：過学習が起きないのではなく、「過学習のピークを越えてさらにパラメータを増やすと、なぜか汎化性能が向上する」という現象です。

← 前の問題次の問題 →

📚 より詳細を学びたい方へ