スキップ結合（ショートカット接続）
解説：情報の「バイパス道路」を作る
スキップ結合（Skip Connection）は、ニューラルネットワークの層を飛び越えて、入力データを奥の層へ直接届ける「近道（ショートカット）」を追加する仕組みです。
2015年に登場したモデル「ResNet（残差ネットワーク）」で採用され、それまで数十層が限界だったAIの層を、一気に152層以上まで深くすることを可能にしました。
🚧 なぜ「近道」が必要なのか？
層を深くしすぎると、入口から入ったデータ（または出口から戻る誤差）が、途中で変質したり消えたりして、端まで届かなくなる「勾配消失問題」が発生します。
層を深くしすぎると、入口から入ったデータ（または出口から戻る誤差）が、途中で変質したり消えたりして、端まで届かなくなる「勾配消失問題」が発生します。
スキップ結合は、ある層で加工されたデータ F(x) に、加工前の元のデータ x をそのまま足し合わせる（ F(x) + x ）ことで、「情報のバイパス道路」を作ります。これにより、誤差（勾配）がこの道路を通ってスイスイと入力層まで戻れるようになり、超深層になっても学習が止まらなくなりました。
「残差学習」という考え方
この仕組みは、ゼロから答えを出そうとするのではなく、「入力との差分（残差）」だけを学習すればいいという発想に基づいています。
| 状態 | イメージ | 結果 |
|---|---|---|
| スキップ結合なし (Plain Network) |
伝言ゲームを100人に続ける。 | 途中で情報が変質し、最初の内容が伝わらない。 (勾配消失で学習不可) |
| スキップ結合あり (ResNet) |
伝言の途中で、元のメモを直接手渡す。 | オリジナル情報が保持されるため、何百人(層)でも続けられる。 (100層以上でも学習可能) |
G検定対策
出題ポイント
- 代表モデル：マイクロソフトの研究チームが開発した「ResNet（Residual Network）」で導入された技術である。
- 目的：「勾配消失問題」を解決し、層を深く（Deepに）するため。
- 仕組み：ある層の出力を、数層先に「加算（足し算）」する。これを「恒等写像（Identity Mapping）」の追加と呼ぶこともある。
ひっかけ対策
- × パラメータ数が倍増する
（解説）ただ元のデータを足し算するだけなら、学習すべきパラメータ（重み）は増えません。計算コストもほとんど増えないのが利点です。 - × 層を減らすための技術である
（解説）逆です。「層を（性能を落とさずに）増やすため」の技術です。
