g-kentei-kei

Long Short Term Memory (LSTM) 解説：記憶を「ベルトコンベア」で運ぶ Long Short Term Memory（LSTM）は、RNNが抱えていた「昔のことをすぐに忘れてしまう（長期依存の学習が苦手）」という致...

Back Propagation Through Time (BPTT) 解説：時間を「巻き戻して」犯人を探す BPTT（時間方向の誤差逆伝播法）は、RNNを学習させるための専用アルゴリズムです。名前の通り、「時間の流れを遡って（Back ...

エルマンネット / ジョルダンネット 解説：RNNの「始祖」たち 1990年代初頭に考案された、現代のRNNの原型となるモデルです。それまでのニューラルネットワークは「その瞬間の入力」しか見ることができませんでしたが、これらのモデルは過去の...

リカレントニューラルネットワーク (RNN) 解説：過去を「記憶」するネットワーク リカレントニューラルネットワーク（RNN: Recurrent Neural Network）は、「時間的なつながり」を持つデータを扱うために開発されたモデ...

回帰結合層（Recurrent Layer） 解説：自分にパスを出す「記憶」の仕組み 回帰結合層は、ニューラルネットワークの中に「ループ（繰り返し）構造」を持たせた層のことです。最大の特徴は、計算した出力をそのまま外に出すだけでなく、「次の...

スキップ結合（ショートカット接続） 解説：情報の「バイパス道路」を作る スキップ結合（Skip Connection）は、ニューラルネットワークの層を飛び越えて、入力データを奥の層へ直接届ける「近道（ショートカット）」を追加する仕組みです。...

プーリング層（Pooling Layer） 解説：あえて「大雑把」に見る技術 プーリング層は、画像の解像度を下げて情報を圧縮する（ダウンサンプリング）処理を行う層です。簡単に言えば、「画像をモザイク画のように粗くする処理」です。 せっかくの...

深度別分離畳み込み（Depthwise Separable Convolution） 解説：仕事を2人に分担して「時短」する Depthwise Separable Convolutionは、通常の畳み込み処理を「2つの単純な工程」に分解す...

拡張畳み込み（Dilation Convolution） 解説：スカスカにして視野を広げる Dilation Convolution（Dilated Convolution）は、畳み込みフィルター（カーネル）の要素の間に意図的に隙間（穴）を...

全結合層 (Fully Connected Layer / Dense Layer) 解説：すべての情報を総まとめにする「最終会議」 全結合層とは、ニューラルネットワークにおいて「前の層にあるすべてのニューロン（ノード）」と、「次の層のすべ...