交差エントロピーの性質に関する理解

問題

交差エントロピー（Cross Entropy）に関する以下の記述のうち誤りを1つ選べ。

交差エントロピー誤差（Cross Entropy Loss）は、画像認識などの「分類タスク」で最も一般的に使われる誤差関数です。

AIが出力した「各クラスに属する確率（例：犬80%, 猫20%）」と、「実際の正解（例：犬100%, 猫0%）」という2つの確率分布のズレを計算します。

正解のクラスに対してAIが高い確率を予測していれば誤差は小さくなり、逆に正解クラスに対して低い確率を予測していると、対数関数（log）の性質により非常に大きなペナルティ（誤差）が与えられます。

1. 交差エントロピーは分類タスクでよく使われる誤差関数である。

正しい：ソフトマックス関数と組み合わせて、モデルが出力した「確率」と「正解ラベル（One-hotベクトル）」のズレを測るため、多クラス分類に最適です。

2. 交差エントロピーは正解クラスに高い確率を割り当てるほど損失が小さくなる。

正しい：計算式にマイナスの対数（$-\log p$）を用いるため、正解クラスの予測確率 $p$ が1に近づくほど損失は0に近づきます。

3. 交差エントロピーは確率分布の違いを測るため、KLダイバージェンスと同じものである。

誤り：交差エントロピーはKLダイバージェンスと密接な関係（交差エントロピー＝真の分布のエントロピー＋ KLダイバージェンス）がありますが、厳密には「同じもの」ではありません。

4. 交差エントロピーはモデルの予測確率と正解の確率分布を比較する。

正しい：AIの予測確率分布と、正解ラベルの確率分布（正解だけが1で他は0の分布）とを比較して、その違いを数値化します。

← 前の問題次の問題 →

📚 より詳細を学びたい方へ