BICとオッカムの剃刀
問題
モデルの評価に関する記述のうち誤りを1つ選べ。
解説
BIC(ベイズ情報量規準)は、AICと同様にモデルの当てはまりの良さと複雑さのバランスを評価し、値が小さいほど良いモデルとされます。
AICとの最大の違いは「データ数(サンプルサイズ)」をペナルティの計算に考慮する点で、データ数が多いほどパラメータの増加に対して強いペナルティを与えます。
実務では、「同じ予測性能ならシンプルな方が良い」という「オッカムの剃刀」の原則に従い、AICよりもさらにシンプルなモデルを選びたい場合にBICが有効です。
1. BICはAICよりもペナルティが強い
正しい:一般にデータ数が十分多い場合、BICはAICよりもパラメータの増加に対するペナルティが強くなります。
2. BICはシンプルなモデルをより好む傾向がある
正しい:BICはペナルティが強いため、AICで評価するよりもパラメータ数の少ない「シンプルなモデル」を選択(好む)傾向があります。
3. BICはAICよりも複雑なモデルを好む
誤り:BICはAICよりもペナルティが強いため、複雑なモデルではなく「シンプルなモデル」を好む傾向があります。
4. オッカムの剃刀は「同じ性能ならシンプルなモデルが良い」という考え方
正しい:オッカムの剃刀は「ある事柄を説明するためには、必要以上に多くを仮定するべきではない(=同じ性能ならシンプルなモデルを選ぶべき)」という、モデル選択の基本原則です。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- 教師あり学習の基本要件
- 回帰問題の理解
- 分類問題の特徴
- 決定木モデルの性質
- サポートベクターマシン(SVM)の理解
- カーネルとカーネルトリック
- 重回帰分析の理解
- 勾配ブースティングの特徴
- 多クラス分類の理解
- 教師あり学習のビジネス応用
- アンサンブル学習の基本概念
- バギングの特徴
- ブートストラップサンプリングの理解
- ランダムフォレストの性質
- ブースティングの理解
- ランダムフォレストの特徴
- 自己回帰モデル(AR)の理解
- VARモデルの特徴
- マージン最大化の理解
- ロジスティック回帰の理解
- 教師なし学習の基本概念
- k-means法の理解
- t-SNEの特徴
- ウォード法の理解
- 協調フィルタリングの理解
- クラスタリングの特徴
- 次元削減の理解
- 主成分分析(PCA)の理解
- 潜在的ディリクレ配分法(LDA)の理解
- 多次元尺度構成法(MDS)の理解
- デンドログラムの理解
- 特異値分解(SVD)の理解
- コンテンツベースフィルタリングの理解
- クラスタ分類の理解
- 強化学習の基本概念
- 方策(Policy)の理解
- 価値関数の理解
- 行動価値関数Q(s,a)の理解
- 状態価値関数V(s)の理解
- TD誤差の理解
- Actor-Criticの理解
- Q学習の特徴
- ε-greedy方策の理解
- UCB方策の理解
- バンディット問題の理解
- 方策勾配法の理解
- REINFORCEの特徴
- マルコフ決定過程(MDP)の理解
- マルコフ性の理解
- 期待割引報酬の理解
- 割引率γの理解
- 汎化性能の理解
- 訓練誤差と汎化誤差
- ホールドアウト検証の理解
- 交差検証の特徴
- k-分割交差検証の理解
- 混同行列の理解
- 偽陽性・偽陰性の理解
- 正解率の計算
- 適合率の計算
- 再現率の計算
- F値の理解
- 回帰指標MSEの理解
- RMSEの理解
- MAEの理解
- ROC曲線の理解
- AICの理解
- BICとオッカムの剃刀


