Q学習の特徴
問題
Q学習に関する記述として正しいものを1つ選べ。
解説
Q学習(Q-learning)は、強化学習における代表的な「モデルフリー(環境の事前知識を必要としない)」のアルゴリズムです。
エージェントが試行錯誤を通じて、ある状態における各行動の価値(Q値)を計算し、最もQ値が高くなる行動を選ぶように表(Qテーブル)を更新していくことで最適方策を見つけ出します。
後に深層学習と組み合わせてDQN(Deep Q-Network)へと発展し、AIがゲームで人間に勝利するなど大きなブレイクスルーの基礎となりました。
1. Q学習は環境モデルを必要とする
誤り:Q学習は環境の動き(状態遷移確率など)を事前に知る必要がない「モデルフリー」の手法です。環境モデルは必要としません。
2. Q学習はQ値を更新して最適方策を得る
正しい:行動の結果得られた報酬をもとにQ値(行動価値)を更新し、最終的に最も価値の高い行動を選ぶ「最適方策」を得るのが特徴です。
3. Q学習は報酬を使わない
誤り:Q値の更新には、行動の結果として環境から与えられる「報酬」が不可欠です。
4. Q学習は行動価値関数を使わない
誤り:Q学習は、その名の通り「Q関数(行動価値関数)」の値を直接学習・更新していくアルゴリズムです。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- 教師あり学習の基本要件
- 回帰問題の理解
- 分類問題の特徴
- 決定木モデルの性質
- サポートベクターマシン(SVM)の理解
- カーネルとカーネルトリック
- 重回帰分析の理解
- 勾配ブースティングの特徴
- 多クラス分類の理解
- 教師あり学習のビジネス応用
- アンサンブル学習の基本概念
- バギングの特徴
- ブートストラップサンプリングの理解
- ランダムフォレストの性質
- ブースティングの理解
- ランダムフォレストの特徴
- 自己回帰モデル(AR)の理解
- VARモデルの特徴
- マージン最大化の理解
- ロジスティック回帰の理解
- 教師なし学習の基本概念
- k-means法の理解
- t-SNEの特徴
- ウォード法の理解
- 協調フィルタリングの理解
- クラスタリングの特徴
- 次元削減の理解
- 主成分分析(PCA)の理解
- 潜在的ディリクレ配分法(LDA)の理解
- 多次元尺度構成法(MDS)の理解
- デンドログラムの理解
- 特異値分解(SVD)の理解
- コンテンツベースフィルタリングの理解
- クラスタ分類の理解
- 強化学習の基本概念
- 方策(Policy)の理解
- 価値関数の理解
- 行動価値関数Q(s,a)の理解
- 状態価値関数V(s)の理解
- TD誤差の理解
- Actor-Criticの理解
- Q学習の特徴
- ε-greedy方策の理解
- UCB方策の理解
- バンディット問題の理解
- 方策勾配法の理解
- REINFORCEの特徴
- マルコフ決定過程(MDP)の理解
- マルコフ性の理解
- 期待割引報酬の理解
- 割引率γの理解
- 汎化性能の理解
- 訓練誤差と汎化誤差
- ホールドアウト検証の理解
- 交差検証の特徴
- k-分割交差検証の理解
- 混同行列の理解
- 偽陽性・偽陰性の理解
- 正解率の計算
- 適合率の計算
- 再現率の計算
- F値の理解
- 回帰指標MSEの理解
- RMSEの理解
- MAEの理解
- ROC曲線の理解
- AICの理解
- BICとオッカムの剃刀


