Actor-Criticの理解
問題
以下の文章を読み、空欄 ( A ) ~ ( C ) に最もよく当てはまる語句の組み合わせとして正しい選択肢を1つ選べ。Actor-Criticは、行動を決定するActorと、行動を評価するCriticの2つのネットワークを同時に学習させる。
Actorは( A )に基づいて確率的に行動を選択し、CriticはTD誤差などを計算して( B )を用いて行動の良さを評価する。この手法は( C )学習の一種に分類される。
解説
Actor-Criticは、強化学習における代表的な手法です。Actor(役者)は「方策(次にどの行動をとるか)」を出力し、Critic(評論家)は「価値関数(その行動がどれくらい良かったか)」を用いて評価を行います。
これら2つを同時に学習・更新していくことで複雑なタスクに対応します。
1. ( A ) 方策 ( B ) 価値関数 ( C ) 強化
正しい:Actorは「方策」に基づいて行動を選択し、Criticは「価値関数」を用いて評価を行います。また、これは「強化学習」の一種です。
2. ( A ) 価値関数 ( B ) 方策 ( C ) 教師あり
誤り:Actorが用いるのは方策であり、Criticが用いるのが価値関数です。また強化学習に分類されます。
3. ( A ) 価値関数 ( B ) 方策 ( C ) 強化
誤り:Actorは「方策」に基づき行動を選択します。価値関数を用いるのはCriticです。
4. ( A ) 方策 ( B ) 価値関数 ( C ) 教師なし
誤り:Actor-Criticは教師なし学習ではなく、「強化学習」の手法です。
📚 より詳細を学びたい方へ
同じカテゴリの問題
- 教師あり学習の基本要件
- 回帰問題の理解
- 分類問題の特徴
- 決定木モデルの性質
- サポートベクターマシン(SVM)の理解
- カーネルとカーネルトリック
- 重回帰分析の理解
- 勾配ブースティングの特徴
- 多クラス分類の理解
- 教師あり学習のビジネス応用
- アンサンブル学習の基本概念
- バギングの特徴
- ブートストラップサンプリングの理解
- ランダムフォレストの性質
- ブースティングの理解
- ランダムフォレストの特徴
- 自己回帰モデル(AR)の理解
- VARモデルの特徴
- マージン最大化の理解
- ロジスティック回帰の理解
- 教師なし学習の基本概念
- k-means法の理解
- t-SNEの特徴
- ウォード法の理解
- 協調フィルタリングの理解
- クラスタリングの特徴
- 次元削減の理解
- 主成分分析(PCA)の理解
- 潜在的ディリクレ配分法(LDA)の理解
- 多次元尺度構成法(MDS)の理解
- デンドログラムの理解
- 特異値分解(SVD)の理解
- コンテンツベースフィルタリングの理解
- クラスタ分類の理解
- 強化学習の基本概念
- 方策(Policy)の理解
- 価値関数の理解
- 行動価値関数Q(s,a)の理解
- 状態価値関数V(s)の理解
- TD誤差の理解
- Actor-Criticの理解
- Q学習の特徴
- ε-greedy方策の理解
- UCB方策の理解
- バンディット問題の理解
- 方策勾配法の理解
- REINFORCEの特徴
- マルコフ決定過程(MDP)の理解
- マルコフ性の理解
- 期待割引報酬の理解
- 割引率γの理解
- 汎化性能の理解
- 訓練誤差と汎化誤差
- ホールドアウト検証の理解
- 交差検証の特徴
- k-分割交差検証の理解
- 混同行列の理解
- 偽陽性・偽陰性の理解
- 正解率の計算
- 適合率の計算
- 再現率の計算
- F値の理解
- 回帰指標MSEの理解
- RMSEの理解
- MAEの理解
- ROC曲線の理解
- AICの理解
- BICとオッカムの剃刀


