説明可能AI (XAI: Explainable AI)
解説：AIの頭の中を「翻訳」する技術
説明可能AI（XAI）は、ディープラーニングなどの複雑なAIが出した答えに対して、「なぜそうなったのか」という根拠や判断プロセスを、人間が理解できるように提示する技術の総称です。
近年のAI（特にディープラーニング）は非常に高性能ですが、内部の計算が複雑すぎて、開発者ですら「なぜその答えが出たか」を完全に説明できないことが多く、これを「ブラックボックス問題」と呼びます。
XAIは、このブラックボックスに光を当て、人間への説明責任（Accountability）を果たすために不可欠な技術です。
🏥 なぜXAIが必要なのか？（医療の例）
- ブラックボックスなAI：
「この患者はガンです（確度99%）。理由は言えませんが、私の計算がそう言っています」
→ 医師も患者も怖くて信用できない。 - 説明可能なAI (XAI)：
「この患者はガンです。なぜなら、レントゲン画像の右下に、過去の症例と似た白い影があるからです」
→ 納得して治療に進める。
代表的なXAIの手法（試験の最頻出！）
「どうやって説明するか」のアプローチには、いくつかの有名なアルゴリズムがあります。それぞれの「根拠の探し方」の違いを理解しましょう。
1. LIME (Local Interpretable Model-agnostic Explanations)
「局所的」に近似モデルを作る手法。
- 仕組み：判定したいデータ（画像など）の一部を隠したり、少し変化させたデータ（ゆらぎ）を沢山作り、AIの反応を見ます。
- ポイント：AI全体（大域）を理解するのは諦めて、「その画像周辺（局所）」だけなら単純な線形モデルで説明できるはずだ、という割り切りが特徴です。
- キーワード：「局所的（Local）」「モデル非依存（どんなAIにも使える）」
2. SHAP (SHapley Additive exPlanations)
「ゲーム理論」で貢献度を公平に分ける手法。
- 仕組み：協力ゲーム理論の「シャープレイ値」という考え方を応用しています。「その特徴量（プレイヤー）があった場合となかった場合で、結果（勝利）がどう変わったか」をあらゆる組み合わせで計算します。
- ポイント：LIMEよりも計算時間はかかりますが、理論的に矛盾のない「公平な貢献度」を算出できます。
- キーワード：「シャープレイ値」「加法性」「モデル非依存」
3. Grad-CAM (Gradient-weighted Class Activation Mapping)
「勾配（Gradient）」を見て注目箇所を光らせる手法。
- 仕組み：CNN（畳み込みニューラルネットワーク）専用の手法です。逆誤差伝搬法を使って「出力（正解ラベル）」から逆算し、最後の畳み込み層の勾配（反応の強さ）を調べます。
- ポイント：判断の決め手となった場所を「ヒートマップ（赤く強調表示）」として可視化できます。直感的に分かりやすいため、画像診断などでよく使われます。
- キーワード：「CNN専用」「ヒートマップ」「最後の畳み込み層」
| 手法名 | アプローチの概要 | 適用対象 |
|---|---|---|
| LIME | データを少し変化させて反応を見る（局所近似） | 何でも (画像・テーブル・テキスト) |
| SHAP | 特徴量の貢献度を計算（ゲーム理論） | 何でも (特にテーブルデータで人気) |
| Grad-CAM | 勾配情報からヒートマップを作成 | 画像認識 (CNN) 専用 |
G検定対策
出題ポイント
- 歴史：2017年にアメリカのDARPA（国防高等研究計画局）がXAIプロジェクトを発表したことがブームの火付け役となった。
- トレードオフ：一般的に、AIモデルは「精度が高いほど中身が複雑で説明しにくく（Deep Learningなど）」、「説明しやすいほど精度は低い（決定木や線形回帰など）」というトレードオフの関係にある。
- 適用領域：医療、金融（ローン審査）、自動運転など、「説明責任」や「公平性」が求められる分野で特に重要視される。
ひっかけ対策
- × XAIという特定のアルゴリズムが存在する
（解説）XAIは「説明可能なAI」という研究分野や概念の総称です。その中にLIMEやSHAPといった具体的なアルゴリズムが存在します。 - × Grad-CAMはどんなモデルにも使える
（解説）Grad-CAMはCNN（画像処理）の内部構造（勾配）を利用するため、CNN専用です。汎用的に使えるのはLIMEやSHAPです。
