AIガバナンス (AI Governance)
解説：AIの手綱（たづな）を握る仕組み
AIガバナンスとは、AIの開発・運用においてリスクを管理し、適切な利用を担保するための「組織的な仕組みやルール」の総称です。
AIは予期せぬ挙動（差別、暴走、事故）を起こす可能性があります。開発者が「良かれと思って」作ったものが社会問題になることもあります。
そのため、現場のエンジニア任せにするのではなく、経営層や法務、外部の専門家を含めたチームでAIを統制（ガバナンス）する必要があります。
1. 組織とルール (Organization & Policy)
AIポリシー (AI Policy)
企業がAIを活用する上での憲法のようなものです。「我が社はAIをこう使い、こういう使い方はしない」という基本方針や倫理指針を明文化します。
ダイバーシティ (Diversity)
開発チームの多様性のことです。似たような属性（例：全員若い男性エンジニア）だけで開発すると、無意識のうちに偏見（バイアス）が入り込みやすくなります。
性別、年齢、国籍、文系・理系など、多様な背景を持つ人々を巻き込むことで、公平性を担保します。
ステークホルダーの関与
開発者だけでなく、ユーザー、被害を受ける可能性のある人、法律家など、利害関係者（ステークホルダー）の声を開発プロセスに取り入れることが、炎上や事故を防ぐ鍵となります。
2. 評価と監視 (Assessment & Monitoring)
AI倫理アセスメント (Ethics Assessment)
開発前やリリース前に、「このAIは倫理的に問題ないか？」をチェックリスト等を用いて評価するプロセスです。
プライバシー侵害はないか、差別を生まないかなどを事前に洗い出します（PIA：プライバシー影響評価などもこれに含まれます）。
AIに対する監査 (AI Audit)
アセスメントが「自社チェック」なら、監査は「第三者による客観的なチェック」です。
設計通りに動いているか、データに不正がないかなどを、独立した立場から検証します。
モニタリング (Monitoring)
AIはリリースして終わりではありません。時間の経過とともに社会情勢や入力データの傾向が変わり、精度が落ちたり（ドリフト）、差別的な挙動を始めたりすることがあります。
運用中も常にAIの状態を監視し続ける必要があります。
3. 信頼性の担保 (Trustworthiness)
| キーワード | 意味とガバナンス上の重要性 |
|---|---|
| 人間の関与 (Human-in-the-loop) |
完全自動化せず、最終判断や監視に必ず人間が入ること。 AIが間違った時の「安全装置」として機能し、責任の所在を明確にするために不可欠。 |
| 再現性 (Reproducibility) |
「もう一度やっても同じ結果が出るか？」 「あの時はたまたま動いた」では製品として信頼できません。いつ誰がやっても同じ結果になることが品質保証の第一歩です。 |
| トレーサビリティ (Traceability) |
「追跡可能性」。 問題が起きた時、「どのデータを使って、どのバージョンのモデルが、なぜその判断をしたのか」を後から追跡できるように、ログやバージョン管理を徹底すること。 |
G検定対策
出題ポイント
- アジャイル・ガバナンス： 技術の進化が速いため、一度ルールを決めて固定するのではなく、状況に合わせて柔軟にルールをアップデートし続ける姿勢（アジャイル型）が推奨されている。
- 責任あるAI (Responsible AI)： 企業は利益だけでなく、AIがもたらす社会的影響に対して説明責任（Accountability）を果たさなければならないという考え方。
- 人間の関与： 特に「生命・身体・自由」に関わる高リスクなAI（医療、自動運転、兵器など）においては、人間の監視・介入が必須とされる。
ひっかけ対策
- × AIガバナンスは、AI開発部門（エンジニア）だけで策定すればよい
（解説）技術的な観点だけでは不十分です。法務、広報、経営層、そして外部有識者などを含めた多角的な視点（ダイバーシティ）が必要です。 - × AIモデルは一度開発すれば、永久に性能が変わらない
（解説）データの傾向変化（ドリフト）により性能は劣化します。だからこそ継続的な「モニタリング」がガバナンスの要件に含まれます。
