AI技術の悪用 (AI Misuse)
解説：AIは「デュアルユース」技術
AIは、医療や翻訳に役立つ素晴らしい技術ですが、同時に犯罪や兵器にも転用できる性質を持っています。これを「デュアルユース（Dual Use：軍民両用）」技術と呼びます。
特に近年の生成AI（Generative AI）の発展により、専門知識がない人でも簡単に「本物そっくりの嘘」を作り出せるようになり、悪用のハードルが劇的に下がっています。
1. ディープフェイク (Deepfake)
AI（主にGANなどの生成モデル）を用いて作られた、「真偽の区別がつかない偽の動画・音声・画像」のことです。G検定で最も出題される悪用事例です。
| 悪用の種類 | 事例と影響 |
|---|---|
| 世論操作 (Fake News) |
政治家が「言っていないこと」を喋っている偽動画を拡散させ、選挙結果を操作したり、暴動を扇動したりする。 民主主義の根幹を揺るがす脅威とされる。 |
| なりすまし詐欺 (CEO Fraud) |
企業のCEO（社長）の声をAIで合成し、部下に電話をかけて「至急、この口座に送金しろ」と指示する。 実際に数億円の被害が出た事例がある（オレオレ詐欺のAI版）。 |
| ポルノ・名誉毀損 | 一般人や芸能人の顔をポルノ動画に合成して公開する（リベンジポルノ）。 尊厳を傷つける深刻な人権侵害となる。 |
対応策
- 真贋判定技術： AIを使って「AIが作った痕跡（不自然な瞬きや血流など）」を見抜く技術の開発。
- オリジネーター・プロファイル (OP)： 「誰が発信した情報か」というデジタル署名を付与し、信頼できるソースであることを証明する技術（日本でも実証実験中）。
2. サイバー攻撃の自動化・高度化
ハッカーがAIを悪用することで、攻撃がより巧妙に、より大規模になっています。
フィッシングメールの生成
従来、怪しいメールは「日本語が不自然」ですぐバレました。
しかし、ChatGPTなどの高性能なLLMを悪用すると、「完璧で自然な日本語」かつ「ターゲットの趣味嗜好に合わせた（パーソナライズされた）」詐欺メールを大量生産できてしまいます。
脆弱性の発見と攻撃コード生成
ソフトウェアの弱点（脆弱性）をAIに探させ、そこを突くための攻撃プログラム（Exploit）をAIに書かせることで、攻撃のスピードが防御側を上回る恐れがあります。
対応策
- AIによる防御： 攻撃側がAIを使うなら、防御側もAIを使って不正通信をリアルタイム検知する（AI vs AIの構図）。
- ゼロトラスト： 「誰も信用しない」という前提で、全てのアクセスを検証するセキュリティモデルへの移行。
3. 軍事利用とLAWS
AIを兵器に搭載することへの倫理的な問題です。
LAWS（自律型致死兵器システム）
Lethal Autonomous Weapons Systemsの略。
人間の操作を介さず、AIが自ら標的を選定し、攻撃（殺傷）判断を下す兵器ロボットのことです（いわゆる「キラーロボット」）。
- 賛成派の意見： 兵士の犠牲を減らせる。人間のような恐怖や怒りによる虐殺を防げるかもしれない。
- 反対派の意見： 責任の所在が不明確（誰が責任を取るのか？）。ハッキングされた時の暴走リスク。命を奪う判断を機械に委ねてよいのか（人間の尊厳）。
- 国際的な議論： 国連などで規制の議論が進んでいるが、完全禁止か規制か、各国の意見は割れている。重要なのは「Meaningful Human Control（意味のある人間の関与）」を確保すべきという点。
G検定対策
出題ポイント
- デュアルユース（Dual Use）： 民生利用と軍事利用の両方が可能な技術のこと。「AIはデュアルユース技術である」という文脈で出る。
- ディープフェイク： GAN（敵対的生成ネットワーク）などの技術が悪用されている点と、それがもたらす社会的混乱（偽情報の拡散）。
- ソーシャルエンジニアリング： 人間の心理的な隙や行動のミスにつけ込む攻撃手法。AIによって、より巧みな「騙し」が可能になっている。
- ELSI： Ethical, Legal, and Social Issues（倫理的・法的・社会的課題）。悪用問題はすべてこのELSIに含まれる。
ひっかけ対策
- × ディープフェイク動画は、人間の目で見れば必ず見破ることができる
（解説）技術の向上により、肉眼では判別不可能なレベルに達しており、AIによる検知ツールなどの支援が必要です。 - × LAWS（自律型致死兵器）は、国際条約ですでに全面的に開発が禁止されている
（解説）禁止を求めるキャンペーン（Stop Killer Robotsなど）は活発ですが、2025年時点でも全会一致の禁止条約には至っておらず、開発競争が続いているのが現実です。
