代理変数のリスク

問題

AIにおける代理変数に関する次の記述のうち、正しいものを1つ選べ。

「代理変数（プロキシ変数）」とは、AIの予測において、本来使用すべきではないセンシティブ属性（人種や性別など）を使わないように学習から除外したとしても、それと強い相関を持つ「別の変数」のことです。

例えば、人種データを除外しても「居住地の郵便番号」を入力データとして残した場合、地域による人種分布の偏りから実質的に人種を推測してしまい、結果的に差別的な判断を下すことがあります。

公平なAIを作るためには、代理変数の混入にも注意を払う必要があります。

1. 代理変数はセンシティブ属性と無関係の変数である。

誤り：代理変数はセンシティブ属性と「無関係」な変数ではなく、センシティブ属性と統計的に「強い相関を持つ（代替として機能してしまう）」変数のことを指します。

2. 代理変数は差別を引き起こす可能性があるため注意が必要である。

正しい：直接的なセンシティブ属性を削除しても、代理変数を通じてAIが暗黙的に属性を推論してしまうため、意図せず不公平・差別的な結果を引き起こすリスクがあります。

3. 代理変数はAIの公平性とは無関係である。

誤り：代理変数の存在を見落とすと、見せかけだけは属性を除外した不公平なAIモデル（レッドライニングなど）が作られてしまうため、公平性の確保において非常に重要な論点です。

4. 代理変数はセンシティブ属性を直接利用するより安全である。

誤り：代理変数がセンシティブ属性の情報を実質的に内包している場合、AIはそれを手がかりにして予測を行うため、直接利用するのと同等の差別リスクが生じ、安全とは言えません。

← 前の問題次の問題 →

📚 より詳細を学びたい方へ