問題 No.1102
AIの公平性に関する記述として正しいものはどれか。
【正解の解説】
学習データの人口統計学的な偏りがAIの出力に反映される可能性がある
AIの予測精度や判断の基準は学習データの品質に依存するため、過去の歴史的バイアスや特定グループへの偏りを含むデータで学習させると、AIの出力自体にも人種・性別などの不公平な偏りや差別的な判断がそのまま反映されてしまいます。
スポンサーリンク
【その他の選択肢の解説】
アルゴリズムが公平であればデータは偏っていてもよい
AIモデル（アルゴリズム）の設計がいくら中立で厳密であっても、学習データそのものに社会的差別や標本の偏りが存在する場合、「Garbage In, Garbage Out」の原則通り、結果として偏った差別的な判断を返す不公平なシステムになってしまいます。
モデルの精度が高ければ公平性は自動的に確保される
全体の予測精度（Accuracy）が99%と高くても、1%の少数派グループに対して致命的に誤った判別を行う事例があります。高い精度は必ずしも全グループへの平等を意味しないため、精度とは別に公平性を評価する指標（Equalized Odds等）が必要です。
AIに倫理判断を完全に委ねるべきである
倫理や公平性の基準は社会規範や文脈によって常に変化する人間的な概念です。AIは過去の数値データを処理しているに過ぎないため、最終的な意思決定や人権に関わる倫理的判断をAIに完全任せにせず、人間が監視・介入する（Human-in-the-loop）ことが不可欠です。