問題 No.2957
ある金融機関が融資審査の自動化を目的として機械学習モデルを導入するプロジェクトを立ち上げた。モデルの予測精度を高めることだけに注力するのではなく、融資拒否された顧客に対する説明責任の欠如や、過去のデータに潜む偏見による特定の属性に対する差別的な判断といった潜在的リスクを開発初期段階から網羅的に洗い出し、その深刻度と発生確率を評価した上で適切な緩和策を策定するプロセスを実施することにした。このプロセスにおいて中核となる一連の活動を最も適切に表しているものはどれか。
【正解の解説】
AIリスク・アセスメント
これは空港の保安検査場で危険物を事前にチェックするようなものです。飛行機が離陸してからトラブルに気づくのでは遅いのと同様に、AIを社会に放つ前に、差別的な偏見や説明責任の欠如といった潜在的な危険をあらかじめ予測し、事故を防ぐための対策を網羅的に計画する極めて重要な開発初期のステップです。
スポンサーリンク
【その他の選択肢の解説】
モデルガバナンス
問題文にあるリスクの洗い出しと評価という個別のアクションそのものではなく、AIを健全に運用するための組織的なルールや体制づくり全体を指す言葉です。家を建てる際の個別の耐震テストというよりは、建築基準法全体や管理組合のルール作りに近い概念なので、ここでは不正解となります。
データプロファイリング
料理を始める前に冷蔵庫の中身を点検して食材の状態を確かめる作業に似ています。データ自体の品質や不備を見つけるためには必須ですが、問題文にあるような「融資拒否された際の説明責任の欠如」や「差別的な判断といった倫理的・社会的なリスク」全体を評価するプロセスとは範囲が狭いため不適切です。
アルゴリズム監査
すでに完成した建物に対して後から建築士が安全基準を満たしているか検査する「事後的な監査」に近いイメージです。問題文が求めているのは、開発の初期段階からリスクを網羅的に洗い出して計画に組み込むプロセス全体であるため、段階やニュアンスが異なります。