問題 No.3388
AIが導き出した予測や判断のプロセスについて、単に結果を示すだけでなく、人間がその妥当性を検証し納得できるように解釈可能な情報を提供するアプローチ全般を指す用語はどれか。
【正解の解説】
説明可能AI
名医が「なぜこの病気と診断したか」をカルテや図解で分かりやすく説明してくれるようなものです。従来のAIは「ブラックボックス」で結果しか出さず不安でしたが、説明可能AIにより、人間が納得して意思決定に活用できるようになります。
スポンサーリンク
【その他の選択肢の解説】
自律型AI
こちらは「自律的に動くこと」に特化した仕組みであり、判断の「中身を人間が理解しやすくすること」を意味する説明可能AIとは着眼点が異なります。自動運転車のように動く仕組みと、その動きの理由を解説する仕組みを混同しないよう注意が必要です。
生成型AI
ChatGPTや画像生成AIのように「ゼロから何かを生み出す」能力を指す言葉です。結果の理由を人間が透明に検証する説明可能AIとは目的が異なり、生成物のクオリティや創造性にフォーカスしたトレンド用語として出題されやすいので区別しましょう。
統合型AI
システム全体の統合や連携を表す一般的な言葉であり、AIの内部処理の透明性や解釈性を高める説明可能AIの定義とは全く関係がありません。試験などで響きがそれっぽく聞こえるように作られた架空の混同を誘う罠の選択肢です。