問題 No.1230
医療診断や自動融資審査などの重要な領域でAIを活用する際、ブラックボックスになりがちなディープラーニングモデルの予測結果に対し、「なぜAIがその結論に至ったのか」という判断根拠や各特徴量の貢献度を人間が理解・解釈できるように提示する技術の総称を何というか。
【正解の解説】
説明可能なAI
説明可能なAI（XAI: Explainable AI）は、ディープラーニング等の複雑なモデルが弾き出した予測に対して「どの入力特徴量が決定にどう影響したか」をSHAPやLIMEなどの手法を用いて分析・視覚化し、人間に対する説明責任や透明性を果たすための技術領域です。
スポンサーリンク
【その他の選択肢の解説】
汎用人工知能
汎用人工知能（AGI: Artificial General Intelligence）は、人間と同等以上の多様な知能を持ち、想定外の領域の課題であっても自ら学習して解決できる汎用的なAIを指します。予測モデルの判断根拠を人間に提示する解釈性の技術ではありません。
エッジAI
エッジAI（Edge AI）は、センサーや車載カメラ、IoT端末などのハードウェア上で直接モデルを動作させ、通信遅延（レイテンシ）削減やセキュリティ強化を図る実装形態です。判断根拠の説明可能性を追求する技術分野ではありません。
秘密計算
秘密計算（Secure Computation）は、データを復号することなく暗号状態のままで加算や乗算などの統計計算や機械学習を行うプライバシー保護技術です。ブラックボックスなモデル内部の予測根拠を解釈できるようにする手法ではありません。