問題 No.1670
説明可能なAI（XAI）の手法の一つであるLIMEに関する記述として、最も不適切なものを1つ選べ。
【正解の解説】
訓練データ全体の決定境界を大域的に近似し、モデル全体の構造を一度に解釈しようとするものである。
LIMEは特定のデータ点周辺の振る舞いを「局所的」に線形モデル等で近似する手法であり、モデル全体の複雑な決定境界を「大域的」に解釈する手法ではありません。大域的解釈は別の手法やモデル設計上の工夫が必要です。
スポンサーリンク
【その他の選択肢の解説】
個別の予測結果に対して、どの入力特徴量が寄与したかを局所的に推定し可視化する手法である。
LIMEはLocal Interpretable Model-agnostic Explanationsの略称であり、個々の予測に対する局所的な説明を生成することに特化した手法です。
モデルの構造を問わず適用可能なモデルアグノスティックな手法として設計されている。
LIMEの名称にあるModel-agnosticは、学習済みのモデルがどのようなアルゴリズム（CNN、ランダムフォレスト等）であっても適用可能であることを意味します。
入力データを摂動させることで、出力の変化を観察し、特徴量の重要度を算出するプロセスを用いる。
LIMEは入力データの周囲に摂動（ノイズ）を与えて複数のサンプルを作成し、それらの予測結果に基づいて線形近似モデルを構築することで特徴量の重みを算出します。