問題 No.2462
機械学習モデルの予測結果の解釈性を高めるため、任意のブラックボックスモデルの特定予測における周辺挙動を局所的かつ解釈可能なモデルで近似するアルゴリズムを指す用語はどれか。
【正解の解説】
LIME
森全体（複雑なAIモデル）の構造はわからなくても、今いる足元（特定の予測結果）の傾斜だけを虫眼鏡で覗き見るように調べるアプローチです。予測の瞬間だけシンプルな線形モデルで代理説明させることで、「なぜこの予測が出たのか」を人間が直感的に理解できるようにする便利な仕組みです。
スポンサーリンク
【その他の選択肢の解説】
SHAP
LIMEと並んでよく使われる手法ですが、局所的な近似を行うLIMEに対し、SHAPはすべての特徴量の組み合わせを網羅的に計算して「公平な持ち分（ Shapley値 ）」を割り出します。計算コストは高いものの理論的な一貫性が保証されている点がLIMEとの大きな違いであり、試験や実務でも混同しやすいポイントです。
Grad-CAM
主にディープラーニングの画像分類モデルで、最後の畳み込み層の勾配を利用して「AIが画像のどこを見て犬だと判断したか」を赤や青の濃淡で可視化します。テキストや表データも含めた任意のブラックボックスモデルの周辺挙動を近似するLIMEとは、対象とするデータやアプローチの性質が全く異なります。
LASSO
L1正則化とも呼ばれ、機械学習のモデル学習時に特徴量の数を絞り込んでシンプルにするための数学的なアルゴリズムです。名前の響きがLIMEに似ているため混同しやすいですが、こちらはモデルの解釈性アルゴリズムそのものではなく、予測モデルを作る際に使われる手法の一部である点が決定的な違いです。