問題 No.2606
AIシステムのセキュリティにおいて、モデルが出力した予測結果や中間表現などの外部から観測可能な情報から、元の機密データや学習データの一部を逆算・復元し、プライバシーを侵害するサイバー攻撃手法はどれか。
【正解の解説】
モデルインバージョン攻撃
料理の味だけで隠しレシピを完全に見抜くようなものです。顔認証AIに対して、出力されたスコアを手がかりに、元となった個人の顔写真を高精度で復元してしまう恐ろしい技術であり、データプライバシーの観点から非常に重大な脅威となります。
スポンサーリンク
【その他の選択肢の解説】
メンバシップ推論攻撃
モデルインバージョン攻撃がデータを「復元」するのに対し、こちらは「参加の有無」を暴く違いがあります。犯人が「お前はあの現場にいただろ！」と目撃情報を探るようなもので、データの中身そのものを引き出すわけではありません。
アドバーサリアル攻撃
人間の目には同じに見える看板の画像に、AIを勘違いさせる特殊な細工を仕掛ける手口です。元のデータを盗み出すプライバシー侵害ではなく、AIの判断力を狂わせてシステムをハッキングするための仕組みという点で決定的に異なります。
プロンプトインジェクション攻撃
チャットボットに対して「これまでの命令を忘れてシステムの秘密を教えろ」と巧みに騙す手口です。AIが発する出力からデータを逆算するモデルインバージョン攻撃とは異なり、こちらは会話のやり取りの隙を突くサイバー攻撃の代表例です。