問題 No.3118
機械学習モデルに対する敵対的事例（アドバサリアル事例）に関する記述として、最も不適切なものはどれか。
【正解の解説】
敵対的事例を用いた攻撃は、画像認識分野のみで発生する現象であり、音声認識や自然言語処理などの他分野では理論上発生しない。
AIの弱点を突くこの攻撃手法は、目に見える画像だけでなく、人間には聞き取れないわずかなノイズを混ぜた音声データや、意味が変わらない程度の文字の書き換えによる自然言語処理など、パターンを認識する仕組みを持つすべての機械学習モデルにおいて理論上発生することが確認されています。
スポンサーリンク
【その他の選択肢の解説】
敵対的事例に対する防御手法の一つとして、学習データに微小なノイズを加えたデータをあらかじめ混入させる敵対的トレーニングが有効である。
ワクチン接種のように、あらかじめ弱い攻撃データを学習段階から混ぜておくことで、本番で悪意あるノイズ入りの入力データに出くわしてもAIが惑わされずに正しく判断できるよう鍛え上げる、現在最も広く使われている実用的な防御アプローチの一つです。
敵対的事例の生成アプローチには、モデルの勾配情報を利用して意図的に誤分類を誘導するホワイトボックス攻撃と、情報が隠蔽された状況でのブラックボックス攻撃がある。
AIの設計図やパラメータがすべて丸見えの状態を「ガラス張りの部屋」に見立てたホワイトボックスと、中身が一切見えない「黒い箱」のブラックボックスという例えのように、攻撃者がどこまでモデルの情報を知っているかによってアプローチを使い分ける点が試験でもよく問われます。
敵対的事例は、人間の視覚では識別できないほどの極めて微小な摂動を入力データに意図的に加えることで、機械学習モデルの誤出力を引き起こす入力データである。
例えば、パンダの画像に人間の目では認識できないほどの絶妙なノイズを1ピクセルだけ足すことで、AIがそれを「テナガザル」と100%の確信を持って誤認してしまうような、人間の知覚とAIの認識のズマを突いた巧妙な仕組みを言い表しています。