問題 No.3186
自然言語処理や時系列データの生成タスクにおいて、訓練フェーズでは正解データに基づく入力を与え、推論フェーズではモデルの自己出力を入力として使用することに起因し、学習時と運用時のデータ分布の乖離から生成品質が低下する現象を指す用語はどれか。
【正解の解説】
露出バイアス
教習所で隣にインストラクターが座ってハンドルを微調整してくれる安全な状態で練習（訓練）を重ねたのに、いざ一人で運転（推論）する本番になった途端に自分の小さなミスが雪だるま式に増えてパニックになるような状態です。正解データに依存しすぎた結果、自分の失敗から立て直す力が育たず、少しのズレが致命的な崩壊を招く仕組みを指しています。
スポンサーリンク
【その他の選択肢の解説】
アテンション不整合
トランスフォーマーモデルなどで使われる重要なアテンション機構ですが、この名称は問題文にある訓練と推論のデータ分布の乖離とは関係ありません。初学者が「難しそうなAI用語」として混同しやすいように作られた罠であり、文脈に応じた情報の重要度を正しく捉えられないエラーとは異なる概念なので注意が必要です。
カスケードエラー
階段を一歩踏み外したせいで、その後のすべての段でバランスを崩して転げ落ちてしまうドミノ倒しのような状態を指します。露出バイアスが引き起こす結果としてカスケードエラーが発生することはありますが、学習時と運用時のデータ分布の乖離そのものを指す言葉ではないため、原因と結果を混同しないように区別する必要があります。
ホライゾン劣化
明日の天気を予想するのと、一年後の天気を予想するのでは後者の方が圧倒的に難しくなるように、予測の未来が遠ざかるほど誤差が蓄積して当たらなくなる性質を指します。今回はあくまでモデルの入力環境のミスマッチが原因の現象を問われているため、時間的な遠さを表すこの用語は適切ではありません。