問題 No.2067
AIシステムを社会実装する際、予期せぬ誤作動やハルシネーションなどのリスクに備え、システムの安全性や信頼性を確保するための取り組みとして最も適切なものはどれか。
【正解の解説】
フェイルセーフや人間参加型の監視体制を設計段階から組み込むこと
これは自動車のブレーキやシートベルトを最初から車につけておくようなものです。AIはどれほど優秀でも時に嘘をついたりおかしな判断をしたりします。そのため、もし暴走しても人間が即座にストップをかけられる安全装置をあらかじめ用意しておくことが、社会で安全にAIを使うための絶対条件となるのです。
スポンサーリンク
【その他の選択肢の解説】
すべての出力結果を事前に厳密検証するため、完全自動化されたブロックチェーンで管理すること
ブロックチェーンはデータの改ざんを防ぐ優れた技術ですが、AIが予測不能に出力する膨大な文章や判断の速度に追いつけず、そもそもハルシネーションそのものを防ぐ仕組みではありません。出題者が「最先端で難しそうな技術用語」を使って受験者を惑わせようとする典型的なひっかけパターンです。
開発コストの大幅な削減を最優先し、運用開始後のユーザーフィードバックにすべて委ねること
ブレーキのついていない車をとりあえず道路に走らせ、歩きながら乗客の文句を聞いて直していこうとするようなもので、大事故につながる最悪の手法です。AIシステムにおいて安全性は後付けではなく、開発の初期段階から計画的に担保しなければならない最重要項目の一つです。
学習データの収集からモデル生成までの工程をブラックボックス化し、不正アクセスを完全に遮断すること
セキュリティを高めること自体は重要ですが、中身が完全にブラックボックス化してしまうと、AIがなぜその判断を下したのか人間が検証できなくなります。安全性と信頼性を確保するためには、システムの中身が全く見えない状態にするのではなく、適切な透明性と監視可能性を維持することが求められます。