問題 No.5826
生成AIにおけるハルシネーションに関する記述として、不適切なものはどれか。
【正解の解説】
学習データの量や質に関係なく、最新の生成AIモデルでは完全に発生しないように防ぐことができる。
生成AIは人間のように事実を理解しているわけではなく、確率的に「それらしい言葉のつながり」を予測して出力しているだけです。そのため、どれだけ学習データを増やしても、もっともらしい嘘（ハルシネーション）を完璧に防ぎきることは現在の技術ではできません。人間が自信満々に嘘をついてしまう姿に似ています。
スポンサーリンク
【その他の選択肢の解説】
事実とは異なるもっともらしい情報を生成してしまう現象であり、モデルの出力において真実性と区別がつきにくい場合がある。
ハルシネーションとは日本語で「幻覚」という意味です。AIがまるで本当のことのように嘘の情報を出力するため、利用者が知識を持っていないと真実と見分けるのが非常に難しいという特性があります。もっともらしい顔をして間違った道を教えるベテランの案内人のようなものであり、実務で利用する際は十分な注意が必要です。
確率的な処理を行う言語モデルの性質に起因することが多く、事実無根の内容であっても確信を持って出力されることがある。
生成AIは次に続く確率の高い単語をパズルのように組み立てて文章を作っています。そのため、間違った情報であっても迷うことなく、あたかもそれが真実であるかのように確信を持った口調で出力してしまいます。この「自信のありとなしが一致しない」というAI特有の仕組みが、ハルシネーションを引き起こす根本的な原因となっています。
プロンプトの入力方法や文脈の設定を工夫することによって発生確率を大幅に低減させることが可能である。
ハルシネーションを完全に無くすことはできませんが、AIに対して「確実な情報源に基づいて回答してね」「分からない場合は分からないと言ってね」と指示（プロンプト）を工夫したり、参照すべき文書を与えたりすることで、嘘をつく確率を劇的に下げることは可能です。実務ではこの対策を組み合わせて運用するのが一般的です。