ハルシネーション（AI幻覚）とは？起きる原因と上手な付き合い方

ハルシネーション（Hallucination：幻覚）とは、AI（特にLLM）が実在しない情報を、まるで事実かのように自信満々に生成してしまう現象です。存在しない書籍の紹介、実際には行われていない調査の引用、実在しない関数やAPIの提案などが代表例です。このページでは、なぜハルシネーションが起きるのかをLLMの仕組みから解説し、実務で使える対策と上手な付き合い方を紹介します。

ハルシネーションとは？（意味・定義）

ハルシネーションとは、AIが「もっともらしい嘘」を事実として出力してしまう現象です。人間が見ると、文法が正しく、口調にも自信があり、出典まで付けられるため、一見すると本物の情報と見分けがつきにくいのが厄介な点です。

名前の由来は、幻覚を見るように実在しないものを「見て」話すことから。OpenAIのLLM（大規模言語モデル）やChatGPT、Geminiなど、テキスト生成型のAIすべてに共通する性質であり、仕組み上ゼロにすることはできません。

なぜ起きるのか：LLMの仕組みとハルシネーションの関係

ハルシネーションの根本原因を理解するには、LLMが「どのように文章を作っているか」を知る必要があります。LLM（大規模言語モデル）は本質的に「次に来る単語（トークン）を予測する」確率モデルです。人間のように「考えて」答えているわけではなく、膨大なテキストデータから学習した言語パターンをもとに、最もそれらしい続きを組み立てています。

LLMの処理の流れ

1. 入力を受け取る：ユーザーのプロンプト（質問・指示）をテキストとして受け取る。
2. トークン化：テキストを「トークン」という小さな単位（単語・文字・文字列の一部）に分割する。
3. 自己注意（self-attention）：文脈全体を見渡し、各トークンの重要度や相互関係を計算して文脈を把握する。
4. 次トークンを予測：確率分布から最も自然な次のトークンを選び、繰り返して文を生成する。
5. 回答を出力：生成した一連のトークンを自然言語の回答として返す。

この仕組みが意味するのは、LLMには「出力が事実かどうかを確認する機能」が備わっていないということです。学習データに存在しない質問や、知識のカットオフ（学習時点）より後の出来事について聞かれても、モデルは「わからない」と返す代わりに、パターン的にそれらしい文を生成してしまいます。これがハルシネーションが起きる根本原因です。

発生を増幅させる3つの要因

• 知識のカットオフ：学習時点までのデータで固定されており、その後に起きた出来事や新版の情報を知らない。
• 自信がある口調の生成傾向：学習テキストの多くが断定的な書き方のため、曖昧な質問にも断定調で答えてしまう。
• 誘導尋問的なプロンプト：「〜について教えて」と存在を前提とした聞き方をすると、実在しないものについても回答を組み立ててしまう。

ハルシネーションが起きやすい典型シーン

実務で使える5つの対策

1. 重要な数値・固有名詞は必ず一次ソースで確認する

AIの出力をそのまま公開・納品せず、数値・日付・固有名詞・引用元は公式サイトや原本で裏取りする習慣をつけます。「下書き担当はAI、事実確認は人間」という役割分担が基本です。

2. 「出典がなければ書かない」とプロンプトで指示する

システムプロンプトや指示文に「根拠となる出典がない場合は『わからない』と答えてください」「推測の場合はその旨を明示してください」と明記すると、ハルシネーションの発生率を下げられます。コピペで使える文例はプロンプト集にまとめています。

3. RAGなど外部検索と組み合わせて最新性を担保する

LLM単体の知識は学習時点で凍結されています。RAG（検索拡張生成）のように、回答前に外部の社内文書やWeb検索結果を参照させる構成にすると、古い知識に基づく捏造を大幅に減らせます。

4. タスクを分ける：事実確認系とアイデア出し系

事実確認が要る作業（ニュース要約、レビュー、レポート）と、ハルシネーションが許容される作業（アイデア出し、キャッチコピー、あらすじの草案）を切り分け、後者だけをAIに任せると安全です。

5. AIツール選定時は「出典表示機能」を重視する

最近のAIツールには、回答に出典URLを付ける機能や、検索結果に基づいて回答するモードを備えたものが増えています。ツール選びの観点についてはAIツール一覧の評価項目（信頼性・日本語対応）を参考にしてください。

よくある誤解

誤解：賢いモデルほどハルシネーションはゼロになる

実際は：モデルの性能が向上しても、ハルシネーションはゼロになりません。発生頻度は下がりますが、「次単語予測」という仕組み自体が変わらない限り、もっともらしい嘘を出力する可能性は残ります。

誤解：自信満々に答えているから正しいはず

実際は：ハルシネーションこそ「最も自信がありそうな口調」で出力されがちです。口調の確からしさと事実の正しさは無関係です。

誤解：有名なAIなら引用も正しい

実際は：主要なLLMでも、論文や書籍の引用は実在しない組み合わせを生成することがあります。引用は必ず原本で確認してください。

FAQ（よくある質問）

Q. ハルシネーションは完全に防げますか？

A. 仕組み上、完全には防げません。ただし、RAGの導入、出典指示のプロンプト、人間による事実確認の3段構えで、実害の発生確率を大きく下げることはできます。

Q. ChatGPTとLLMはどう違うの？

A. LLMは技術そのもの、ChatGPTはそれを対話サービスとして製品化したものです。ハルシネーションの性質はどちらにも共通します。LLMの解説ページで詳しく整理しています。

Q. ビジネスで安全に使うための最小限のルールは？

A. 「出力の真偽を必ず確認する」「機密情報を安易に入力しない」「最新情報は外部検索（RAGなど）で補う」の3点が三大ポイントです。

関連用語

• LLM（大規模言語モデル） — ハルシネーションの発生元となる技術本体
• RAG（検索拡張生成） — 外部検索で最新性を担保し、捏造を減らす構成
• AI用語辞典トップ — 用語一覧

まとめ

ハルシネーションは、LLMが「次に来る言葉を確率的に予測する」仕組みである以上、ゼロにはできません。大切なのは、AIは下書き担当、事実確認は人間という役割分担を徹底すること、そしてRAGや出典指示プロンプトで構造的に発生を抑えること。当サイトの評価方法論でも、AI出力の事実確認を前提とした検証プロセスを採用しています。

参考出典

• Google Cloud「生成 AI の用語集」— 大規模言語モデル（LLM）: docs.cloud.google.com
• Salesforce「AI用語虎の巻：ビジネスのための生成AI用語集」: salesforce.com
• SHIFT「AI用語集」— LLM（Large Language Model：大規模言語モデル）: service.shiftinc.jp
• Vaswani et al., “Attention Is All You Need”（2017）: arxiv.org