ハルシネーションとは？意味・原因と生成AIで起こる理由を解説
著者：吉田 清登（株式会社FID CMO / Genview PM）
公開日：
ハルシネーション（Hallucination）とは、生成AIやLLMが、事実ではない情報や根拠のない内容を、もっともらしい回答として生成してしまう現象です。
文章として自然で自信のある回答に見えても、その内容が実際の事実や情報源と一致しているとは限りません。生成AIを利用するうえでは、ハルシネーションが起こり得ることを前提に、重要な情報を確認する必要があります。
ハルシネーションとは
ハルシネーション（Hallucination）は、生成AIや大規模言語モデル（LLM）が、事実ではない情報や十分な根拠のない内容を回答として生成する現象を指します。
特徴的なのは、単に「分からない」と答えるのではなく、誤った内容を自然で説得力のある文章として提示する場合があることです。
たとえば、実際には存在しない論文名やWebページを出典として挙げたり、人物の経歴を別の人物と混同したり、存在しない製品仕様や数値を生成したりする場合があります。
一方で、AIが古い料金や過去の制度を回答したからといって、すべてがハルシネーションとは限りません。
古い情報を正しく参照しているだけであれば、それは主に情報鮮度の問題です。ハルシネーションは、事実や根拠と一致しない内容そのものを生成することを指します。
LLMそのものについては、LLMとは？意味・仕組みと生成AI・AI検索との関係を解説で詳しく説明しています。
ハルシネーションの具体例
ハルシネーションには、さまざまな形があります。代表的な例を整理すると次のようになります。
| パターン | 例 |
|---|---|
| 存在しない事実を生成する | 実際には提供していない機能やサービスを「提供している」と回答する |
| 人物や企業を混同する | 別企業のサービス内容を他社の情報として説明する |
| 存在しない出典を作る | 存在しない論文、記事、URL、著者名などを提示する |
| 数字や固有名詞を作る | 実在しない統計数値、調査結果、製品名などを回答する |
| 不確かな内容を断定する | 十分な根拠がないにもかかわらず、事実であるかのように説明する |
共通しているのは、回答の文章そのものは自然でも、内容を確認すると事実や根拠と一致していないという点です。
なぜハルシネーションは起こるのか
ハルシネーションは、一つの原因だけで発生するものではありません。
LLMの生成方法、学習データ、ユーザーからの入力、外部情報の取得方法など、複数の要因が関係します。
1. LLMは文章を予測して生成するモデルだから
LLMは、入力された文脈をもとに、次に続く可能性が高いトークンを予測しながら文章を生成します。
この生成プロセス自体は、回答に含まれるすべての内容が事実であることを自動的に保証する仕組みではありません。
そのため、十分な根拠を持っていない場合でも、言語パターンとして自然な文章を生成してしまうことがあります。
2. 十分な情報がない場合がある
質問に答えるための情報がモデルや入力コンテキストに十分含まれていない場合、誤った推測を含む回答が生成されることがあります。
特に、非常に専門的な内容、ニッチな固有名詞、最近発生した出来事などでは、必要な情報が不足しやすくなります。
3. 質問が曖昧な場合がある
ユーザーの質問に複数の解釈が可能な場合、AIが意図とは異なる前提で回答し、その結果として誤った内容になることがあります。
4. 外部から取得した情報に問題がある場合がある
Web検索やRAGを利用している場合でも、取得した情報が誤っていたり、古かったり、質問と十分に関連していなかったりすることがあります。
さらに、正しい情報を取得できていても、AIがその内容を誤って解釈・統合する可能性があります。
このため、ハルシネーションは単純なソフトウェア不具合だけで説明できる現象ではありません。
ハルシネーションとLLMの関係
ハルシネーションを理解するには、LLMがどのように文章を生成しているかを理解することが重要です。
LLMは、質問に対してデータベースから必ず正解を取り出して返す仕組みではありません。
入力された情報や学習によって獲得したパターンをもとに、続く可能性のある文章を生成します。
概念的には、
質問を受け取る → 文脈を処理する → 次のトークンを予測する → 予測を繰り返して回答を生成する
という流れになります。
そのため、文章としての自然さと、事実としての正確さは必ずしも一致しません。
また、現在のAIサービスではLLMだけでなく、検索、外部データ、ツールなどを組み合わせて回答する場合があります。その場合も、LLMが取得情報をどう解釈するかによって回答内容が変わります。
LLMの基本的な仕組みについては、LLMとは？意味・仕組みと生成AI・AI検索との関係を解説をご覧ください。
RAG・Retrieval・Groundingとの関係
ハルシネーションを減らす方法として、Retrieval、RAG、Groundingなどの仕組みが利用されることがあります。
| 用語 | 役割 |
|---|---|
| Retrieval | 質問に関連する情報を検索・取得する |
| RAG | 取得した情報をLLMによる回答生成に利用する |
| Grounding | 回答を特定の情報源・データ・事実などに基づかせる |
たとえばRAGでは、質問に関連する外部情報を取得し、その情報をLLMへ渡して回答を生成します。
質問 → Retrievalで情報を取得 → 取得情報をLLMへ渡す → 根拠を参照しながら回答を生成
これにより、LLMが学習時に獲得した情報だけに依存する場合と比べて、最新情報や特定の情報源を回答に反映しやすくなります。
ただし、これらの仕組みを使ってもハルシネーションが完全になくなるわけではありません。
たとえば、
- 検索で適切な情報を取得できない
- 取得した情報そのものが誤っている
- 複数の情報を誤って組み合わせる
- 取得した根拠とは異なる内容を回答に加える
- 正しい情報を誤って解釈する
といった問題が起こる可能性があります。
各用語については、Retrievalとは？意味・仕組みとAI検索における役割、RAGとは？意味・仕組みとAI検索における役割、Groundingとは？意味・仕組みとAI検索における役割で詳しく解説しています。
ハルシネーションを減らす方法
ハルシネーションを完全になくすことは難しいものの、発生する可能性を減らしたり、誤回答を検出しやすくしたりする方法があります。
質問や指示を具体的にする
質問の条件や前提を明確にすると、AIが異なる意味に解釈する可能性を下げられます。
根拠となる情報を与える
確認してほしい文書やデータをAIへ渡し、「この情報だけをもとに回答してください」と指示することで、回答範囲を限定できます。
検索やRAGを利用する
外部情報を取得して回答に利用することで、モデルが持つ情報だけに依存するよりも、根拠のある回答を生成しやすくなる場合があります。
出典を確認する
AIが出典やWebリンクを提示した場合でも、その出典が実在するか、回答内容を本当に裏付けているかを確認することが重要です。
重要な情報は一次情報で確認する
法律、医療、金融、製品仕様、企業情報など、誤りによる影響が大きい情報については、公式サイトや公的機関、原著論文などの一次情報で確認する必要があります。
ハルシネーションとファクトチェックの違い
ハルシネーションとファクトチェックは関連しますが、意味は異なります。
| 用語 | 意味 |
|---|---|
| ハルシネーション | 生成AIが事実ではない情報や根拠のない内容を生成する現象 |
| ファクトチェック | 生成された内容が事実と一致しているかを情報源と照合して検証する行為 |
つまり、ファクトチェックはハルシネーションそのものではなく、誤った情報を検出・確認するための手段です。
AIに「事実確認してください」と依頼するだけでは不十分な場合もあります。同じAIが誤った前提のまま再回答する可能性があるため、必要に応じて外部の信頼できる情報源と照合することが重要です。
ハルシネーションについてよくある誤解
誤解①：Web検索を使っていればハルシネーションは起きない
Web検索を利用していても、ハルシネーションは起こる可能性があります。
適切なページを取得できない場合や、取得した情報を誤って解釈・統合する場合があるためです。
誤解②：出典が表示されていれば回答は正しい
出典が表示されていても、回答内容がその出典によって正しく裏付けられているとは限りません。
提示されたページを実際に確認し、回答との整合性を見る必要があります。
誤解③：古い情報を答えたらすべてハルシネーションである
必ずしもそうではありません。
AIが過去には正しかった情報をそのまま回答しているのであれば、主に情報鮮度の問題です。
一方、存在しない情報を作ったり、複数の情報を誤って組み合わせたりした場合は、ハルシネーションと考えられます。
誤解④：RAGを使えばハルシネーションを完全に防げる
RAGは回答に外部情報を利用するための有効な仕組みですが、完全な防止策ではありません。
情報取得の失敗、取得元の誤り、LLMによる誤解釈などによって、RAGを利用していても誤った回答が生成される可能性があります。
よくある質問
まとめ
ハルシネーションとは、生成AIやLLMが、事実ではない情報や根拠のない内容を、もっともらしい回答として生成してしまう現象です。
LLMは入力された文脈をもとに文章を生成するモデルであり、生成内容の事実性が自動的に保証されるわけではありません。
存在しない事実や出典を生成する、人物や企業を混同する、不確かな情報を断定するといった形でハルシネーションが現れることがあります。
Retrieval、RAG、Groundingなどによって外部情報を回答へ取り込むことで誤りを減らせる場合がありますが、Web検索やRAGを利用していてもハルシネーションを完全に防げるわけではありません。
特に重要な情報については、AIの回答だけで判断せず、公式情報や公的資料、原著論文など信頼できる情報源を使ったファクトチェックが必要です。
AI検索全体で情報取得から回答生成までがどのように行われるかについては、AI検索の仕組みとは｜情報取得からLLMによる回答生成までをご覧ください。
参考文献・参考ページ
外部参考ページ
- Introduction to Large Language Models｜Google for Developers
- What Are AI Hallucinations?｜Google Cloud
- What Are AI Hallucinations?｜IBM