ハルシネーションとは？

詳しい解説

ハルシネーション (Hallucination / 幻覚) は、LLM が学習データに含まれない情報や事実と異なる情報を、もっともらしく自信を持って生成してしまう現象です。 「存在しない論文を引用する」「実在しない人名・URL を出力する」「契約条件を勝手に作る」などが代表例です。

原因は、LLM が「事実」ではなく「言語的にもっともらしい次のトークン」を選ぶ仕組みに起因します。 ビジネス利用では誤情報のまま意思決定に使われるリスクが大きく、特に医療・法務・金融分野では深刻な問題となります。

対策として、RAG による根拠付き回答、出力に対する引用要求、自己検証 (Self-Consistency)、人間のレビュー (HITL)、検証可能なツールでの再確認などが推奨されます。

実務での使いどころ

生成AIを業務で使う際、もっとも警戒すべき性質です。実在しない条文、存在しない製品名、誤った数値が、自然な文章の中に混ざって出てきます。そのまま社外に出すと事故になります。

対策は、RAG で参照元を限定して根拠を示させること、そして人が確認する工程を残すことの2つです。案件として納品する場合、どこを確認したのかを説明できる状態にしておく必要があります。

混同しやすい用語との違い

単純な間違いと違い、ハルシネーションは「もっともらしく、自信を持って」出力されるのが厄介な点です。書き方から誤りを見抜くことはできないため、内容そのものを検証する手順が要ります。