ハルシネーションとは？
読み: ハルシネーション英語: Hallucination
LLM が事実と異なる情報を、もっともらしく自信を持って生成してしまう現象。生成AI活用の最大のリスクの一つ。
詳しい解説
ハルシネーション (Hallucination / 幻覚) は、LLM が学習データに含まれない情報や事実と異なる情報を、もっともらしく自信を持って生成してしまう現象です。 「存在しない論文を引用する」「実在しない人名・URL を出力する」「契約条件を勝手に作る」などが代表例です。
原因は、LLM が「事実」ではなく「言語的にもっともらしい次のトークン」を選ぶ仕組みに起因します。 ビジネス利用では誤情報のまま意思決定に使われるリスクが大きく、特に医療・法務・金融分野では深刻な問題となります。
対策として、RAG による根拠付き回答、出力に対する引用要求、自己検証 (Self-Consistency)、人間のレビュー (HITL)、検証可能なツールでの再確認などが推奨されます。
この分野を学べる生成AIスクール
ハルシネーションを含む生成AIのスキルを体系的に身につけたい方は、AI HACK のスクールランキングをご活用ください。