ハルシネーションとは?
Hallucination ・ はるしねーしょん
A. ハルシネーションとは
AIが事実と異なる内容を、もっともらしく生成してしまう現象です。重要な情報は必ず一次情報で確認しましょう。
ハルシネーション(幻覚)は、生成AIが実在しない事実・出典・数値などを、あたかも正しいかのように出力してしまう現象です。LLMが「次に来る確率の高い言葉」を生成する仕組み上、起こり得ます。
対策として、出典付きで回答するAI検索の利用、検索拡張生成(RAG)、プロンプトでの根拠提示の要求などがあります。本サイトでも数値は公開データに基づき出典・取得日を明記しています。