환각(할루시네이션)란?
Hallucination
A. 환각(할루시네이션)란
AI가 사실과 다르지만 그럴듯하게 들리는 내용을 생성하는 현상입니다. 중요한 정보는 반드시 1차 출처로 확인하세요.
환각이란 생성형 AI가 존재하지 않는 사실·출처·수치를 마치 맞는 것처럼 출력하는 현상입니다. ‘가장 확률이 높은 다음 단어’를 생성하는 LLM의 작동 방식 때문에 발생할 수 있습니다.
대응책으로는 출처를 인용하는 AI 검색, 검색 증강 생성(RAG), 프롬프트에서 모델에게 근거를 제시하도록 요청하는 방법 등이 있습니다. 본 사이트 역시 수치는 출처와 수집 일자를 명확히 밝힌 공개 데이터에 근거하고 있습니다.