top of page
할루시네이션
Hallucination
AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상.
AI는 '가장 그럴듯한 다음 말'을 생성하는 방식이라, 모르는 내용도 자신 있게 답하는 경우가 있습니다. 존재하지 않는 자료나 잘못 된 수치를 사실처럼 제시하기도 합니다. 회사 문서를 참조하게 하는 RAG, 출처 표기, 사람의 검수 등으로 줄일 수 있습니다.
💡 쉽게 말하면
모르는 문제에 빈칸을 두지 않고 아는 척 답을 채우는 시험지 같아요. 형식은 완벽해 보이는데 내용이 틀린 겁니다.
관련 용어