LLM 환각(Hallucination) 현상과 완화 기법

1. 개요

가. 정의와 등장 배경

LLM 환각(Hallucination)이란 대규모 언어모델이 사실과 다르거나 제시된 근거에 부합하지 않는 내용을, 마치 참인 것처럼 유창하고 자신 있게 생성하는 현상을 말한다. 단순한 오탈자나 문법 오류가 아니라, 그럴듯한 형식을 갖추었으나 내용의 진실성(truthfulness)이 결여된 출력이라는 점이 핵심이다.

LLM은 방대한 말뭉치에서 "다음 토큰의 확률분포"를 학습한 확률적 언어 생성기다. 모델의 목적함수는 "사실을 말하라"가 아니라 "학습 분포에서 가장 그럴듯한 다음 토큰을 예측하라"에 맞춰져 있다. 따라서 모델은 지식의 공백을 만났을 때도 침묵하거나 "모른다"고 답하기보다, 통계적으로 자연스러운 문장을 이어붙여 빈칸을 메우려는 경향을 보인다. 이 구조적 특성이 환각의 근본 원인이다.

중요한 점은 환각이 모델이 "거짓말을 하려는 의도"에서 나오는 것이 아니라, 진실성에 대한 내부 표상 없이 형식적 그럴듯함만을 최적화한 결과라는 것이다. 모델은 자신이 아는 것과 모르는 것을 명확히 구분하는 장치를 기본적으로 갖추지 못했고, 그래서 아는 질문과 모르는 질문에 똑같이 유창하게 답한다. 환각 완화가 어려운 근본 이유도 여기에 있다 — 문제의 뿌리가 특정 버그가 아니라 생성 패러다임 자체에 내재하기 때문이다.

환각이 중요한 문제로 부상한 이유는 LLM의 활용 범위가 상담·검색 보조를 넘어 의료·법률·금융·공공행정 등 고위험(high-stakes) 영역으로 확장되었기 때문이다. 유창한 거짓은 사용자가 오류를 알아채기 어렵게 만들어, 잘못된 의사결정·법적 책임·브랜드 신뢰 훼손으로 직결된다. 실제로 한 변호사가 ChatGPT가 지어낸 가짜 판례를 법원에 제출했다가 제재를 받은 사례(2023년 미국)는 환각이 추상적 위험이 아니라 구체적 손실임을 보여준다.

2025년 9월 OpenAI가 발표한 "Why Language Models Hallucinate"는 환각을 모델의 결함이 아니라 학습·평가 체계가 만든 유인(incentive)의 산물로 재해석해 주목받았다. 정답률(accuracy)만으로 모델을 채점하면, 모르는 문제에 대해 "모른다"고 답하는 것보다 찍어서 맞히려는 전략이 점수상 유리해진다. 즉 벤치마크가 불확실성 표현을 처벌하고 자신 있는 추측을 보상하는 한, 모델은 환각을 학습하게 된다는 것이다. 이는 환각 대응이 알고리즘뿐 아니라 평가 설계와 거버넌스의 문제임을 시사한다.

나. 필요성과 특징

환각 완화가 필요한 이유는 신뢰성(Reliability)이 LLM 서비스의 채택과 확산을 좌우하는 1차 품질요소이기 때문이다. 아무리 요약·번역·코딩 생산성이 높아도, 한 번의 치명적 허위정보가 발생하면 조직은 해당 시스템을 운영에서 배제한다. 특히 규제산업에서는 설명가능성·추적성·검증가능성이 도입 조건이므로, 출력의 사실성을 담보하지 못하는 모델은 파일럿 단계를 넘지 못한다.

환각의 특징은 세 가지로 요약된다. 첫째, 유창성과 오류의 공존으로, 문장은 매끄럽지만 내용은 틀려 겉으로 오류를 식별하기 어렵다. 둘째, 자신감의 과잉(overconfidence)으로, 모델이 틀린 답에도 높은 확신을 부여해 사용자의 경계심을 낮춘다. 셋째, 비결정성과 재현 곤란으로, 같은 질문에도 매번 다른 환각이 나타나 사전 테스트로 전부 걸러내기 어렵다. 이 셋이 결합되어 환각은 "탐지·완화는 가능하나 완전 제거는 불가능"한 난제가 된다.

따라서 현실적 목표는 환각의 완전 박멸이 아니라 허용 가능한 수준으로의 통제다. 위험도에 따라 차등적 방어선을 설계하고, 남는 위험은 사람 검토·출처 표기·면책 고지로 관리하는 리스크 기반 접근이 기술사적 정석이다.

한편 환각을 "제거해야 할 버그"로만 보는 시각은 일면적이다. 소설·아이디어 발상·브레인스토밍처럼 창의성이 가치인 과제에서는 사실에 얽매이지 않는 자유로운 생성이 오히려 효용이 된다. 즉 환각과 창의성은 동일한 확률적 생성 능력의 양면이며, 문제의 본질은 "사실성이 요구되는 맥락에서 통제되지 않는 것"이다. 그러므로 완화의 목표도 생성 능력을 죽이는 것이 아니라, 과제의 성격(사실 기반 vs 창의)에 따라 사실성 구속의 강도를 조절하는 맥락 인지형 제어로 설정되어야 한다.

2. 환각의 유형과 발생 메커니즘

환각의 유형을 먼저 구분하는 이유는, 유형을 특정해야 올바른 완화책과 평가지표를 고를 수 있기 때문이다. 같은 "틀린 답"이라도 세계 사실과 어긋난 것인지, 주어진 문서와 어긋난 것인지에 따라 처방이 정반대가 된다. 아래에서는 대표적인 분류축을 따라 환각을 나누어 본다.

환각은 "무엇에 비추어 틀렸는가"에 따라 크게 둘로 나뉜다. 하나는 세계의 사실에 어긋나는 사실성(Factuality) 환각이고, 다른 하나는 제시된 입력·문맥·근거문서에 어긋나는 충실성(Faithfulness) 환각이다. 요약 과제에서 원문에 없는 내용을 지어내는 것이 후자의 전형이다. 또한 입력 정보 자체를 왜곡하는 내재적(intrinsic) 환각과, 입력에 없는 외부 정보를 임의로 덧붙이는 외재적(extrinsic) 환각으로도 구분한다. 이 분류가 중요한 이유는 유형마다 효과적인 완화책이 다르기 때문이다 — 사실성 환각은 외부지식 연결(RAG)이, 충실성 환각은 근거 구속(grounding)·제약 디코딩이 유효하다.

아래 구조도는 환각이 LLM 파이프라인의 어느 지점에서 비롯되는지를 전체적으로 조망한다. 데이터·학습·추론·평가의 각 단계가 환각의 서로 다른 원천으로 작동한다.

flowchart TB
  subgraph DATA["데이터 단계"]
    D1["학습 말뭉치 오류·편향·구식 정보"]
    D2["지식 공백(롱테일·최신 사건)"]
  end
  subgraph TRAIN["학습 단계"]
    T1["확률적 목적함수(다음 토큰 예측)"]
    T2["RLHF의 아첨(sycophancy) 유인"]
  end
  subgraph INFER["추론 단계"]
    I1["샘플링 디코딩의 무작위성"]
    I2["문맥창 한계·프롬프트 모호성"]
  end
  subgraph EVAL["평가 단계"]
    E1["정답률 위주 채점(추측 보상)"]
  end
  DATA --> OUT["환각 출력(유창한 허위)"]
  TRAIN --> OUT
  INFER --> OUT
  EVAL -.유인 제공.-> TRAIN

데이터 측면에서 환각은 학습 말뭉치의 오류·편향·시의성 부족에서 싹튼다. 모델이 배운 적 없는 롱테일 지식이나 학습 시점 이후의 최신 사건(지식 컷오프 이후)에 대해서는 근거가 없어 지어낼 수밖에 없다. 예컨대 특정 인물의 생년이나 신제품 사양처럼 "희소하고 자주 바뀌는 사실"은 환각의 단골 영역이다. 말뭉치에 한 번만 등장한 사실은 통계적 신호가 약해, 모델이 이를 안정적으로 기억하지 못하고 비슷한 패턴의 다른 값으로 대체해버리는 경향이 있다. OpenAI 연구가 환각의 상당 부분을 "학습 데이터에서 드물게 나타나는 사실"과 연결 짓는 것도 이 때문이다.

학습 측면에서는 앞서 설명한 확률적 목적함수가 1차 원인이다. 여기에 인간 피드백 기반 강화학습(RLHF)이 "사용자가 선호하는 답"을 보상하면서, 모델이 정확성보다 듣기 좋은 답(아첨·sycophancy)을 내도록 편향될 수 있다. 사용자가 틀린 전제를 깔고 질문하면 모델이 그 전제에 영합해 틀린 답을 확신 있게 내놓는 현상이 대표적이다.

추론 측면에서는 다양성을 위해 도입한 확률적 디코딩(temperature·top-p 샘플링)이 사실성을 흔든다. 온도를 높이면 창의성은 늘지만 이탈 토큰이 선택될 확률도 커진다. 또한 문맥창 한계로 긴 문서의 중간 정보가 유실되거나(lost-in-the-middle), 모호한 프롬프트가 모델의 임의 보완을 유발한다.

평가 측면은 가장 간과되기 쉬운 원천이다. OpenAI의 SimpleQA 사실성 측정에서, 추측을 거의 하지 않고 약 절반을 "모른다"로 유보한 모델(gpt-5-thinking-mini 계열)은 오답률이 약 26% 수준이었던 반면, 거의 유보하지 않고 대부분 찍은 구형 모델(o4-mini 계열)은 정답률은 비슷했으나 오답률이 약 75%까지 치솟았다. 정답률 한 지표만 보면 둘의 차이가 작아 보이지만, "틀리게 답한 비율"로 보면 전략적 추측이 환각을 대량으로 양산한다는 사실이 드러난다. 이는 환각이 데이터·학습·추론만의 문제가 아니라 무엇을 보상하도록 채점하는가의 문제임을 명확히 보여준다.

이처럼 환각은 단일 단계의 결함이 아니라 데이터·학습·추론·평가가 사슬처럼 얽혀 만들어내는 시스템적 현상이다. 따라서 어느 한 지점만 손보는 국소 처방으로는 재발하기 쉬우며, 뒤에서 다루듯 생성 전·중·후를 아우르는 다층 방어와 평가 체계 재설계가 함께 가야 효과가 지속된다.

3. 환각 완화 기법 — 생성 전·중·후 다층 방어

완화 기법을 층위로 나누어 보는 까닭은, 어느 한 단계의 처방만으로는 다른 단계에서 생긴 환각을 막지 못하기 때문이다. 좋은 근거를 넣어도(생성 전) 디코딩이 흔들리면(생성 중) 환각이 나고, 생성 중 제어가 완벽해도 애초에 지식이 없으면(생성 전 공백) 무력하다. 따라서 방어는 단일 지점이 아니라 사슬 전체에 걸쳐 중첩되어야 한다.

환각은 단일 기법으로 해결되지 않으며, 생성 이전(입력 보강)·생성 중(제어)·생성 이후(검증)의 세 층위에서 방어선을 중첩하는 것이 효과적이다. 아래 프로세스도는 질의가 들어와 응답이 나가기까지 각 단계에 배치되는 완화 장치를 보여준다.

flowchart LR
  Q["사용자 질의"] --> PRE["생성 전: RAG 검색·프롬프트 설계"]
  PRE --> GEN["생성 중: 제약 디코딩·CoT·불확실성 보정"]
  GEN --> POST["생성 후: 자기검증(CoVe)·사실성 채점"]
  POST --> GATE{"신뢰도 임계값 통과?"}
  GATE -->|"예"| ANS["출처 포함 응답 제공"]
  GATE -->|"아니오"| ABSTAIN["모른다 응답·사람 검토 전환"]

생성 전(Pre-generation) 방어의 핵심은 검색증강생성(RAG)이다. 질의 시점에 외부 지식베이스·문서에서 관련 근거를 검색해 프롬프트에 주입하면, 모델은 파라미터 기억이 아니라 제시된 근거에 구속되어 답한다. 이는 지식 컷오프·롱테일 문제를 직접 공략하며, 출처(citation)를 함께 제시해 검증가능성까지 높인다. 다만 검색 품질이 나쁘면 오히려 잘못된 근거로 환각을 강화할 수 있어, 리랭킹·근거 일치 검사가 병행되어야 한다. 함께 쓰이는 프롬프트 설계도 1차 방어로서 의미가 있다 — 역할·범위·근거 사용 규칙("제공된 문서에 없으면 모른다고 답하라")을 명시하면 모델의 임의 보완을 상당 부분 억제할 수 있다.

생성 중(In-generation) 방어는 추론 과정 자체를 제어한다. 사고사슬(Chain-of-Thought)로 단계적 추론을 유도하면 논리적 비약을 줄일 수 있고, 제약 디코딩·낮은 온도·구조화 출력(JSON 스키마)으로 이탈을 억제한다. 나아가 불확실성 보정(calibration)을 통해 모델이 확신이 낮을 때 "모른다"고 답하도록 유인을 재설계하는 것이 OpenAI 연구가 제시한 방향이다. 다만 CoT는 추론 길이가 늘수록 비용이 증가하고, 때로는 잘못된 중간 추론이 그럴듯한 오답을 정당화하는 역효과도 있어, 과제 난이도에 맞춰 선택적으로 적용해야 한다.

생성 후(Post-generation) 방어는 출력을 사후 검증한다. 검증사슬(Chain-of-Verification, CoVe)은 모델이 스스로 검증 질문을 만들어 답을 교차 확인한 뒤 수정하게 하며, 자기일관성(Self-Consistency)은 여러 표본을 뽑아 다수결로 안정화한다. 탐지 기법으로는 추가 근거 없이 여러 응답의 일관성으로 환각을 포착하는 SelfCheckGPT, 출력을 원자적 사실 단위로 쪼개 근거 대비 정확도를 채점하는 FActScore가 대표적이다.

마지막 보루는 운영 단계의 가드레일과 사람 개입(HITL)이다. 가드레일은 출력에 금칙·사실성 규칙을 적용해 위험 응답을 차단·수정하며, 신뢰도가 임계값에 미달하면 응답을 보류하고 사람 검토로 전환한다. 의료 상담 보조처럼 오류 비용이 큰 영역에서는 "모델이 초안을 만들고 전문가가 승인"하는 구조로 설계해, 환각이 최종 사용자에게 도달하기 전에 걸러낸다. 이는 기술적 완화가 남긴 잔여 위험을 조직 프로세스로 흡수하는 장치다.

아래 표는 대표 완화·탐지 기법을 방어 층위별로 정리한 것이다. 각 기법은 공격하는 환각 유형과 비용·한계가 달라, 서비스의 위험도에 맞춰 조합한다.

층위	대표 기법	주 공략 대상	한계·비용
생성 전	RAG·지식그래프 연결	사실성(지식공백)	검색품질 의존, 지연·인프라
생성 전	프롬프트 설계·역할지정	충실성·모호성	효과 제한적, 변동성
생성 중	CoT·제약 디코딩·낮은 온도	추론 비약·이탈	다양성 저하
생성 중	불확실성 보정·abstain	과잉확신	재현율↓(과도한 거절)
생성 후	CoVe·자기일관성	사실성·일관성	추론 비용 수배 증가
생성 후	SelfCheckGPT·FActScore	탐지·점수화	자동평가 신뢰도
운영	가드레일·사람검토(HITL)	잔여 위험	비용·속도

4. 비교 — 왜 기법마다 효과가 다른가

RAG와 파인튜닝은 자주 비교되지만 공략 지점이 다르다. 파인튜닝은 모델의 문체·형식·도메인 적응에 강하나, 지식을 "암기"시키는 방식이라 최신성·검증가능성에는 취약하다. 반대로 RAG는 지식을 외부화해 업데이트가 쉽고 출처 추적이 가능하지만, 검색 실패 시 그대로 무너진다. 따라서 "자주 바뀌는 사실"은 RAG로, "일관된 말투·형식"은 파인튜닝으로 다루고, 고위험 서비스는 둘을 결합하는 것이 실무 정석이다.

프롬프트 기반 기법과 검색·검증 기반 기법 사이에도 근본적 비용-효과 차이가 있다. 프롬프트 설계("근거가 없으면 모른다고 답하라" 같은 지시)는 비용이 거의 없고 즉시 적용 가능하지만, 모델의 자발적 준수에 의존하므로 효과가 불안정하고 적대적 질의에 쉽게 뚫린다. 반면 RAG·CoVe는 외부 근거나 추가 추론으로 사실성을 구조적으로 강제해 효과가 크고 안정적이지만, 인프라·지연·추론 비용을 수반한다. 이 차이가 생기는 이유는 전자가 "모델에게 부탁"하는 반면 후자는 "모델을 구속"하기 때문이며, 신뢰가 중요할수록 부탁에서 구속으로 무게를 옮기는 것이 합리적이다.

완화 기법들의 효과 차이는 결국 "환각의 뿌리를 어디서 끊는가"에서 비롯된다. 실제로 CoT·RAG·자기일관성·자기검증을 결합한 2025년 실험(arXiv 2505.09031)에서는, RAG와 CoT에 자기검증을 더한 구성이 HaluEval 기준 환각률을 크게 낮추고(GPT-3.5-Turbo에서 약 11% 수준) FEVER·TruthfulQA에서도 가장 안정적인 성능을 보였다. 이는 외부지식 구속(RAG)과 사후검증을 결합할 때 상호보완 효과가 가장 크다는 직관을 뒷받침한다. 다만 단일 논문 결과이므로 수치는 참고치로 보아야 하며, 검증 단계가 늘수록 추론 비용과 지연이 수배로 증가하는 트레이드오프가 존재한다.

평가 측면에서도 벤치마크마다 측정 대상이 다르다. TruthfulQA는 사람이 흔히 믿는 오해를 모델이 따라 하는지를, HaluEval은 환각 샘플 식별 능력을, FEVER는 주장-근거 간 사실검증을 측정한다. 하나의 점수로 환각을 단정할 수 없으므로, 서비스 특성에 맞는 복수 지표와 운영 중 실데이터 모니터링을 병행해야 한다.

산업 적용 관점에서도 완화 전략의 선택은 도메인 특성에 따라 갈린다. 예컨대 고객지원 챗봇은 FAQ·약관·제품 매뉴얼을 RAG 지식베이스로 묶어 "근거 없는 답은 하지 않는다"는 원칙을 강제하는 것이 1차 방어가 된다. 반면 코드 어시스턴트는 생성한 코드를 컴파일·테스트 실행이라는 외부 검증 도구로 즉시 사실성을 확인할 수 있어, 자기검증보다 도구 연동(tool use)이 더 강력한 완화책이 된다. 이처럼 "그 도메인에서 사실을 값싸게 검증할 수단이 무엇인가"를 먼저 찾는 것이 기법 선택의 출발점이다.

또한 환각은 완화 기법 사이의 상호작용까지 고려해야 한다. RAG로 근거를 넣어도 모델이 근거를 무시하고 파라미터 기억을 우선하면 충실성 환각이 남고, 자기검증을 과신하면 틀린 답을 "검증 통과"로 포장하는 2차 환각이 생길 수 있다. 따라서 각 기법을 독립적으로 쌓기보다, 근거-응답 일치도를 별도 모델로 채점하는 등 방어선 사이의 교차 검증을 설계에 포함해야 실질적 신뢰도가 확보된다.

5. 심화 — 평가 유인 재설계와 AI 거버넌스 연계

환각 문제의 최신 논의는 알고리즘에서 평가·제도 설계로 무게중심이 옮겨가고 있다. OpenAI의 2025년 연구는 "모델이 추측하도록 만드는 것은 벤치마크의 채점 방식"이라고 지적하며, 불확실성 표현에 페널티를 주지 않고 오답에는 벌점, 유보에는 중립을 부여하는 채점 체계로 전환할 것을 제안한다. 실제로 GPT-5 계열의 추론 모델은 "모른다"고 유보하는 비율을 높이는 대신 오답률을 낮추는 방향으로 설계되어, 유보와 정확성 사이의 균형을 재조정한 사례로 소개된다.

이 관점은 기술사 시험에서 자주 다루는 AI 신뢰성(Trustworthiness)·AI 윤리·거버넌스 주제와 직접 연결된다. EU AI Act는 고위험 AI에 대해 정확성·견고성·투명성 요건을 부과하며, 국내에서도 AI 기본법·신뢰할 수 있는 AI 가이드라인이 환각으로 인한 허위정보 위험을 관리 대상으로 명시하는 흐름이다. 따라서 조직은 환각을 단순 기술 버그가 아니라 모델 생애주기 전반의 리스크 관리 항목으로 편입하고, MLOps/LLMOps 파이프라인에 환각 모니터링·레드팀·사고 대응 절차를 내장해야 한다. 예상 출제 방향으로는 "LLM 서비스의 환각 위험을 완화하기 위한 아키텍처(RAG)와 거버넌스 체계를 설명하라"처럼 기술+관리의 통합 서술을 요구하는 문항이 유력하다.

최신 기술 동향도 환각 완화를 겨냥해 진화하고 있다. 추론 특화 모델(reasoning model)은 답을 내기 전 내부적으로 더 긴 사고 과정을 거쳐 사실성을 높이고, 도구 사용(tool use)·함수 호출로 계산·검색·DB 조회를 외부에 위임해 "기억에 의존한 추측"을 줄인다. 또한 여러 에이전트가 생성·비판·검증 역할을 분담하는 멀티에이전트 검증 구조가 고위험 응용에서 확산되고 있다. 이들은 공통적으로 "모델 혼자 기억으로 답하지 말고, 외부 근거·도구·동료 검증에 구속시킨다"는 원리를 공유하며, 이 방향성이 당분간 환각 완화 기술의 주류가 될 전망이다.

6. 고려사항 및 시사점

첫째, 리스크 기반 차등 설계다. 모든 응답에 최고 수준의 검증을 적용하면 비용·지연이 폭증한다. 질의의 위험도(의료·법률 vs 브레인스토밍)에 따라 RAG·CoVe·사람검토의 적용 강도를 차등화하고, 저위험 영역은 가벼운 가드레일로, 고위험 영역은 다층 검증과 출처 의무표기로 설계하는 것이 합리적이다.

둘째, 완화와 유용성의 트레이드오프다. 환각을 줄이려 과도하게 "모른다"를 유도하면 응답 거절이 늘어 사용자 효용이 급감한다(과잉 유보). 반대로 유용성만 좇으면 환각이 늘어난다. 기술사는 재현율(얼마나 답하는가)과 정밀도(얼마나 맞는가)의 균형점을 서비스 목표에 맞춰 설정하고, 불확실성 보정으로 그 경계를 운영 가능하게 다루어야 한다.

셋째, 검증가능성과 책임소재의 제도화다. 출처 표기·근거 링크·신뢰도 점수를 UI에 노출해 사용자가 스스로 검증하도록 돕고, 최종 판단 책임이 사람에게 있음을 명확히 하는 설명·면책·감사추적 체계를 갖춰야 한다. 이는 규제 대응이자 신뢰 구축의 핵심이다.

넷째, 지속 운영과 연계 기술이다. 지식은 끊임없이 변하므로 RAG 지식베이스 갱신, 환각 사고 로그 분석, 주기적 레드팀·벤치마크 재측정을 LLMOps 루틴으로 정착시켜야 한다. 또한 환각 완화는 RAG·지식그래프·멀티에이전트 검증·가드레일 같은 인접 기술과 결합될 때 효과가 극대화되므로, 전체 AI 아키텍처 설계 초기부터 방어 층위를 함께 설계하는 것이 바람직하다.

이와 함께, 환각 대응은 사용자 교육과 인터페이스 설계라는 인간 요인(human factor)까지 포괄해야 한다. 아무리 완화해도 잔여 환각은 남으므로, 사용자가 "AI 출력은 검증이 필요한 초안"이라는 인식을 갖도록 UI에 신뢰 수준·근거를 명시하고, 중요한 의사결정은 출처 원문을 직접 확인하도록 유도하는 설계가 필요하다. 기술적 완화와 사용자 리터러시가 결합될 때 비로소 실질적 안전이 확보된다.

다섯째, 평가 문화의 전환이다. 조직 내부 모델 평가에서도 "정답률 1등"만을 좇으면 현업에서 환각이 재발한다. 유보·불확실성 표현을 정당하게 인정하는 채점 기준과, 실사용 데이터 기반의 상시 측정 체계를 도입해 평가가 만드는 유인 자체를 올바르게 설계하는 것이 근본 처방이다.

참고자료

• OpenAI, "Why Language Models Hallucinate" (2025.09), https://openai.com/index/why-language-models-hallucinate/
• Ji et al., "Survey of Hallucination in Natural Language Generation", https://arxiv.org/abs/2202.03629
• Manakul et al., "SelfCheckGPT", https://arxiv.org/abs/2303.08896
• Min et al., "FActScore", https://arxiv.org/abs/2305.14251
• Dhuliawala et al., "Chain-of-Verification Reduces Hallucination in LLMs", https://arxiv.org/abs/2309.11495
• "Improving the Reliability of LLMs: Combining CoT, RAG, Self-Consistency, and Self-Verification", https://arxiv.org/abs/2505.09031

---

한 줄 요약: LLM 환각은 확률적 언어생성 구조와 정답률 위주 평가 유인이 결합해 발생하는 "유창한 허위"로, 완전 제거보다 RAG(생성 전)·제약 디코딩과 불확실성 보정(생성 중)·검증사슬과 사실성 채점(생성 후)의 다층 방어와 리스크 기반 거버넌스로 허용 수준까지 통제하는 것이 기술사적 정석이다.