검색 증강 생성 • 챕터 1 / 7
| 한계 | 설명 |
|---|---|
| 지식 차단 (Knowledge Cutoff) | 학습 데이터의 시간적 제약 |
| 할루시네이션 (Hallucination) | 사실이 아닌 정보 생성 |
| 도메인 전문성 부족 | 특정 분야의 깊이 있는 지식 부재 |
| 최신 정보 부재 | 실시간 데이터 접근 불가 |
LLM의 근본적 한계
LLM은 학습 데이터에 기반하여 응답하므로, 학습 이후의 정보나 특정 도메인의 전문 지식에는 한계가 있습니다.
LLM이 그럴듯하지만 사실이 아니거나 검증되지 않은 정보 를 자신 있게 생성하는 현상
| 원인 분류 | 세부 내용 |
|---|---|
| 학습 데이터의 한계 | 편향되거나 불완전한 데이터, 모순된 정보 포함 |
| 모델 구조적 특성 | 확률 기반 다음 토큰 예측, 맥락 이해의 한계 |
| 프롬프트 문제 | 모호하거나 불명확한 질문, 과도하게 구체적인 요구 |
사용자: "2024년 한국의 GDP 성장률은?"
LLM (할루시네이션): "2024년 한국의 GDP 성장률은 3.2%입니다."
→ 실제로는 검증되지 않은 추정값일 수 있음모델이 응답을 생성할 때 참조하는 추가 정보 또는 배경 지식
| 역할 | 효과 |
|---|---|
| 정확성 향상 | 검증된 정보 제공 |
| 할루시네이션 감소 | 근거 있는 답변 생성 |
| 도메인 적응 | 특화된 지식 활용 |
| 최신성 보장 | 실시간 정보 반영 |
[Context 없는 질의]
Q: "우리 회사의 휴가 정책은?"
A: (일반적인 추측으로 응답)
[Context 있는 질의]
Q: "우리 회사의 휴가 정책은?"
Context: "회사 내규에 따르면 연차는 15일이며..."
A: (정확한 정책 기반 응답)Retrieval Augmented Generation: 외부 지식 검색을 통해 LLM의 생성 능력을 강화하는 기술
1. 질의(Query) 입력
↓
2. 관련 문서 검색 (Retrieval)
↓
3. Context 구성
↓
4. LLM에 전달
↓
5. 응답 생성 (Generation)┌─────────────────────────────────────────────────────┐
│ RAG Pipeline │
├─────────────────────────────────────────────────────┤
│ │
│ [사용자 질의] │
│ │ │
│ ▼ │
│ ┌─────────┐ ┌──────────────┐ │
│ │ Encoder │ ───▶ │ Vector Store │ │
│ └─────────┘ └──────┬───────┘ │
│ │ 유사도 검색 │
│ ▼ │
│ ┌─────────────┐ │
│ │ 관련 문서들 │ │
│ └──────┬──────┘ │
│ │ │
│ ▼ │
│ ┌─────────────────────────────────────────┐ │
│ │ Prompt = Context + Query │ │
│ └────────────────────┬────────────────────┘ │
│ │ │
│ ▼ │
│ ┌─────────┐ │
│ │ LLM │ │
│ └────┬────┘ │
│ │ │
│ ▼ │
│ [최종 응답] │
│ │
└─────────────────────────────────────────────────────┘| 장점 | 설명 |
|---|---|
| 지식 확장 | 외부 데이터베이스를 통한 지식 범위 확장 |
| 정확성 향상 | 검증된 정보 기반 응답 생성 |
| 투명성 | 출처 추적 가능 (Source Attribution) |
| 유연성 | 지식 베이스 업데이트 용이 |
| 비용 효율 | 모델 재학습 불필요 |
| 항목 | RAG | Fine-Tuning |
|---|---|---|
| 지식 업데이트 | 문서 추가만으로 즉시 반영 | 재학습 필요 |
| 비용 | 상대적으로 저렴 | 학습 비용 발생 |
| 투명성 | 출처 제공 가능 | 출처 추적 어려움 |
| 적용 범위 | 특정 지식 검색에 최적 | 스타일/형식 변경에 적합 |
RAG의 활용 시나리오
| 문제 | RAG의 해결책 |
|---|---|
| 지식 차단 | 최신 문서 검색으로 보완 |
| 할루시네이션 | 검증된 Context 기반 응답 |
| 도메인 전문성 | 전문 문서 DB 구축 |
| 출처 불명확 | Source Attribution 제공 |