대규모 언어모델 • 챕터 5 / 7
LLM에게 생각할 시간(과 텍스트 공간)을 주면 어려운 문제를 잘 풀 수 있다
| 구분 | 언어 모델 | Reasoning 모델 |
|---|---|---|
| 방식 | 다음 토큰 예측 | 긴 시간 생각 후 해답 탐색 |
| 특징 | 빠른 응답 | 깊은 사고 과정 |
Reasoning 모델의 성능 지표:
Thinking 모델
Thinking을 하는 모델이 상위권에 위치합니다. 더 깊은 사고 과정을 거칠수록 성능이 향상됩니다.
| 패턴 | 설명 |
|---|---|
| Systematic Analysis | 문제 전체를 체계적으로 분석 |
| Method Reuse | 알려진 문제 해결법 적용 |
| Divide and Conquer | 복잡한 문제를 작은 단위로 분할 |
| Self-Refinement | 자체 평가와 수정 (오류 검출) |
| Context Identification | 추가 문맥 활용 |
| Emphasizing Constraints | 제약 조건 강조 및 준수 |
Hybrid 모드로 발전:
/no_think 옵션으로 Thinking 없이 즉각 응답LMM (Large Multimodal Models)
이미지 생성 → 이미지 처리 인코더 결합 → 인코더와 LLM 연결| 모델 | 특징 |
|---|---|
| Llama 3.2 | 멀티모달 데이터로 텍스트 생성 |
| Qwen2.5-VL | Vision Encoder + LM Decoder 결합 |
멀티모달 → 멀티모달:
| 모델 타입 | 파라미터 크기 |
|---|---|
| 큰 LLM | 1000B |
| sLLM | 0.7B ~ 235B |
두 가지 방법:
| 방법 | 설명 |
|---|---|
| 가로로 자르기 | Layer Pruning - 레이어 수 감소 |
| 세로로 자르기 | Channel/Dimension Pruning - 차원 수 감소 |
큰 모델의 출력으로 작은 모델 학습
큰 모델 데이터 → 작은 모델 파인튜닝 → 효율적인 지식 전달증류의 효과
작은 모델이 큰 모델의 사고 방식을 학습할 수 있습니다.
활용: 엣지 디바이스, CPU 환경, 온디바이스 AI
4단계 파이프라인:
Base Models → Stage 1: Long-CoT Cold Start → Stage 2: Reasoning RL
↓
Stage 3: Thinking Mode Fusion → Stage 4: General RL| 타입 | 학습 방식 |
|---|---|
| Flagship(235B, 32B) | 4단계 전체 학습 |
| Lightweight(14B 이하) | Strong-to-Weak Distillation |
기본 워크플로우:
텍스트 → 파싱 → 데이터JSON 형식으로 출력:
LLM이 외부 함수나 API를 호출하도록 프롬프트를 통해 전달
활용 예시:
Tool Calling의 표준화
AI Application과 다양한 외부 도구/서비스를 연결하는 표준 프로토콜:
MCP의 역할:
| 플랫폼 | 특징 |
|---|---|
| OpenAI Agent | GPT 모델과 긴밀한 통합 |
| Anthropic Computer Use | Claude 연계, 컴퓨터 제어 자동화 |
주요 고려사항:
| 요소 | 설명 |
|---|---|
| 프롬프트 엔지니어링 | Few-shot, Chain-of-Thought |
| 파인튜닝 | LoRA, QLoRA로 도메인 최적화 |
| RAG | 외부 지식 베이스 활용 |
| Agent | Tool Calling으로 기능 확장 |
핵심 역량:
실무 워크플로우:
비정형 데이터 → 전처리 → LLM 처리 → 결과 평가 → 개선실무에서 가장 중요한 것
현업에서는 LLM 단독보다는 실제 데이터 기반 수행이 중요합니다. 결과 평가 방식과 데이터 파이프라인이 핵심입니다.