프롬프트 엔지니어링 심화

1. Chain-of-Thought (CoT)

정의

Chain-of-Thought (CoT) 는 LLM의 논리적 추론 과정을 유도하는 기법 입니다.

Standard Prompting vs CoT Prompting

CoT의 효과

"논리적 추론은 정답으로의 안전한 길" (2022년)
"출력을 길게 하는 방식이 모델의 지능을 높임" (현재)

• GPT-5, Claude와 같은 모델의 추론 메타 형성 계기

주의사항

2. Zero-shot Chain-of-Thought

개념

Zero-shot-CoT 는 예제 없이도 프롬프트로 논리적 추론을 유도하는 기법입니다.

핵심 프롬프트

"Let's think step by step." (단계별로 생각해보자)

효과

• CoT 예제 없이 프롬프트만으로 논리적 추론 유도
• 최근 모델들은 Zero-Shot CoT 방식을 주로 채택

언어 모델의 추론을 금지시킨다면?

질문:

내가 지갑에 2만원이 있었는데, 1만 2천원 배달음식을 주문하고,
2천원 배달팁을 냈어. 이후, 은행에 들러서 5만원권 20장을 인출했어.
내가 가진 현금은 얼마일까?

"풀이 과정을 쓰지 말고, 정답만 출력해줘"→ 오답

올바른 풀이 과정:

1. 초기 현금: 2만원
2. 지출: 1만 2천원 + 2천원 = 1만 4천원
3. 남은 금액: 2만원 - 1만 4천원 = 6천원
4. 인출: 5만원 × 20 = 100만원
5. 최종: 100만 6천원

3. Step-Back Prompting

정의

답을 바로 생성하기 전에, 필요한 요소와 구조를 도출 하여 LLM의 한계를 보완하는 기법입니다.

배경

LLM은 전체 구조나 큰 그림을 미리 보는 능력이 부족 하여, 복잡한 문제에서 부정확한 답변 생성 가능

사용법 예시

Step-Back Prompting 프로세스

Original Question
      ↓
Step 1: Abstraction → Stepback Question
      ↓
Step 2: Reasoning → Stepback Answer
      ↓
Final Answer

효과

• 논리적 단계를 유도하여 답변의 일관성, 정확성, 품질 향상
• 별도 코드 작성 없이 프롬프트 설계 를 통한 답변 생성 준비

4. 프롬프트 길이와 비용-속도 관계

결과뿐 아니라 비용도 핵심 요소

GPT API 사용 비용 예시

오픈 LLM 고려사항

• 비용은 들지 않으나 출력 길이가 길어질수록 GPU 소모 증가
• 추론 시간이 길어지면 처리 속도가 느려지고, 성능 저하 위험
• 성능이 떨어지지 않는 설계 필요

5. 프롬프트 작성 Tip

영어 vs 한국어 프롬프트

영어 지시의 장점

• 영어 학습량이 압도적인 대부분 모델→ 안정적 결과
• 동일 내용 작성 시 토큰 수 짧음→ 효율적 처리

한국어 모델 선택 기준

주요 한국어 모델

6. 프롬프트 엔지니어링 가이드

주요 가이드 제공처

프롬프트 작성 흐름

프롬프트 설계 지원 도구
      ↓
프롬프트 엔지니어링 가이드
      ↓
프롬프트 옵티마이저

핵심 요약

CoT (Chain-of-Thought)

Step-Back Prompting

비용-속도 관계

한국어 모델 선택

• 전문 지식보다 한국어 성능이 더 중요
• 호랑이 리더보드 등 객관적 지표 참고
• SKT, KT, LG, Upstage, 네이버, 카카오 등 국내 모델 우수