제135회 정보관리기술사 2교시 1번 — 프롬프트 엔지니어링·CoT·ToT·RAG 할루시네이션 해결

정보관리기술사 · 135회 2교시 · 1번 · 배점 25점

제135회 정보관리기술사 2교시 1번

서술형 | 25점
[문제] 생성형 AI 모델에서 프롬프트 엔지니어링(Prompt Engineering)의 개념과 중요성을 설명하고, 주요 프롬프트 기법(Zero-Shot, Few-Shot, Chain-of-Thought, Tree-of-Thought)을 비교 서술하시오. 또한 할루시네이션(Hallucination) 문제와 RAG(Retrieval-Augmented Generation) 아키텍처를 통한 해결 방안을 논하시오.

1. 프롬프트 엔지니어링 개념과 중요성

프롬프트 엔지니어링은 LLM(대형언어모델)이 원하는 출력을 생성하도록 입력 텍스트(프롬프트)를 체계적으로 설계·최적화하는 기술이다. 모델 재학습 없이 성능을 극대화할 수 있어 AI 활용의 핵심 역량으로 부상했다.

중요성: 동일 모델에서 프롬프트 품질에 따라 정확도·일관성 차이가 극명하게 나타남. 업무 자동화·콘텐츠 생성·코드 작성에서 ROI를 결정하는 핵심 요소

2. 주요 프롬프트 기법 비교

기법 개념 특성 적합 용도
Zero-Shot 예시 없이 지시문만으로 작업 수행 간단·빠름, 모델 기본 능력에 의존 일반 질의응답, 번역, 분류
Few-Shot 2~10개의 입력-출력 예시를 프롬프트에 포함 예시가 출력 형식·스타일 가이드 역할 특정 형식 출력, 도메인 특화 작업
Chain-of-Thought (CoT) 중간 추론 단계(“단계별로 생각해보자”)를 포함하여 복잡한 문제 해결 논리 추론·수학 문제에서 정확도 대폭 향상 수학 계산, 논리 추론, 복잡한 분석
Tree-of-Thought (ToT) 여러 사고 경로를 트리 구조로 탐색·평가하여 최적 경로 선택 탐색적·창의적 문제에서 CoT보다 우수 전략 수립, 게임 플레이, 창의적 문제 해결

3. 할루시네이션 문제

할루시네이션(Hallucination)은 LLM이 사실이 아닌 정보를 사실인 것처럼 자신감 있게 생성하는 현상이다.

  • 원인: 학습 데이터 편향, 지식 컷오프 날짜 이후 정보 부재, 확률 기반 생성 특성
  • 유형: 존재하지 않는 논문 인용, 잘못된 수치·날짜, 허위 사실 서술

4. RAG (Retrieval-Augmented Generation) 아키텍처

RAG (Retrieval-Augmented Generation) 흐름 사용자 질의 입력 Retriever 임베딩 유사도 검색 Vector DB 증강 프롬프트 원본 질의 + 검색 문서 LLM 근거 기반 생성 응답 출처 포함 검색·저장

RAG 동작: ① 사용자 질의를 임베딩 벡터로 변환 → ② 벡터 DB에서 유사 문서 검색 → ③ 검색 문서를 프롬프트에 삽입(증강) → ④ LLM이 근거 기반 응답 생성

효과: 모델 재학습 없이 최신 정보 반영, 출처 제시로 신뢰성 향상, 할루시네이션 대폭 감소

[ 결론 ]

프롬프트 엔지니어링은 LLM 성능을 극대화하는 핵심 기술이며, CoT·ToT로 복잡한 추론 능력을 향상시킨다. 할루시네이션 문제는 RAG 아키텍처로 벡터 DB 검색 기반 근거 생성을 통해 완화하며, 고신뢰성이 요구되는 법률·의료·금융 분야에서 필수 접근법이다.

Leave a Comment