프롬프트 엔지니어링은 LLM(대형언어모델)이 원하는 출력을 생성하도록 입력 텍스트(프롬프트)를 체계적으로 설계·최적화하는 기술이다. 모델 재학습 없이 성능을 극대화할 수 있어 AI 활용의 핵심 역량으로 부상했다.
중요성: 동일 모델에서 프롬프트 품질에 따라 정확도·일관성 차이가 극명하게 나타남. 업무 자동화·콘텐츠 생성·코드 작성에서 ROI를 결정하는 핵심 요소
| 기법 | 개념 | 특성 | 적합 용도 |
|---|---|---|---|
| Zero-Shot | 예시 없이 지시문만으로 작업 수행 | 간단·빠름, 모델 기본 능력에 의존 | 일반 질의응답, 번역, 분류 |
| Few-Shot | 2~10개의 입력-출력 예시를 프롬프트에 포함 | 예시가 출력 형식·스타일 가이드 역할 | 특정 형식 출력, 도메인 특화 작업 |
| Chain-of-Thought (CoT) | 중간 추론 단계(“단계별로 생각해보자”)를 포함하여 복잡한 문제 해결 | 논리 추론·수학 문제에서 정확도 대폭 향상 | 수학 계산, 논리 추론, 복잡한 분석 |
| Tree-of-Thought (ToT) | 여러 사고 경로를 트리 구조로 탐색·평가하여 최적 경로 선택 | 탐색적·창의적 문제에서 CoT보다 우수 | 전략 수립, 게임 플레이, 창의적 문제 해결 |
할루시네이션(Hallucination)은 LLM이 사실이 아닌 정보를 사실인 것처럼 자신감 있게 생성하는 현상이다.
RAG 동작: ① 사용자 질의를 임베딩 벡터로 변환 → ② 벡터 DB에서 유사 문서 검색 → ③ 검색 문서를 프롬프트에 삽입(증강) → ④ LLM이 근거 기반 응답 생성
효과: 모델 재학습 없이 최신 정보 반영, 출처 제시로 신뢰성 향상, 할루시네이션 대폭 감소
프롬프트 엔지니어링은 LLM 성능을 극대화하는 핵심 기술이며, CoT·ToT로 복잡한 추론 능력을 향상시킨다. 할루시네이션 문제는 RAG 아키텍처로 벡터 DB 검색 기반 근거 생성을 통해 완화하며, 고신뢰성이 요구되는 법률·의료·금융 분야에서 필수 접근법이다.
AI가 해킹 도구로 진화했습니다. 27초 만에 공격 코드 작성, AI 봇의 랜섬웨어 협상, GPU 탈취까지—삼성SDS…
필기 시험의 접근통제 영역은 용어 하나만 알아도 풀리는 문제와 개념을 뒤집어 묻는 문제가 섞여 나옵니다.…
유튜브에 AI 자동 생성 영상이 넘쳐납니다. 진짜 크리에이터들은 어떻게 살아남아야 할까요? AI와 경쟁하는 3가지 생존…
이틀 전에 사이드카가 걸렸을 때만 해도 "한 번 놀란 장"으로 끝날 줄 알았는데요. 15일 아침…
오전 시황 글에 이어 장중 후속 정리입니다. 코스피는 개장 직후 5%대였던 낙폭이 오전 10시 전후에…
10월 15일 목요일 아침, 코스피가 전날 종가보다 5.59% 낮은 5,673.01로 출발했습니다. 장 시작 7분 만에…