AI에게 잘 묻는 방법, 프롬프트 엔지니어링 가이드

이 글은 AI 리터러시 시리즈의 두번째 글입니다.

• 첫번째 글 : [[AI 리터러시가 뭐냐고요? 지금 이걸 모르면 곧 뒤처집니다]]
• 두번째 글 : [[AI에게 잘 묻는 방법, 프롬프트 엔지니어링 가이드]]

이런 분들에게 이 글을 추천합니다

• ChatGPT를 사용해봤지만 만족스러운 결과를 얻지 못하는 직장인
• AI 도구를 업무에 효과적으로 활용하고 싶은 분
• 프롬프트 엔지니어링의 기본기를 배우고 싶은 분

왜 프롬프트 엔지니어링인가?

프롬프트 엔지니어링(Prompt Engineering)은 대규모 언어 모델(LLM)이 정확한 출력을 생성하도록 안내하는 고품질 프롬프트를 설계하는 프로세스입니다. 단순한 질문이 아니라, AI가 정확하고 원하는 답을 주도록 "설계된 요청"을 만드는 과정입니다.

• 적절하지 않은 프롬프트는 모호하거나 부정확한 응답을 초래하여 모델의 의미 있는 출력 능력을 저해할 수 있습니다.
• 반대로, 잘 설계된 프롬프트는 복잡한 업무도 효율적으로 자동화할 수 있게 만듭니다.

"프롬프트는 단순한 질문이 아니라 설계다."

AI는 어떻게 작동할까? (간단한 이해)

ChatGPT 같은 언어 모델은 다음에 올 말을 예측하는 예측 엔진입니다. 똑똑하게 대화하는 것처럼 보이지만, 사실은 다음에 이어질 단어를 확률적으로 계산해내는 시스템이죠.

LLM의 기본 동작 원리

• 입력으로 순차적인 텍스트(프롬프트)를 받아, 학습된 데이터를 기반으로 다음 토큰(단어 또는 그 일부)을 예측합니다.
• 모델 선택, 훈련 데이터, 구성, 단어 선택, 스타일, 톤, 구조, 맥락 등이 출력의 효율성에 영향을 미칩니다.

출력 제어의 핵심 요소

• 온도(Temperature): 응답의 무작위성을 제어합니다. 낮은 온도(0.2-0.3)는 결정적인 응답에, 높은 온도(0.7-0.8)는 창의적인 응답에 적합합니다.
• 출력 길이: 생성할 토큰 수를 설정하며, 이는 응답의 길이와 상세도를 결정합니다.
• 샘플링 제어: Top-K, Top-P 등의 설정으로 출력의 다양성과 관련성을 조절합니다.

실전 프롬프트 설계 기법들

(1) Zero-shot / One-shot / Few-shot

• Zero-shot: 예시 없이 바로 질문만 하는 방식. 간단한 작업에 적합합니다.

예시: "이 영화 리뷰를 긍정, 중립, 부정으로 분류해줘."

• One-shot / Few-shot: 질문과 함께 예시를 제공하여 모델이 원하는 형식을 이해하도록 합니다.

예시: "다음과 같은 형식으로 분류해줘:
입력: '이 영화는 최고였다!'
출력: 긍정
이제 이 리뷰를 분류해줘: '별로 재미없었어요'"

(2) 역할 지시 (Role prompting)

"당신은 10년 차 HR 매니저입니다."

• AI에게 특정 전문가의 역할을 부여하면, 관련 배경지식과 전문성을 바탕으로 더 정확한 답변을 생성할 수 있습니다.
• 역할 외에도 유머러스하거나 영감을 주는 등 특정 스타일을 지정할 수 있습니다.

(3) 시스템/맥락 지시 (System & Context Prompting)

"아래 텍스트는 회의록입니다. 핵심 의사결정만 요약해줘."

• 시스템 프롬프트: 모델의 전반적인 맥락과 목적을 설정합니다.
• 맥락 프롬프트: 현재 작업과 관련된 구체적인 배경 정보를 제공합니다.
• 출력 형식 지정: JSON, 표 등 원하는 형식을 명시할 수 있습니다.

(4) Chain of Thought (사고의 연쇄)

"단계별로 생각해봐."

• 복잡한 문제를 풀 때, 중간 사고 과정을 유도하면 정확도가 상승합니다.
• 장점: 적은 노력으로 효과가 좋고, 추론 과정을 볼 수 있어 해석이 용이합니다.
• 단점: 출력이 길어져 비용이 증가할 수 있습니다.

(5) Output 포맷 명시

"결과는 표 형식으로 보여줘." "JSON으로 요약해줘."

• 원하는 출력 형식을 명확히 지정하면, 후처리나 재작업 없이 결과를 바로 사용할 수 있습니다.
• 특히 데이터 추출, 분류 등의 작업에서 구조화된 형식(JSON, XML)을 사용하면 일관성과 정확도가 높아집니다.

업무에 바로 쓰는 프롬프트 예시들

회의 요약

당신은 회의록 전문가입니다.
다음은 30분 분량의 회의 텍스트입니다.
핵심 결정사항, 할 일, 책임자를 항목별로 요약해줘.
결과는 표 형식으로 보여줘.

보고서 문장 다듬기

당신은 비즈니스 문서 전문가입니다.
다음은 내가 쓴 보고서 초안입니다.
문장을 자연스럽고 설득력 있게 다듬어줘.
단, 숫자나 사실은 수정하지 마.

이메일 초안 생성

당신은 고객 응대 경험이 풍부한 CS 담당자입니다.
아래 상황에 맞는 정중하고 긍정적인 이메일 답변을 300자 이내로 작성해줘.
답변은 문제 인정 → 해결 방안 제시 → 추가 지원 약속의 구조로 작성해줘.

자료 정리

당신은 시장조사 전문가입니다.
다음은 시장조사 내용입니다.
주요 트렌드 3가지를 도출하고, 각 트렌드별로 시장 규모, 성장률, 주요 기업을 포함한 표 형태로 정리해줘.

프롬프트 작성 팁: 잘 안 되면 이렇게 바꿔보세요

문제 상황	개선 팁
출력이 매번 달라짐	온도(temperature)를 0.2-0.3으로 낮춰보세요
말이 길고 요점이 없음	출력 길이 제한, 간결한 스타일 요청
질문을 오해함	역할, 맥락, 기대 결과를 더 구체적으로 전달
결과가 구조화되지 않음	JSON, 표 등 형식 명시

자주 쓰는 프롬프트 구조 템플릿

당신은 [역할/전문가 설명]입니다.
아래는 [입력 데이터/상황 설명]입니다.
[작업 요청].
결과는 [출력 형식]으로 작성해줘.

예시

당신은 사내 콘텐츠 마케터입니다.
다음은 우리 제품에 대한 사용자 후기입니다.
긍정적인 부분과 개선이 필요한 점을 항목별로 정리해줘.
결과는 표로 보여줘.

마무리: AI는 질문에 따라 달라집니다

ChatGPT는 마법사가 아닙니다.
좋은 질문을 했을 때만, 마법 같은 답이 돌아옵니다.

프롬프트 엔지니어링은 이제 단순한 기술이 아니라, AI 시대의 업무 언어입니다.
잘 묻는 사람이 일을 빠르게 끝내고, 더 나은 결정을 하게 됩니다.

지금부터 질문하는 방식을 설계해보세요.
그게 바로 AI와 일하는 첫걸음입니다.

레퍼런스

https://www.innopreneur.io/wp-content/uploads/2025/04/22365_3_Prompt-Engineering_v7-1.pdf