"AI한테 물어봤는데 답이 너무 뻔해요"라는 말을 들으면, 저는 바로 되묻고 싶습니다. 어떻게 물어봤냐고요. ChatGPT를 처음 쓰던 시절, 저도 같은 문제를 겪었습니다. 질문을 바꾸기 전까지는요. 프롬프트(prompt) 한 줄이 결과물의 수준을 완전히 바꾼다는 걸, 직접 겪어보고 나서야 확신하게 됐습니다.
잘못된 프롬프트가 평범한 답을 만드는 이유
처음 ChatGPT를 쓸 때는 "AI란 뭐야?", "이거 정리해줘" 같은 식으로 물어봤습니다. 그때마다 돌아오는 답변은 언제나 비슷했습니다. 교과서 첫 페이지에 나올 법한 정의, 어디서 본 듯한 요약. 제가 원하는 정보가 없는 건 아닌데, 실무에 바로 쓰기엔 어딘가 2% 부족한 느낌이었습니다.
그 이유를 나중에야 이해하게 됐는데, AI는 사람처럼 의도를 추측해서 보완하지 않습니다. 입력된 구조 안에서만 답을 생성합니다. 여기서 핵심 개념이 바로 컨텍스트(context)입니다. 컨텍스트란 AI가 답변을 생성할 때 참고하는 맥락 정보 전체를 뜻하는데, 질문이 짧고 모호할수록 AI가 활용할 수 있는 컨텍스트가 줄어들고, 결국 가장 평균적인 답변으로 수렴할 수밖에 없습니다.
제가 직접 써봤는데, "블로그 글 써줘"라고 입력했을 때와 "직장인 대상, AI 활용법 주제로 1500자 블로그 글 작성해줘. 구조는 도입-본론-사례-정리 형태로"라고 입력했을 때의 결과 차이는 같은 도구를 쓴다는 게 믿기지 않을 정도였습니다. 문장 길이의 차이가 아니라, 지시의 밀도 차이였습니다.
이것은 프롬프트 엔지니어링(prompt engineering)과도 연결됩니다. \프롬프트 엔지니어링이란 AI 모델에게 원하는 출력을 끌어내기 위해 입력 문장을 체계적으로 설계하는 기법을 말합니다. OpenAI의 공식 문서에 따르면, 좋은 프롬프트는 목표, 역할, 조건, 출력 형식을 명확히 포함해야 한다고 명시하고 있습니다(출처: OpenAI Prompt Engineering Guide).
잘못된 프롬프트는 보통 세 가지 요소가 빠져 있습니다.
- 목표가 없다: "설명해줘"처럼 어떤 수준으로, 누구를 위해 설명해야 하는지 기준이 없습니다.
- 조건이 없다: 분량, 형식, 관점을 지정하지 않으면 AI는 가장 일반적인 형태를 선택합니다.
- 역할이 없다: 페르소나(persona), 즉 AI가 어떤 입장에서 답해야 하는지를 지정하지 않으면 중립적이고 밋밋한 답이 나옵니다. 여기서 페르소나란 AI에게 특정 역할이나 전문가의 시각을 부여하는 설정을 뜻합니다.
좋은 프롬프트의 지시 구조를 실전에서 쓰는 법
제 경험상 이건 좀 다릅니다. 프롬프트를 잘 쓰는 게 단순히 "길게 쓰는 것"이라고 생각하는 분들도 있는데, 실제로 써보니 핵심은 길이가 아니라 구조였습니다. 좋은 프롬프트에는 반드시 세 가지 축이 있어야 한다고 저는 생각합니다. 무엇을, 어떤 관점에서, 어떤 형식으로.
업무에서 실제로 차이를 느꼈던 순간이 있습니다. 보고서에 AI 개념을 넣어야 했는데, "AI란 뭐야?"라고 물었을 때는 위키피디아 첫 문단 같은 답이 나왔습니다. 그런데 "보고서용으로 AI 개념을 비전공자 기준, 예시 포함해서 설명해줘"라고 바꾸자, 실무에 바로 붙여 넣어도 될 수준의 문장이 나왔습니다. 솔직히 이건 예상 밖이었습니다. 같은 AI인데 질문 하나 바꿨을 뿐이라는 게 믿기지 않았거든요.
이 경험 이후로 저는 프롬프트를 "질문"이 아니라 "업무 지시서"처럼 작성하기 시작했습니다. 실제로 딥러닝(deep learning) 기반 언어 모델은 입력 토큰(token)의 구조에 따라 다음 토큰의 확률 분포를 결정합니다. 여기서 토큰이란 AI가 텍스트를 처리하는 최소 단위로, 단어나 단어의 조각을 뜻합니다. 입력이 구체적일수록 확률 분포가 좁아지고, 의도에 가까운 출력이 나올 가능성이 높아집니다.
DeepLearning.AI의 프롬프트 엔지니어링 강의에서도 같은 원칙을 강조합니다. 역할 부여, 출력 형식 지정, 제약 조건 명시가 결과물의 질을 가장 크게 바꾸는 요소라는 점입니다(출처: DeepLearning.AI - ChatGPT Prompt Engineering for Developers).
제가 직접 비교해보고 정리한 좋은 프롬프트의 핵심 구성 요소는 다음과 같습니다.
- 역할(페르소나) 설정: "비전공자에게 설명하는 전문가처럼"처럼 AI의 시각을 먼저 지정합니다.
- 목표와 조건 명시: 분량, 대상 독자, 포함해야 할 내용을 구체적으로 적습니다.
- 출력 형식 지정: "표로 정리", "3가지로 나눠서", "단계별로" 같은 형식 지시를 포함합니다.
- 제약 조건 추가: "
는 제외하고", "를 중심으로"처럼 원하지 않는 방향을 차단합니다.
이 네 가지가 모두 들어간 프롬프트는 그냥 질문과 비교했을 때, 결과물의 완성도가 확연히 달라집니다. 제 경험상 페르소나를 정확하게 설정하고 듣고자 하는 정보를 구체적으로 요청할수록, 답변의 퀄리티가 계단식으로 올라가는 느낌이었습니다.
프롬프트를 어떻게 설계하느냐는 결국 AI를 얼마나 제대로 쓰느냐의 문제입니다. 도구는 같아도 쓰는 방식이 결과를 만듭니다. "그냥 물어봐도 되지 않나?"라고 생각했던 분이라면, 딱 하나만 바꿔보시길 권합니다. 다음번에 AI에게 뭔가를 부탁할 때, 질문 앞에 "역할"과 "형식"을 한 줄씩 추가해 보십시오. 답변이 달라지는 걸 보면, 저처럼 프롬프트에 진지하게 관심이 생길 겁니다.