AI가 일을 다 해준다고요? 저는 처음에 그 말이 과장이라고 생각했습니다. ChatGPT를 처음 업무에 적용했을 때만 해도 "검색이 조금 편해지는 정도겠지"라고 넘겼습니다. 그런데 반복 업무에 하나씩 붙여보면서 생각이 완전히 달라졌습니다. 속도보다 먼저 바뀐 건 '구조를 잡는 시간'이었습니다.
왜 직장인에게 업무자동화가 필요한가
ChatGPT를 단순한 검색 도구로만 보는 시각이 여전히 많습니다. 저도 그랬으니까요. 그런데 실제로 써보니, 이 도구의 진가는 검색이 아니라 업무 구조화에 있었습니다.
직장인이 하루에 시간을 가장 많이 쓰는 구간은 실제 실행이 아닙니다. 생각을 정리하고, 그걸 문서로 옮기는 과정이 훨씬 더 많은 에너지를 잡아먹습니다. 프롬프트 엔지니어링(Prompt Engineering)이라는 개념이 여기서 중요해집니다. 프롬프트 엔지니어링이란 AI에게 원하는 결과를 이끌어내기 위해 질문이나 지시문을 설계하는 기술을 말합니다. 쉽게 말해, AI에게 어떻게 말을 거느냐에 따라 결과물의 품질이 완전히 달라진다는 뜻입니다.
저는 QA(Quality Assurance) 업무를 하면서 이 차이를 가장 먼저 체감했습니다. QA란 소프트웨어나 서비스의 품질을 검증하고 오류를 사전에 발견하는 업무입니다. 예전에는 테스트 케이스를 엑셀에 하나씩 구조 잡아 넣는 데만 한 시간 넘게 걸렸습니다. 지금은 ChatGPT에게 "로그인 기능 테스트 케이스 구조를 만들어줘"라고 한 줄 치고, 그 위에 세부 내용만 채웁니다. 작업 시간이 체감상 절반 이하로 줄었습니다.
일반적으로 AI 활용법은 "무엇을 물어보느냐"가 전부라고 알려져 있지만, 실제로 써보니 "어떤 구조로 물어보느냐"가 훨씬 더 중요했습니다. 같은 질문도 맥락을 추가하면 결과가 완전히 달라집니다.
맥킨지 글로벌 연구소에 따르면 생성형 AI 도입 시 지식 노동자의 반복 업무 시간이 최대 40%까지 줄어들 수 있다고 분석했습니다(출처: McKinsey Global Institute).
회의록정리와 보고서 작성, 실제로 어떻게 달라지나
회의가 많은 날이면 회의 내용이 쌓이기만 하고 정리는 밀리는 경우가 반복됐습니다. 제가 직접 써봤는데, 회의 종료 직후 메모한 내용을 그대로 ChatGPT에 붙여 넣고 다음과 같이 요청했습니다.
"회의 내용을 요약하고 결정사항, 액션 아이템(Action Item), 리스크로 정리해줘."
여기서 액션 아이템이란 회의에서 도출된 구체적인 후속 조치 항목, 즉 누가 언제까지 무엇을 해야 하는지를 명확하게 정리한 목록입니다. 이걸 사람이 직접 정리하려면 회의 내용을 다시 읽으면서 분류하는 작업이 필요한데, ChatGPT는 이 분류를 한 번에 해줍니다. 솔직히 이건 예상 밖이었습니다. 요약의 정확도가 제 생각보다 훨씬 높았거든요.
보고서 작성도 마찬가지입니다. 빈 화면 앞에 앉아 첫 줄을 어떻게 시작할지 고민하는 시간이 사라졌습니다. 초안 생성기(Draft Generator)로 활용하는 것이 핵심입니다. 초안 생성기란 완성된 문서가 아니라 뼈대와 방향을 먼저 잡아주는 역할을 뜻합니다. 처음부터 완성본을 기대하면 실망하지만, "구조만 먼저 잡아줘"라는 관점으로 접근하면 활용도가 확실히 달라집니다.
제 경험상 이건 좀 다릅니다. AI가 쓴 초안을 그대로 쓰면 글이 밋밋하고 맥락이 빠져 있습니다. 반드시 사람이 내용을 채우고 맥락을 조정해야 쓸 만한 문서가 됩니다. AI는 구조를 잡는 데 쓰고, 내용의 최종 판단은 사람이 하는 분업이 가장 효율적입니다.
직장인이 ChatGPT를 업무에 적용할 때 실제로 효과가 컸던 활용 방식은 다음과 같습니다.
- 회의록: 원문 메모 입력 후 결정사항·액션 아이템·리스크 분리 요청
- 보고서 초안: 목차 구조 먼저 생성 후 내용 직접 채우기
- 테스트 케이스: 기능명 입력 후 케이스 구조 자동 생성
- 이메일: 핵심 내용 입력 후 정중한 업무 문체로 변환 요청
- 문서 요약: 긴 문서를 5줄 이내로 핵심만 추출
오픈AI(OpenAI)의 공식 문서에 따르면, 구체적인 역할과 맥락을 포함한 프롬프트가 결과물의 정확도를 유의미하게 높인다고 설명하고 있습니다(출처: OpenAI Platform Docs).
생산성향상을 위한 AI 활용, 어디까지 믿어야 하나
AI 활용이 무조건 좋다고 보는 시각도 있고, 반대로 AI가 쓴 내용은 신뢰할 수 없다는 시각도 있습니다. 저는 두 입장 모두 이해하지만, 실제로 써본 입장에서 말하면 둘 다 극단적입니다.
RAG(Retrieval-Augmented Generation) 방식이나 파인튜닝(Fine-tuning)처럼 기업용으로 특화된 AI 기술이 빠르게 발전하고 있습니다. RAG란 AI가 외부 데이터베이스에서 실시간으로 정보를 가져와 답변의 정확도를 높이는 방식이고, 파인튜닝이란 특정 업무나 도메인에 맞게 AI 모델을 추가 학습시키는 과정을 뜻합니다. 이 기술들이 적용된 업무용 AI가 확산되면, 지금보다 훨씬 높은 정확도로 실무에 쓰일 가능성이 있습니다.
하지만 지금 당장 직장인에게 중요한 건 기술 수준이 아닙니다. AI를 어디에, 어떤 방식으로 끼워 넣을지 스스로 설계할 수 있느냐입니다. 제 경험상 이 부분이 가장 어렵고, 동시에 가장 큰 차이를 만드는 지점이기도 했습니다. AI가 만들어준 구조를 그냥 쓰는 사람과, 그 구조를 자기 업무에 맞게 다듬을 줄 아는 사람 사이에는 결과물 품질에서 확연한 차이가 납니다.
앞으로 직장인의 경쟁력은 단순히 일을 빠르게 하는 능력이 아니라 AI를 활용해 구조를 얼마나 빠르게 잡을 수 있는가로 이동할 가능성이 커 보입니다. 이건 일하는 방식의 문제이지, 도구의 문제가 아닙니다.
ChatGPT를 아직 업무에 써보지 않으셨다면, 가장 반복적이고 번거로운 문서 작업 하나에만 먼저 적용해 보시길 권합니다. 거창한 자동화가 아니어도 됩니다. 회의 끝나고 메모를 붙여 넣는 것부터 시작하면 충분합니다. 그 작은 변화가 일하는 흐름 전체를 바꾸는 시작점이 될 수 있습니다.