[심화 1강] 프롬프트 체이닝 — 큰 일을 단계로 쪼개 시키는 법

01

왜 한 번에 안 시키고 쪼개는가

기초 과정에서 우리는 좋은 프롬프트의 4요소(맥락·역할·형식·예시)를 배웠습니다. 그런데 실무에서 정말 중요한 작업 — 긴 보고서, 깐깐한 기획안, 데이터 분석 — 을 한 문장으로 시키면 결과가 어딘가 어설픕니다. 이유는 단순합니다. 사람도 복잡한 일을 한 번에 끝내지 않기 때문입니다. 우리는 자료를 모으고, 초안을 쓰고, 다시 읽고 고칩니다. AI에게도 이 과정을 그대로 시켜야 합니다.

프롬프트 체이닝(prompt chaining)이란, 하나의 큰 작업을 여러 개의 작은 단계로 쪼갠 뒤, 앞 단계의 결과물을 다음 단계의 입력으로 이어 붙여 차례로 처리하는 방법입니다. 'chain(사슬)'이라는 말 그대로, 프롬프트를 사슬처럼 연결하는 것입니다. 한 번에 "완벽한 보고서 써줘"라고 하는 대신, ① 목차를 잡고 → ② 각 절을 채우고 → ③ 전체를 비평하고 → ④ 비평을 반영해 다듬는 식으로 나눕니다.

Anthropic의 프롬프트 엔지니어링 가이드는 이를 "복잡한 작업은 더 작고 다루기 쉬운 하위 작업으로 나누라"는 핵심 기법으로 설명합니다. 각 단계가 단순해지면 AI가 한 번에 집중할 대상이 명확해지고, 중간에 무엇이 잘못됐는지도 눈에 보입니다. 김지백 강사는 이를 "AI에게 한 번에 산을 옮기라고 하지 말고, 돌 하나씩 나르게 하라"고 비유합니다.

왜 한 방에 시키면 어설퍼질까요? 거대 언어 모델은 한 번의 응답 안에서 너무 많은 것을 동시에 요구받으면, 각 요구를 얕게 처리하는 경향이 있습니다. "조사하고, 구조 잡고, 쓰고, 검토하고, 다듬어서 완벽하게 줘"라고 하면 — 사람으로 치면 자료조사·집필·교정을 동시에 하라는 것과 같습니다. 어느 하나도 깊이 못 합니다. 단계를 나누면 매 순간 '지금 할 일은 딱 이것 하나'가 되어, 같은 모델이라도 훨씬 깊은 결과를 냅니다.

한 가지 더. 체이닝은 얼핏 '느리고 번거로운' 방법처럼 보이지만 실제로는 반대입니다. 한 방에 시킨 뒤 마음에 안 들어 처음부터 다시 시키기를 반복하는 것보다, 처음부터 단계를 나눠 한 번씩 제대로 짚는 편이 전체 시간이 더 짧습니다. 특히 결과물을 남에게 보여줘야 하는 일 — 보고서·제안서·대외 문서 — 일수록, 중간 점검이 들어간 체인의 결과는 신뢰도가 다릅니다. '빨리 대충'이 아니라 '나눠서 제대로'가 핵심입니다.

02

체이닝의 3가지 기본 패턴

체이닝이라고 거창할 것 없습니다. 실무에서 가장 자주 쓰는 패턴은 세 가지입니다.

이 중 입문자가 가장 먼저 익혀야 할 것은 점검형입니다. AI에게 결과물을 만들게 한 뒤, "방금 네가 쓴 글의 약점을 3가지 지적해줘"라고 시키고, 다시 "그 지적을 반영해 고쳐줘"라고 이어 붙이는 흐름입니다. AI가 자기 결과물을 스스로 비평하게 하면 품질이 눈에 띄게 올라갑니다. 사람으로 치면 '초고를 쓴 뒤 냉정하게 퇴고하는' 과정을 AI에게 시키는 셈입니다.

나머지 두 패턴도 예로 보면 쉽습니다. 순차형은 긴 영어 논문을 다룰 때 ① 핵심만 요약 → ② 그 요약을 한국어로 번역 → ③ 번역을 중학생도 알 수 있게 풀어쓰기처럼, 한 결과를 다음 단계로 차례차례 넘깁니다. 앞이 깔끔해야 뒤가 좋아지므로, 각 단계 결과를 가볍게 확인하며 넘기는 것이 좋습니다. 분기형은 신제품 이름을 정할 때 ① 친근한 느낌 후보 10개 → ② 전문적인 느낌 후보 10개 → ③ 트렌디한 느낌 후보 10개를 따로 뽑은 뒤, 마지막에 셋을 모아 평가·통합하는 방식입니다. 한 번에 "이름 30개 뽑아줘"라고 하면 비슷비슷한 후보가 쏟아지지만, 갈래를 나눠 생성하면 한쪽으로 치우치지 않은 다양한 후보가 모입니다.

03

직접 해보기 — 3단계 점검형 체인

'행사 기획안'을 예로, 점검형 체인을 단계별로 따라가 봅시다. 각 탭의 프롬프트를 차례로 복사해 ChatGPT나 Claude에 이어서 입력하면 됩니다. 1단계 결과가 나온 같은 대화창에 2단계, 3단계를 이어서 넣는 것이 핵심입니다.

너는 사내 행사 기획자야.
신입사원 환영회 기획안 초안을 만들어줘.
- 대상: 신입 30명 + 선배 20명
- 예산: 200만 원, 평일 저녁 3시간
- 형식: 목적 / 프로그램(시간표) / 예산 / 준비물

방금 네가 만든 기획안을 냉정하게 점검해줘.
- 빠졌거나 비현실적인 부분 3가지
- 예산이 초과되거나 시간이 빠듯한 지점
- 참여자가 지루해할 위험이 있는 구간
점검 결과만 목록으로 알려줘. (아직 고치지는 말고)

방금 네가 지적한 점검 사항을 모두 반영해서
기획안을 다시 작성해줘.
- 무엇을 어떻게 고쳤는지 한 줄씩 먼저 요약
- 그다음 개선된 최종 기획안을 표로 정리

세 단계를 거치면, 1단계의 밋밋한 초안이 3단계에서는 훨씬 탄탄한 기획안으로 바뀝니다. 핵심은 2단계 — AI가 자기 결과물의 약점을 먼저 찾게 한 뒤 고치게 했다는 점입니다. 이 '생성 → 점검 → 개선' 한 사이클만 손에 익혀도 결과물 품질이 달라집니다.

여기서 중요한 팁 하나. 2단계에서 "아직 고치지는 말고 점검만 해줘"라고 못 박는 것이 좋습니다. 그렇게 하지 않으면 AI가 점검과 수정을 한꺼번에 해버려, 무엇을 왜 고쳤는지 보이지 않게 됩니다. 점검 결과를 눈으로 먼저 확인하면, 3단계에서 "이 지적은 동의하지만 저건 빼고 고쳐줘"처럼 내가 방향을 조정할 수 있습니다. 즉 체이닝은 품질만 높이는 게 아니라, 중간중간 사람이 개입해 방향을 잡는 통제권을 돌려줍니다. AI에게 일을 통째로 맡기는 것이 아니라, 함께 단계를 밟아 가는 것이죠.

처음에는 세 번 입력하는 것이 번거롭게 느껴질 수 있습니다. 하지만 한두 번만 해보면 "왜 그동안 한 방에 시켜서 실망했는지" 금방 체감하게 됩니다. 익숙해지면 머릿속에서 자동으로 "이건 한 방, 이건 체인"이 구분됩니다.

04

체이닝을 잘하는 원칙과 흔한 실수

원칙

• 한 단계엔 한 가지 일만 — 생성과 검토를 한 프롬프트에 섞지 마세요. 나눌수록 깊어집니다.
• 앞 결과를 명시적으로 가리키기 — "방금 만든 것", "위 표의 3번 항목"처럼 무엇을 이어받는지 분명히 합니다.
• 중간 산출물을 점검 — 1단계가 엉성하면 그대로 다음으로 넘기지 말고 그 단계에서 고칩니다.
• 같은 대화창에서 이어가기 — AI가 앞 맥락을 기억하도록 새 창을 열지 않습니다.

흔한 실수

• 너무 잘게 쪼개기 — 단계가 10개가 넘으면 오히려 번거롭습니다. 보통 2~4단계가 적당합니다.
• 점검 단계 생략 — 가장 효과 큰 단계를 빼면 그냥 긴 한 방 프롬프트와 다를 바 없습니다.
• 한 번에 다 고치라고 하기 — "점검하고 고쳐줘"를 한 번에 시키면 다시 둘 다 어설퍼집니다. 점검과 개선을 나누세요.
• 맥락이 끊기는 새 창 — 새 대화창에서 "위에서 만든 것"이라고 하면 AI는 그게 무엇인지 모릅니다. 같은 창에서 이어가거나, 부득이하면 앞 단계 결과를 직접 붙여넣어 주세요.

김지백 강사에 따르면, 실무자들이 체이닝을 배운 뒤 가장 많이 하는 말이 "AI가 갑자기 똑똑해진 것 같다"입니다. 사실 똑똑해진 것은 AI가 아니라 일을 시키는 방식입니다. 같은 모델이라도 단계를 나눠 시키면 전혀 다른 품질이 나옵니다. 도구를 바꾸기 전에 시키는 방식부터 바꾸는 것 — 그것이 심화의 첫 번째 원리입니다.

05

어디에 쓰면 좋은가 — 실무 적용

체이닝은 '품질이 중요하거나 단계가 분명한 일'에서 빛납니다. 대표적인 적용처는 다음과 같습니다.

• 문서 작성 — 목차 잡기 → 초안 → 자기 점검 → 개선. 보고서·제안서·블로그처럼 구조가 있고 완성도가 중요한 글에 가장 잘 맞습니다. 분량이 길수록 체이닝의 효과가 커집니다.
• 번역·검수 — 1차 번역 → 어색하거나 직역체인 부분 점검 → 자연스럽게 개선. 마지막에 "원문 뉘앙스가 빠진 곳은 없는지 확인해줘"를 한 단계 더 붙이면 품질이 또 올라갑니다.
• 아이디어 — 후보를 갈래별로 잔뜩 생성 → 평가 기준(예: 실행 가능성·참신성)으로 점수화 → 상위 후보만 발전. 분기형과 점검형을 함께 쓰는 대표 사례입니다.
• 데이터 해석 — 데이터 요약 → 이상치·해석 오류 점검 → 인사이트 정리. 숫자가 끼면 환각 위험이 커지므로 점검 단계가 특히 중요합니다(심화 9강·기초 6강과 연결).
• 학습 — 개념 설명 → 내 이해도 점검(스스로 퀴즈 출제) → 틀린 부분만 보강. 공부에 체이닝을 쓰면 '읽고 끝'이 아니라 '확인하고 메우는' 학습이 됩니다.

이 목록에서 눈치채셨을 텐데, 체이닝이 빛나는 상황에는 공통점이 있습니다. 결과물을 그대로 쓰지 않고 누군가에게 보여주거나 의사결정에 쓰는 일이라는 점입니다. 혼자 잠깐 참고할 메모라면 한 방 질문으로 충분합니다. 하지만 상사에게 올릴 보고서, 고객에게 보낼 제안서, 시험을 위한 정리 노트처럼 '품질이 곧 결과'인 일이라면, 1~2분 더 들여 단계를 나누는 것이 압도적으로 이득입니다.

그래서 체이닝을 쓸지 말지 고민될 때는 스스로 이렇게 물어보면 됩니다. "이 결과물, 손대지 않고 그대로 내보내도 괜찮은가?" 조금이라도 망설여진다면, 그것이 바로 점검 단계를 붙일 때라는 신호입니다. 처음에는 '생성 → 점검 → 개선' 3단계만 기억하세요. 이 한 사이클이 몸에 붙으면, 작업 성격에 따라 자료조사 단계를 앞에 두거나 통합 단계를 뒤에 붙이는 식으로 자연스럽게 나만의 체인을 설계하게 됩니다. 거창한 도구도, 코딩도 필요 없습니다. 필요한 건 "한 번에 다 시키지 않는다"는 작은 습관 하나입니다.

한 방 프롬프트 vs 체이닝 — 실제로 이만큼 다릅니다

같은 'AI 도입 보고서'를 두 방식으로 만들어 보면 차이가 분명합니다. 한 방 방식으로 "AI 도입 보고서를 완벽하게 써줘"라고 하면, 문장은 매끄럽지만 어디선가 본 듯한 일반론에 그치고 우리 조직 상황이 쏙 빠진 평범한 글이 나오기 쉽습니다. 반면 체인 방식은 ① 우리 회사 정보와 목적을 넣어 목차부터 잡고 ② 각 절을 채운 뒤 ③ "경영진이 읽었을 때 빠졌다고 느낄 부분"을 스스로 점검하게 하고 ④ 그 점검을 반영해 다듬습니다. 결과물은 같은 AI가 만들었다고 믿기 어려울 만큼 구체적이고 설득력이 달라집니다.

중요한 것은 이 차이가 '더 비싼 AI'가 아니라 '더 좋은 절차'에서 나온다는 점입니다. 무료 버전이든 유료 버전이든, 단계를 나눠 시키는 사람이 한 방에 시키는 사람보다 늘 더 좋은 결과를 얻습니다. 그래서 체이닝은 돈이 아니라 습관으로 품질을 올리는, 가장 가성비 높은 심화 기술입니다.