[심화 2강] Few-shot — 예시 한두 개로 AI를 '내 방식'에 길들이기

01

설명보다 예시 — 왜 더 강한가

기초 6강에서 우리는 '예시 들기'가 규칙 설명보다 효과적이라는 걸 배웠습니다. 심화에서는 이 기법에 제대로 된 이름을 붙입니다. 바로 Few-shot 프롬프팅입니다. 'shot'은 예시를 뜻하니, few-shot은 '예시를 몇 개 보여 주는 것'이죠. 원하는 '입력 → 답' 짝을 몇 개 보여 주면, AI가 그 패턴을 바로 알아채 새 입력에도 같은 방식으로 답합니다.

왜 설명보다 예시가 강할까요? 말로 "정중하지만 너무 딱딱하지 않게, 핵심을 앞에 두고, 끝은 따뜻하게…"라고 아무리 풀어 써도, AI도 사람도 그 말을 저마다 다르게 받아들입니다. 하지만 그렇게 쓴 실제 문장 하나를 보여 주면 헷갈릴 여지가 사라집니다. '보여 주는 것'이 '설명하는 것'을 이기는 이유죠. 특히 말로 옮기기 힘든 미묘한 톤·문체·형식일수록 예시의 힘이 큽니다.

또 하나 알아두면 좋은 점. few-shot은 AI를 새로 '학습'시키는 게 아닙니다. 예시를 준다고 AI가 그걸 영영 기억하는 게 아니라, 그 대화 안에서만 패턴을 파악합니다. 그래서 'in-context learning(맥락 내 학습)'이라고도 부릅니다. 새 대화창을 열면 예시는 사라지죠. 그러니 자주 쓰는 패턴이라면 예시를 템플릿으로 저장해 두거나(기초 8강), 나중에 배울 커스텀 인스트럭션·나만의 GPT(심화 5·6강)에 넣어 두는 게 좋습니다. 이번 강은 그 '예시로 가르치기'의 기본기를 제대로 잡는 시간입니다.

김지백 강사는 이렇게 말합니다. "직원에게 '우리 회사 보고서 스타일로 써'라고 말로 설명하긴 어렵습니다. 그런데 잘 쓴 보고서 하나를 건네며 '이런 식으로'라고 하면 단번에 통하죠. AI도 똑같습니다. 좋은 예시는 가장 효율적인 사양서입니다."

02

Zero-shot · One-shot · Few-shot

프롬프트는 예시를 몇 개 주느냐에 따라 이름이 나뉩니다. 알아두면 상황에 맞게 골라 쓸 수 있습니다.

중요한 건 '항상 few-shot이 낫다'가 아니라는 점입니다. 간단한 요청에는 zero-shot(그냥 지시)이 더 빠르고 깔끔합니다. 예시는 '필요할 때' 쓰는 무기입니다. 그렇다면 언제 필요할까요? ① 결과의 형식·톤을 정확히 고정하고 싶을 때, ② 같은 작업을 반복해 일관성이 중요할 때, ③ 말로 설명하기 어려운 미묘한 스타일을 전달할 때입니다. 예를 들어 고객 문의를 '긴급/일반/스팸'으로 분류하는 일을 반복한다면, 각 분류의 예시를 두세 개씩 보여 주는 few-shot이 위력을 발휘합니다.

03

실전 — Few-shot 프롬프트 구조

few-shot 프롬프트의 기본 골격은 '예시 몇 개 → 새 입력'입니다. 탭에서 상황별 예시를 보고, 복사해 응용해 보세요.

고객 문의를 긴급/일반/스팸으로 분류해줘. 예시:

입력: "결제했는데 주문이 취소됐어요. 급해요!" → 긴급
입력: "영업시간이 어떻게 되나요?" → 일반
입력: "★대박 이벤트! 지금 클릭★" → 스팸

입력: "배송이 일주일째 안 와요. 환불해주세요" →

아래는 내가 쓴 공지글 예시야. 이 톤과 길이를 따라
새 공지를 써줘.

[예시1] "안녕하세요! 이번 주 금요일은 워크숍으로
사무실을 비웁니다. 급한 일은 메신저로 남겨주세요 :)"

[새 주제] 다음 주 월요일 시스템 점검으로 오전 접속 불가

회의 메모를 아래 형식으로 정리해줘. 예시:

입력: "마케팅팀, 신제품 출시 6월로 연기 결정, 김팀장 보고"
출력: [부서] 마케팅 / [결정] 신제품 출시 6월 연기 / [담당] 김팀장

입력: "개발팀 서버 증설 다음 분기 예산 반영, 이과장 확인" →

패턴이 보이시나요? 예시에서 '입력 → 출력'의 짝을 분명히 보여 주고, 마지막에 '답을 채워야 할 새 입력'을 둡니다. AI는 앞 예시들의 규칙을 파악해 마지막 빈칸을 같은 방식으로 채웁니다. 규칙을 길게 설명할 필요 없이, 보여 주기만 하면 되는 거죠.

여기에 설명을 살짝 곁들이면 더 강력해집니다. 예시만 주는 것보다 "아래 기준과 예시를 참고해서…"처럼 간단한 지시 + 예시를 함께 주면, AI가 패턴의 '의도'까지 이해해 애매한 입력에서도 잘 판단합니다. 예시는 '무엇을'을 보여 주고, 짧은 지시는 '왜'를 알려 주는 셈이죠. 둘을 합치는 게 실전에서 가장 안정적입니다. 반대로 예시 없이 규칙만 길게 늘어놓는 건 가장 약한 방식이에요 — 추상적인 지시는 해석이 갈리니까요.

04

좋은 예시의 조건

few-shot의 성패는 '예시의 질'에 달렸습니다. 연구와 현장 경험이 공통으로 짚는 세 가지 원칙이 있습니다.

① 대표성 — 전형적인 것 + 까다로운 것

가장 흔한 경우 하나와, 헷갈리기 쉬운 예외 하나를 함께 보여 주면 AI가 경계를 더 정확히 잡습니다. 너무 쉬운 예시만 주면 애매한 입력에서 흔들립니다.

② 형식 통일 — 예시들의 구조를 똑같이

예시 두 개의 형식이 제각각이면 AI가 어느 쪽을 따라야 할지 헷갈립니다. '입력: ~ → 출력: ~'처럼 모든 예시를 같은 틀로 맞추세요. 실제로 LLM은 예시 형식의 사소한 차이에도 민감하게 반응한다는 연구가 있습니다.

③ 정확성 — 어설픈 예시는 어설픈 결과

예시 자체가 부정확하거나 질 낮으면, AI도 그 수준을 따라 합니다('쓰레기를 넣으면 쓰레기가 나온다'는 원칙이 예시에도 적용됩니다). 내가 진짜 원하는 최고 수준의 예시를 주세요.

좋은 예시를 모으는 현실적인 방법도 알려드립니다. 일하다가 AI가 유난히 잘 만들어 준 결과나, 내가 잘 쓴 결과물이 생기면 그걸 '예시 창고'에 저장해 두세요. 다음에 비슷한 일을 할 때 그 예시를 붙여넣으며 "이런 식으로"라고 하면 됩니다. 좋은 예시는 한 번에 만드는 게 아니라 일하면서 차곡차곡 모으는 거예요. 이렇게 모은 '내 예시 모음'은 시간이 갈수록 나만의 강력한 자산이 됩니다. 기초 8강의 템플릿 모으기와 같은 원리죠.

05

의외의 함정 — 개수·순서가 결과를 바꾼다

few-shot에는 입문자가 잘 모르는 함정이 있습니다. 알고 쓰면 실수를 크게 줄일 수 있습니다.

⚠️ 너무 많으면 역효과 (over-prompting)

예시가 많을수록 좋을 것 같지만, 너무 많이 넣으면 오히려 성능이 떨어지는 '과잉 프롬프트(over-prompting)' 현상이 보고됐습니다. 보통 1~3개면 충분하고, 예시가 너무 많으면 AI가 그 틀에만 갇히거나 헷갈려 합니다.

⚠️ 예시 '순서'가 결과를 바꾼다

놀랍게도, 같은 예시라도 순서만 바꿔도 결과가 크게 달라질 수 있습니다. 연구에 따르면 똑같은 예시를 순서만 다시 배열해도 정확도가 최고 수준에서 찍기 수준까지 출렁이기도 합니다. AI는 대개 마지막 예시나 처음 예시에 더 큰 영향을 받습니다. 그러니 가장 전형적인 예시를 마지막에 두는 게 안전합니다.

⚠️ 분류 작업: 같은 답끼리 몰아두지 않기

분류 예시를 줄 때 '긍정 5개 → 부정 5개'처럼 같은 라벨을 몰아 놓으면, AI가 마지막에 본 라벨 쪽으로 치우칠 수 있습니다(라벨 군집 편향). 라벨을 섞어서 배치하세요.

이 함정들이 알려 주는 더 큰 교훈이 있습니다. AI는 우리가 '내용'으로 의도한 것뿐 아니라, 예시의 '형식·순서·배치' 같은 미묘한 신호까지 따라 한다는 점입니다. 사람이라면 무시할 사소한 차이에도 민감하게 반응하죠. 그래서 결과가 이상하면 프롬프트의 '내용'만 고치지 말고 '예시를 어떻게 배치했는지'도 살펴보세요. 순서를 바꾸거나, 형식을 통일하거나, 개수를 줄이는 것만으로 결과가 확 좋아질 때가 많습니다.

물론 가벼운 일상 작업에서 이렇게까지 신경 쓸 필요는 없습니다. 이런 정교함은 '반복되는 중요한 작업'에서 빛납니다. 매일 수십 건의 문의를 분류하거나, 정해진 형식의 문서를 잔뜩 만들 때, 잘 만든 few-shot 하나가 매번 안정적인 결과를 보장하죠. 한 번 잘 만들어 두면 계속 재사용되니, 들인 공의 몇 배를 돌려받는 셈입니다.

06

정리 — 예시는 가장 효율적인 사양서

few-shot은 "AI에게 규칙을 가르치는 가장 빠른 방법은 정답을 보여 주는 것"이라는 단순한 생각에서 출발합니다. 잘 쓰면 긴 설명 없이도 원하는 형식·톤·기준을 정확히 전달하고, 반복 작업의 일관성을 크게 높입니다. 다만 '많이'가 아니라 '잘 고른 소수'이고, 개수·순서·일관성이 결과를 좌우한다는 점을 기억하세요.

심화 1강의 프롬프트 체이닝과 이번 few-shot을 함께 쓰면 더 강력합니다. 예를 들어 체인의 한 단계에서 few-shot으로 형식을 고정하고, 다음 단계에서 점검하는 식이죠. 이런 기법들이 쌓이면, 같은 AI에서 남들과 확연히 다른 품질을 끌어낼 수 있습니다.

마지막으로 균형을 한 번 더 짚겠습니다. few-shot은 강력하지만 '모든 프롬프트에 예시를 넣어야 한다'는 강박은 금물입니다. 대부분의 일상 요청은 예시 없이도 충분하고, 예시를 억지로 만드느라 시간을 더 쓰면 배보다 배꼽이 큽니다. 핵심은 '판단'이에요 — 이 작업이 형식·일관성이 중요한가, 반복되는가, 미묘한 스타일이 필요한가? 그렇다면 few-shot, 아니라면 그냥 지시. 도구를 아는 것을 넘어 '언제 쓸지 아는 것'이 심화의 진짜 실력입니다. 다음 강에서는 AI가 '생각의 과정을 펼치게' 만들어 더 정확한 답을 끌어내는 법을 다룹니다.