[6강] AI가 거짓말할 때 — 환각 구별과 팩트체크

01

AI는 왜 자신 있게 틀릴까 — 환각의 원리

생성형 AI는 '사실을 찾아오는' 기계가 아니라 '그럴듯한 다음 말을 이어 쓰는' 기계에 가깝습니다. 방대한 글을 학습해 "이 질문에는 보통 이런 문장이 따라온다"를 예측하는 방식이라, 정답을 모를 때도 문장은 매끄럽게 완성됩니다. 그래서 틀린 내용도 아주 자신 있는 말투로 나옵니다. 이렇게 사실이 아닌 것을 사실처럼 지어내는 현상을 환각(hallucination)이라고 합니다.

김지백 강사에 따르면, 환각은 'AI가 멍청해서'가 아니라 'AI가 작동하는 방식 자체의 특성'입니다. 그래서 더 똑똑한 모델이 나와도 환각이 완전히 사라지지는 않습니다. 중요한 건 환각을 두려워해 AI를 안 쓰는 게 아니라, 환각이 잘 나오는 자리를 알고 그 부분만 확인하는 습관을 들이는 것입니다.

02

환각이 잘 나오는 상황 5가지

아래 다섯 가지는 환각이 특히 자주 나오는 자리입니다. 이 신호가 보이면 "한 번 더 확인" 버튼을 마음속에 누르세요.

03

3초 팩트체크 습관

거창한 검증이 아니어도 됩니다. 다음 세 가지만 몸에 익히면 대부분의 환각을 걸러낼 수 있습니다.

• 출처를 요구한다 — "그 근거(출처)는 뭐야? 링크나 원문을 알려줘." 출처를 못 대거나 어색하면 의심 신호입니다.
• 교차 확인한다 — 중요한 숫자·사실은 검색이나 다른 AI(예: Gemini)에 한 번 더 물어 대조합니다.
• 되묻는다 — "확실해? 틀릴 수 있는 부분이 있다면 알려줘." 이렇게 물으면 AI가 불확실한 부분을 스스로 짚어주기도 합니다.

04

팩트체크 퀴즈 — 직접 가려내 보기

AI가 내놓은 아래 답변들, 그대로 믿어도 될까요? 각 항목을 '믿을 만함' 또는 '의심해야 함'으로 판정해 보세요.