AI 질문법, 프롬프트 엔지니어링, 생성형AI, 질문력, AI 활용법, 사고력, 업무 자동화
저도 처음엔 챗GPT에 명령만 잘 내리면 된다고 생각했습니다. 그런데 쓰면 쓸수록 이상하게 결과물이 기대에 못 미쳤고, 어느 순간 그게 AI의 문제가 아니라 제 질문의 문제라는 걸 깨달았습니다. AI 시대에 진짜 경쟁력은 도구를 아는 것이 아니라, 도구에게 무엇을 물어야 하는지 아는 데 있습니다.
좋은 질문이란 무엇인가 — AI가 답을 못 하는 이유
생성형 AI(Generative AI)는 기본적으로 입력된 질문에서 가장 그럴듯한 답을 통계적으로 추출하는 구조로 작동합니다. 여기서 생성형 AI란 텍스트, 이미지 등 새로운 콘텐츠를 스스로 만들어내는 인공지능 모델을 의미하는데, 핵심은 "스스로 문제를 발견하지 않는다"는 점입니다. AI는 '무엇을(what)' 처리할지, '어떻게(how)' 처리할지는 알지만, '왜(why)' 이 문제를 풀어야 하는지는 판단하지 못합니다.
실제로 제가 챗GPT에게 인터뷰 질문을 생성하도록 시켜본 적이 있습니다. AI는 상대방의 첫 답변을 받고 나서 곧바로 다음 항목으로 넘어갔습니다. 저라면 그 답변 안에서 "왜 그렇게 생각하셨나요?", "혹시 다른 이유도 있을까요?"라고 파고들었을 텐데 말이죠. AI는 깊이를 파지 않고 넓이만 채웁니다. 이 차이가 결국 아웃풋의 질을 가릅니다.
그렇다면 AI가 진짜 힘을 발휘하게 만드는 질문은 어떤 형태일까요. 제 경험상 이건 세 가지 조건을 갖출 때 달라졌습니다.
- 예/아니오로 끝나지 않는 개방형 질문 (How, Why로 시작하는 질문)
- 당연하게 여기던 전제를 뒤집는 질문 ("지금 방식이 정말 최선인가요?"처럼 기존 가정을 흔드는 질문)
- 서로 다른 영역을 잇는 질문 (예: "이 데이터를 인문학적 시각으로 해석하면 어떻게 되나요?")
이 조건을 갖춘 질문은 AI의 응답 범위 자체를 넓혀줍니다. 반대로 "~해줘"처럼 단순 지시형 프롬프트(Prompt)만 반복하면, 프롬프트란 AI에게 전달하는 입력 텍스트 전체를 가리키는 말인데, AI는 그 좁은 틀 안에서만 답을 돌려줄 수밖에 없습니다.
맥킨지 글로벌 인스티튜트 보고서에 따르면, 생성형 AI가 본격적으로 확산될 경우 단순 반복 업무의 최대 70%가 자동화될 가능성이 있습니다([출처: McKinsey Global Institute](https://www.mckinsey.com/mgi)). 이 수치가 의미하는 건 "AI가 내 일을 빼앗는다"가 아니라, "반복 실행은 AI에게 맡기고 인간은 질문하는 역할에 집중해야 한다"는 방향 전환입니다.
프롬프트 설계로 사고력을 잃지 않는 법
솔직히 이건 예상 밖이었습니다. 워크플로우(Workflow)를 설계하고 자동화 파이프라인을 구축했을 때, 처음엔 그 효율에 감탄했습니다. 워크플로우란 특정 업무가 처리되는 순서와 흐름 전체를 구조화한 것을 뜻합니다. 제가 1시간 동안 끙끙 앓던 작업이 5분 만에 끝나는 걸 보고 솔직히 소름이 돋았습니다.
그런데 시간이 지나면서 불편한 감각이 스멀스멀 올라왔습니다. 시스템이 잘 돌아갈수록, 저는 점점 '결과 확인 버튼'만 누르는 사람이 되어가고 있었습니다. 사고의 과정, 즉 왜 이 결론인지 고민하는 단계가 통째로 생략되고 있었죠. 제가 하는 것이 '업무'인지, 아니면 그냥 '툴 세팅 놀이'인지 헷갈리기 시작했습니다.
이 문제를 해결하기 위해 제가 실제로 적용하고 있는 방법들이 있습니다.
1. '왜'를 다섯 번 반복하는 루트 콜즈 분석(Root Cause Analysis)을 프롬프트 작성 전에 먼저 합니다. 루트 콜즈 분석이란 문제의 표면적 증상이 아니라 근본 원인을 파악하기 위해 "왜?"를 반복적으로 물어가는 사고 기법입니다. 이 과정이 있어야 AI에게 제대로 된 질문을 던질 수 있습니다.
2. 역할 전환 질문법을 씁니다. "경쟁사 입장에서 이 전략의 약점을 찾아줘"처럼 페르소나(Persona)를 설정해 질문하면 훨씬 날카로운 답이 나옵니다.
3. AI를 답변 생성기가 아닌 사고 파트너로 씁니다. "함께 생각해 줘", "이 논리에서 허점을 찾아줘"처럼 대화 방식으로 접근하면 제 생각도 함께 정교해집니다.
4. 질문을 미리 글로 써보고 다듬습니다. 이 과정 자체가 제 사고를 구조화하는 시간이 됩니다.
OECD의 2023년 보고서에 따르면, AI 도입 이후 오히려 고차원적 사고 역량(비판적 사고, 창의적 문제 해결)의 수요가 증가하는 추세가 확인됩니다([출처: OECD](https://www.oecd.org)). AI가 단순 처리를 맡을수록, 인간에게 요구되는 것은 결국 질문의 깊이라는 얘기입니다.
제 경험상 이건 좀 다릅니다. 효율 자체가 나쁜 게 아닙니다. 문제는 효율을 추구하다가 '생각하는 습관' 자체를 잃어버리는 것입니다. 시스템이 무너졌을 때 스스로 처리할 수 없다면, 그건 도구를 쓰는 게 아니라 도구에 종속된 것입니다.
결국 저는 이런 결론에 이르렀습니다. AI가 줄여준 시간을 더 빠른 처리에 쓸 것인가, 아니면 더 깊은 고민에 쓸 것인가. 이 선택이 AI를 쓰는 사람들 사이에서도 격차를 만들 것이라고 봅니다. 지금 당장 프롬프트 하나를 쓸 때도, 바로 입력하기 전에 "나는 지금 왜 이 질문을 하고 있는가"를 10초만 물어보는 습관부터 시작해 보시길 권합니다. 그 10초가 AI에게서 돌아오는 답변의 질을 완전히 바꿔놓습니다.