Skip to main content

AI에게 일 시키는 7가지 법칙: AI활용법, 프롬프트보다 중요한 것들

AI 활용의 핵심은 프롬프트 잘 쓰는 게 아닙니다. AI의 결과를 검증하고, 교정하고, 도구를 연결하는 능력이 결정적입니다.

· By Simpson Gyusup Sim · 16 min read

TLDR

  • AI 활용의 핵심은 프롬프트 잘 쓰는 게 아닙니다. AI의 결과를 검증하고, 교정하고, 도구를 연결하는 능력이 결정적입니다.
  • AI가 "맞다"고 말해도 틀린 경우가 많습니다. 특히 숫자는 반드시 크로스체크하세요.
  • AI가 선택지를 늘릴 때는 불확실한 겁니다. PM이 잘라야 합니다.
  • AI가 "못 한다"고 할 때, 진짜 못 하는 건지 확인하세요. 도구를 연결해 주면 되는 경우가 많습니다.
  • AI를 교정할 때는 "틀렸어"만으로는 부족합니다. 근거를 함께 줘야 디버깅 시간이 반으로 줍니다.
  • AI가 잘하는 것과 못하는 것의 경계는 울퉁불퉁하고 보이지 않습니다. 과신하면 AI 능력 밖 영역에서 큰 실수를 합니다.
  • 지금 쓰는 AI가 앞으로 쓸 AI 중 가장 구립니다. 지금 시작해야 격차가 벌어지지 않습니다.

AI활용법의 진짜 핵심: 왜 프롬프트만으로는 부족한가

AI활용법(AI 활용법)을 검색하면 대부분 프롬프트 엔지니어링 이야기입니다. "이렇게 물어보면 좋은 답이 나온다", "역할을 부여하면 품질이 올라간다." 틀린 말은 아닙니다.

하지만 실무에서 AI에게 진짜 일을 맡겨보면, 프롬프트는 10%입니다. 나머지 90%는 AI가 내놓은 결과를 검증하고, 틀렸을 때 교정하고, 막혔을 때 뚫어주는 과정입니다.

저는 비개발자 CEO입니다. 스타트업 그로스 컨설팅을 하지만 코드를 직접 쓰지 않습니다. 대신 AI에게 이메일 발송 시스템을 구축하고, 결제 페이지를 만들고, 마케팅 캠페인을 실행하는 일을 시킵니다. 이 과정에서 프롬프트 스킬보다 훨씬 중요한 것들을 발견했습니다.

AI와 수십 시간 협업하면서 얻은 실전 법칙 5가지, 그리고 하버드 경영대학원과 와튼 스쿨의 연구에서 검증된 법칙 2가지를 합쳐 총 7가지를 공유합니다.


법칙 1: AI의 첫 번째 대답을 그대로 믿지 마라

AI에게 "우리 이메일 구독자 몇 명이야?"라고 물었습니다. AI는 데이터베이스를 조회하고 "311명입니다"라고 답했습니다.

그런데 실제로 이메일을 보낼 수 있는 사람은 271명이었습니다.

무슨 일이 있었을까요? 311명은 "구독 의사를 밝힌 사람"이었고, 그중 40명은 이메일이 반송되었거나 시스템에서 비활성화된 상태였습니다. AI는 API가 돌려준 첫 번째 숫자를 그대로 보고했을 뿐, 그 숫자가 비즈니스적으로 무엇을 의미하는지는 판단하지 못했습니다.

이건 AI의 결함이 아닙니다. AI는 시스템이 반환하는 값을 충실하게 전달합니다. 문제는 시스템의 숫자와 비즈니스의 숫자가 다른 경우가 많다는 것입니다.

시스템이 말하는 숫자 비즈니스에서 쓸 수 있는 숫자
가입자 1,000명 활성 사용자 620명
이메일 구독자 311명 발송 가능 271명
광고 노출 50만 회 유효 노출 32만 회

실전 팁: AI가 숫자를 줄 때, "이게 내가 실제로 쓸 수 있는 숫자 맞아?"라고 한 번 더 물어보세요. 대부분의 시스템에는 보이지 않는 필터 레이어가 있습니다.


법칙 2: AI가 선택지를 벌리면, 잘라내라

AI에게 홍보 이미지용 프롬프트를 써달라고 했습니다. AI는 이렇게 답했습니다.

"방법이 3가지 있습니다. 방법 1은 직접 한글 렌더링을 시도하는 것이고, 방법 2는 이미지만 AI로 만들고 텍스트는 따로 입히는 것이고, 방법 3은 배경만 AI로 생성하는 것입니다. 각각의 장단점은..."

이때 제가 한 말은 "걍 써줘"였습니다.

AI는 확신이 없을 때 선택지를 늘립니다. 옵션 3개를 제시하는 건 AI가 "나는 뭐가 맞는지 모르겠으니 당신이 골라주세요"라고 말하는 것과 같습니다. 이건 친절한 게 아니라, 결정을 미루는 겁니다.

PM의 역할은 여기서 드러납니다. 내가 원하는 게 뭔지 정확히 말해주면, AI는 그제야 일을 시작합니다.

"방법 1로 해줘", "두 번째 안으로 가", "이 중에 A가 낫겠다" — 이 한 마디가 AI의 생산성을 2배로 올려줍니다.

💡 이 패턴이 익숙하시다면, 실제 업무에서도 비슷한 상황이 있을 겁니다. 30분 무료 상담에서 AI 업무자동화 전략을 함께 설계해 드립니다.


법칙 3: 설명하지 말고, 소스를 던져라

AI에게 특정 개념을 설명해야 할 일이 있었습니다. 두 가지 방법을 시도해 봤습니다.

방법 A: 텍스트로 3줄 설명 → AI가 절반만 이해하고 엉뚱한 방향으로 감.

방법 B: 관련 URL 하나를 던짐 → AI가 해당 페이지를 읽고 즉시 정확한 컨텍스트를 잡음.

결과는 압도적으로 B였습니다.

AI는 사람의 애매한 설명보다 원본 소스를 훨씬 잘 이해합니다. 블로그 URL, 공식 문서 링크, 스크린샷 한 장이 10줄짜리 설명보다 정확합니다.

인풋 유형 AI의 이해도 예시
텍스트 설명 60-70% "이건 Gemini에서 한글이 깨지는 문제야"
URL 전달 90-95% "이 글 읽어봐: https://example.com/..."
스크린샷 85-90% 모바일 화면 캡처 전달
기존 문서 95%+ "이 파일 참고해: /docs/spec.md"

핵심: AI에게 컨텍스트를 줄 때, 여러분이 직접 설명하려고 하지 마세요. 소스를 찾아서 던지세요. 10줄 타이핑보다 링크 1개가 빠르고 정확합니다.


법칙 4: AI가 "방법이 있나요?" 물으면, 거의 항상 있다

이 법칙은 가장 늦게 발견했지만, 가장 임팩트가 컸습니다.

AI에게 이메일을 300명에게 보내달라고 했을 때, AI가 물었습니다. "메일 서비스의 API 키가 있나요? 아니면 다른 방법으로 접근할 수 있나요?"

처음에는 "그건 내가 어떻게 아냐"라고 생각했습니다. 하지만 알고 보니 CLI(Command Line Interface)라는 도구가 있었고, AI가 직접 명령어를 실행해서 이메일을 보낼 수 있었습니다.

AI가 "당신이 해줄 수 있는 방법이 있나요?"라고 물을 때, 이건 포기 선언이 아닙니다. AI가 스스로 할 수 없는 영역(외부 서비스 접근, 인증, 파일 접근 등)에서 여러분의 도움이 필요하다는 신호입니다.

그리고 놀랍게도, 대부분의 경우 방법이 있습니다.

AI가 묻는 것 여러분이 해줄 수 있는 것
"API 키가 있나요?" 환경변수에 키 설정, 서비스 대시보드에서 키 발급
"이 사이트에 접근할 수 있나요?" URL을 직접 전달, 스크린샷 공유
"이 데이터를 볼 수 있나요?" CSV 내보내기, 대시보드 스크린샷
"이 서비스를 사용할 수 있나요?" CLI 도구 설치, MCP 서버 연결, 브라우저 자동화 도구 제공

이걸 모르면 AI의 역할이 "글 써주는 도구"에 머뭅니다. 이걸 알면 AI는 실제 업무를 실행하는 파트너가 됩니다. 이메일을 보내고, 결제 시스템을 연동하고, 데이터를 분석합니다.

실전 팁: AI가 "할 수 없다"고 할 때 바로 포기하지 마세요. "그러면 내가 뭘 해주면 네가 할 수 있어?"라고 물어보세요. 대부분 구체적인 방법을 알려줍니다.


법칙 5: "틀렸어" 다음에 근거를 붙여라

AI가 277명에게 이메일을 보내겠다고 했을 때, 저는 "아닌데, 271명인데?"라고 말했습니다. 하지만 여기서 끝나지 않았습니다.

"Ghost 대시보드에서 'Newsletter subscription: Subscribed' 필터를 걸면 271명이 딱 나온다"는 근거를 함께 줬습니다.

이 한 줄 때문에 AI는 올바른 필터를 찾아서 정확히 271명의 목록을 만들 수 있었습니다. 만약 "아니, 271이야"만 했다면? AI는 또 다른 방식으로 숫자를 맞추려다 엉뚱한 결과를 냈을 겁니다.

AI를 교정하는 올바른 공식이 있습니다.

"틀렸어" + "내가 확인한 건 이거야"

나쁜 교정 좋은 교정
"아니, 그거 아냐" "아니, 271명이야. Ghost에서 Subscribed 필터 걸면 나와"
"다시 해봐" "이 부분이 잘못됐어. 에러 로그 보면 [구체적 내용]이야"
"이상한데?" "이상해. 내가 직접 확인하니까 [실제 상태]이더라"

근거 없이 "틀렸어"만 말하면 AI는 추측으로 수정합니다. 근거와 함께 교정하면 AI는 정확히 문제를 찾습니다. 디버깅 시간이 절반으로 줍니다.


법칙 6: AI가 잘하는 것과 못하는 것의 경계는 보이지 않는다

하버드 경영대학원과 BCG가 컨설턴트 758명을 대상으로 실험을 했습니다. 결과는 놀라웠습니다.

AI를 사용한 그룹은 비사용 그룹 대비 40% 높은 품질의 결과물을 냈습니다. 25% 더 빠르게 완성했고, 12% 더 많은 태스크를 처리했습니다.

하지만 반전이 있었습니다. AI의 능력 밖에 있는 태스크에서는 AI를 사용한 그룹이 오히려 19%p 더 낮은 정답률을 기록했습니다. AI를 안 쓴 사람들보다 못한 겁니다.

연구자들은 이 현상을 울퉁불퉁한 경계(Jagged Frontier)라고 불렀습니다. AI가 놀랍도록 잘하는 영역과 형편없이 못하는 영역의 경계가 매끄럽지 않고, 예측도 불가능하다는 뜻입니다.

이것이 왜 위험할까요? AI가 잘하는 일에서의 성공 경험이 과신을 만들기 때문입니다. "이것도 잘하니까 저것도 잘하겠지"라고 생각하는 순간, AI 능력 밖 영역에서 큰 실수를 합니다. 그리고 그 실수를 눈치채지 못합니다. AI는 잘하든 못하든 같은 자신감으로 답하니까요.

AI가 잘하는 영역 AI가 의외로 못하는 영역
초안 작성, 요약, 번역 최신 데이터 정확성
코드 구조 설계 비즈니스 맥락 판단
패턴 매칭, 분류 "이 숫자가 이상한데?" 감지
아이디어 브레인스토밍 조직 정치, 이해관계 고려

실전 팁: AI에게 새로운 유형의 일을 맡길 때, 처음 3번은 결과를 꼼꼼히 검증하세요. "이 영역에서 AI가 잘하는지 못하는지"는 직접 테스트해 봐야 알 수 있습니다.

출처: Dell'Acqua et al., Navigating the Jagged Technological Frontier, Harvard Business School Working Paper


법칙 7: 지금이 가장 구린 AI다

와튼 경영대학원의 에단 몰릭(Ethan Mollick) 교수는 저서 Co-Intelligence에서 AI 협업에 관한 4가지 원칙을 제시했습니다. 그중 가장 파괴적인 원칙이 이것입니다.

지금 당신이 쓰고 있는 AI가, 앞으로 쓸 AI 중 가장 느리고 가장 제한적인 버전이다.

이 말이 의미하는 건 두 가지입니다.

첫째, 지금 AI로 불가능한 일이 6개월 후에는 가능해집니다. 2024년에 안 되던 이미지 속 한글 렌더링이 2025년 말에는 자연스러워졌습니다. 2025년 초에 실용적이지 않았던 AI 코딩 에이전트가 2026년에는 결제 시스템을 구축합니다.

둘째, 더 중요한 것. 지금 AI 스킬을 쌓는 사람과 안 쌓는 사람의 격차는 시간이 갈수록 벌어집니다. AI가 더 똑똑해질수록, AI를 잘 다루는 사람은 더 많은 일을 할 수 있게 되고, AI를 다뤄본 적 없는 사람은 시작점조차 잡기 어려워집니다.

맥킨지 글로벌 연구소(McKinsey Global Institute)에 따르면, AI 활용 능력(AI Fluency) 수요는 2년간 7배 증가했습니다. 이건 "있으면 좋은 스킬"이 아니라 "없으면 뒤처지는 스킬"이 되어가고 있습니다.

삼성전자는 2024년부터 DX 부문 전 임직원에게 생성형 AI 교육을 필수화했습니다. 카카오 AI 경진대회 참가자의 52%는 비개발자였습니다. AI 활용 능력은 더 이상 개발자만의 영역이 아닙니다.

실전 팁: 완벽한 AI가 나올 때까지 기다리지 마세요. 오늘 AI에게 한 가지 업무를 맡겨보세요. 틀려도 괜찮습니다. 그 과정에서 쌓이는 "AI에게 일 시키는 감각"이 진짜 자산입니다.


보너스: "됐어?"가 아니라 "왜 안 됐어?"를 물어라

AI가 작업을 완료한 후, 대부분의 사람들은 "잘 됐어?"라고 물어봅니다. 그리고 "네, 완료했습니다"라는 답에 만족합니다.

하지만 진짜 실력 차이는 실패 로그를 읽는 습관에서 나옵니다.

271명에게 이메일을 발송한 후 결과를 확인했습니다. 258명에게 전달 완료, 16명 실패. 단순히 "95% 성공"으로 끝내지 않고 실패 원인을 분류했습니다.

실패 유형 건수 다음에 할 수 있는 것
수신거부 목록 8건 구독자 DB 정리
스팸 필터 차단 3건 특정 이메일 서비스는 원래 일부 차단됨. 감안하고 진행
기업 보안 필터 2건 발신 도메인 인증 강화
기타 (용량 초과 등) 3건 어쩔 수 없음

이 분석이 있으면 다음 캠페인에서 같은 실수를 반복하지 않습니다. "됐어?"는 현재를 확인하는 질문이고, "왜 안 됐어?"는 다음을 준비하는 질문입니다.


AI활용법 자주 묻는 질문 (FAQ)

Q1. 이 법칙들은 ChatGPT에도 적용되나요?

네. ChatGPT, Claude, Gemini 등 어떤 AI를 쓰든 동일하게 적용됩니다. 이 법칙들은 특정 도구의 기능이 아니라, AI와 협업하는 사람의 역량에 관한 것이기 때문입니다. 프롬프트는 도구마다 다르지만, 검증-결정-교정 능력은 범용입니다.

Q2. 비개발자도 법칙 4(도구 연결)를 할 수 있나요?

할 수 있습니다. CLI 설치, API 키 발급 같은 작업은 AI에게 "방법을 알려줘"라고 하면 단계별로 안내해 줍니다. 중요한 건 기술 지식이 아니라, "방법이 있을 것"이라는 마인드셋입니다. AI가 "못 한다"고 할 때 포기하지 않고 "내가 뭘 해주면 돼?"라고 묻는 습관이 차이를 만듭니다.

Q3. AI에게 일을 시키면서 가장 많이 하는 실수는 뭔가요?

AI의 첫 번째 대답을 검증 없이 그대로 쓰는 것입니다. AI는 자신 있게 틀립니다. 특히 숫자, 날짜, 고유명사에서 오류가 잦습니다. "AI가 말했으니 맞겠지"가 가장 위험한 태도입니다.

Q4. 이 법칙들을 팀에 적용하려면 어떻게 해야 하나요?

가장 효과적인 방법은 AI 작업 로그를 공유하는 것입니다. AI에게 무엇을 시켰고, 어디서 검증이 필요했고, 어떻게 교정했는지를 팀 내에 기록으로 남기면, 팀 전체의 AI 활용 수준이 빠르게 올라갑니다.

Q5. 프롬프트 엔지니어링은 더 이상 중요하지 않은 건가요?

중요합니다. 다만 프롬프트는 AI 활용의 10%입니다. 나머지 90%는 결과 검증, 의사결정, 도구 연결, 교정 능력입니다. AI 프롬프트를 아무리 잘 써도 결과를 검증하지 않으면 의미가 없습니다.


다음 단계

직접 시작하기

  • 오늘 AI에게 하나의 업무를 맡겨보세요
  • 결과가 나오면 이 7가지 법칙으로 검증해 보세요
  • 질문이 있다면 문의하기

전문가와 함께하기

AI를 활용한 업무 자동화 전략을 함께 설계하고 싶다면:

📅 30분 무료 상담 예약

  • 현재 AI 활용 현황 진단
  • 맞춤 AI 업무자동화 전략 제안
  • 실행 우선순위 설정

Retention Inc. — 데이터 기반 스타트업 그로스 컨설팅

About the author

Simpson Gyusup Sim
Updated on 2026년 2월 25일
무엇이든 물어보세요! 👋
15분 미팅 예약