지난번 「ChatGPT는 왜 세계를 제패했나? 「Attention」의 마법」에서는 AI가 어떻게 문맥을 이해하고 자율적으로 사고(추론)할 수 있게 되었는지 해설했습니다.

하지만 AI가 아무리 우수해져도 현장에서는 "기대했던 아웃풋이 나오지 않는다", "결국 직접 하는 게 더 빠르다"라는 탄식이 사라지지 않습니다. 왜 그럴까요?

이번에는 AI가 초우수한 "부하"가 되었기에 오히려 부각된, 지시를 내리는 측(상사)의 "목표의 명확성"과 "정보의 질" 사이의 잔혹한 격차에 대해 현장의 실패 에피소드를 섞어가며 깊이 있게 파헤쳐 봅니다.

이 기사에서는 최신 추론 모델(o1 등)을 업무에서 최대한 활용하기 위한 "마인드셋(Mindset)"과 "정보를 주는 방법"을 해설합니다.

대상 독자: AI를 활용하여 업무 효율화나 시스템 설계를 하고 싶은 엔지니어, PM, 디렉터 -
다루는 기술 범위: AI 매니지먼트, 컨텍스트(Context) 주입, 추론 모델의 특성 이해 -
전제 지식: ChatGPT 등의 LLM을 업무에서 한 번이라도 사용해 본 적이 있을 것

AI는 "초우수하지만 회사의 문맥을 전혀 모르는 신입사원"이다. 자신 안에 "목표(정답의 이미지)"가 없는 업무를 통째로 맡겨도(丸投げ), 절대 좋은 결과는 나오지 않는다.

"AI, 뭔가 괜찮은 느낌의 요건 정의서를 만들어 줘"

"최신 트렌드를 반영한, 멋진 아키텍처를 제안해 줘"

현장에서 매우 자주 보이는 프롬프트(Prompt)이지만, 이에 대한 AI의 답변은 정해져 있습니다. 바로 "일반적이고, 어디선가 본 적 있는, 실무에서는 사용할 수 없는 얄팍한 문장"이 됩니다.

우리는 인간 부하 직원에게 "목적도, 배경도, 최종적으로 원하는 형식"도 전달하지 않은 채 일을 통째로 맡기지는 않습니다. 하지만 상대가 AI가 되는 순간, 마법 지팡이처럼 "자신이 답을 가지고 있지 않은 것"까지 해결해 줄 것이라고 착각하게 됩니다.

AI 지시 단계에서의 매니지먼트 접근 방식입니다.

선택지 A: 프롬프트 테크닉(심호흡 시키기, 역할 부여 등)에 집착한다 (기각)-
이유: 근본적인 "무엇을 만들고 싶은가"라는 정보가 결여되어 있기 때문에, 아무리 프롬프트를 다듬어도 출력의 방향성이 정해지지 않는다.

채택안: 인간 측(상사)이 사전에 "목표·의도"를 확립하고, 대화를 통해 언어화한다-
이유: 상사 자신에게 "이런 것을 원한다"라는 정답의 이미지(의도·경위)가 없다면, AI의 출력을 리뷰(평가)하는 것조차 할 수 없기 때문이다. 우선 자신 안의 목표를 명확히 하는 것이 최우선.

통째로 맡기는 프롬프트와, 목표(의도)를 명확히 한 프롬프트의 차이입니다.

// ❌ 나쁜 예 (답을 가지지 않은 통째로 맡기기)
"사내 시스템 매뉴얼을 작성해 줘. 알기 쉽게."
// ➡ AI는 일반적인 "시스템 매뉴얼의 목차"를 추측해서 만들 수밖에 없다.
...

🔰

초보자용 해설: 목표 설정이란?

미용실에서 "뭔가 괜찮은 느낌으로 해주세요"라고 주문하는 것(통째로 맡기기)과, "아침 세팅을 5분 안에 끝내고 싶으니, 숏보브 스타일로 무게감 있게 해주세요"라고 주문하는 것(목표 설정)의 차이입니다. AI도 미용사도, 당신의 머릿속에 있는 "숨겨진 요구사항"을 투시할 수는 없습니다.

AI는 표면적인 정보만으로 최단 거리를 달리려는 "절대적 예스맨(Yes-man)"이다. 진정으로 가치 있는 인풋(Input, 경위나 의도)은 현장의 투박한 인간관계에서만 얻을 수 있다.

이전에 제가 인프라 구성 설계도를 AI에 읽히고, "경영진을 위한 비용 절감 프레젠테이션 자료를 만들어 줘"라고 의뢰했을 때의 일입니다.

AI는 "서버 대수 절감", "저렴한 스토리지로의 이전" 등 그럴싸하고 훌륭한 절감 플랜을 만들어 주었습니다. 하지만 그것을 들고 인프라 담당자에게 확인하러 갔더니, "이 고액 구성에는 과거에 장애를 일으켰던 절대적인 경위가 있어, 1원도 절감할 수 없다"라며 일축당하고 말았습니다.

AI는 주어진 설계도(표면적인 정보)만을 보고, 저의 "절감하고 싶다"라는 주문에 전력을 다해 '예스'라고 대답했을 뿐이었습니다.

진정한 문제 해결에 필요한 "컨텍스트(Context, 배경 정보)" 취득 방법입니다.

선택지 A: AI에게 "일반적인 인프라의 경위"를 추측하게 하여 보완한다 (기각)-
이유: AI의 추측(할루시네이션, Hallucination)이 섞일 뿐, 자사의 진정한 역사나 인간관계 등의 도메인 지식(Domain Knowledge)에는 절대 도달할 수 없다.

채택안: 담당자와 가볍게 이야기할 수 있는 「인간관계」를 활용하여 1차 정보를 얻으러 간다
이유: 인프라 담당자와 커피를 마시며 "왜 여기는 이렇게 리치(Rich)한 구성인가요?"라고 묻는 투박한 액션만이, AI에게 주어야 할 「진정한 의도(1차 정보)」를 획득할 수 있는 유일한 수단이기 때문이다.

발로 뛰어 얻은 「1차 정보」를 AI의 프롬프트(Prompt)에 주입하는 의사 코드(Pseudo-code)입니다.

// AI에게 전달할 정보의 구조 (이미지)
{
"task": "인프라 재검토 안 작성",
...

🔰

초보자를 위한 해설: 1차 정보란?

사건 현장에서 뉴스 사이트의 요약 기사를 읽는 것이 2차 정보라면, 형사가 직접 현장에 가서 신발 밑창의 진흙을 확인하는 것이 1차 정보입니다. AI라는 우수한 안락의자 탐정(Armchair detective)을 움직이려면, 인간이 발로 뛰어 얻은 투박한 1차 정보가 필수적입니다.

최신 AI는 인간이 준 「1%의 양질의 정보나 의도」를 내부에서 수천 번 추론하기 때문에, 결과에 엄청난 레버리지(Leverage, 복리 효과)가 발생합니다.

AI는 기본적으로 「의뢰받은 것을 최단 거리에서, 무리해서라도 실행하려고 하는」 성질이 있습니다.

예를 들어 "로그인 기능 코드를 작성해줘"라고 부탁하면, 일단 돌아가는 코드를 엄청난 속도로 작성해 줍니다. 하지만 AI는 예스맨(Yes-man)이기 때문에, 스스로 "이 구현 방식은 SQL 인젝션(SQL Injection)의 리스크가 있습니다"라고 비판적인 입장(우회로)을 취하는 것을 자발적으로 하고 싶어 하지 않습니다.

예스맨을 방지하고, 추론 모델(Reasoning Model)의 파워를 최대한 끌어올리는 수법입니다.

선택지 A: 인간이 코드나 출력을 한 줄씩 리뷰한다 (보류)
이유: 인간의 리소스에 한계가 있어 간과하는 부분이 발생한다.

채택안: 일부러 「적대·우회」를 강제하는 프롬프트를 사용한다
이유: 「엄격한 리뷰어」라는 역할을 부여하여 우회하도록 강제함으로써, AI의 내부 추론 프로세스에 다각적인 시점을 강제할 수 있다.

나아가 여기서 중요한 것이 「추론 모델의 위협」입니다.
과거의 AI는 인간이 「1%의 추가 정보」를 주어도 출력의 개선은 1% 정도였습니다. 하지만 o1 등 현재의 추론 모델은 답을 내기 전에 내부에서 수천 번씩 「자문자답」을 반복합니다.
즉, 인간이 처음에 주는 **「1%의 질 높은 정보(의도·제약)」 × 「AI의 추론 횟수(수천 번)」가 되어, 최종적인 출력의 도달점에 차원이 다른 차이(레버리지)가 생겨나는 것입니다.

제가 자주 사용하는 「우회를 강제하는」 전형적인 프롬프트 패턴입니다.

// 실행시키고 싶은 메인 지시
다음 요건으로 로그인 기능의 백엔드 처리를 구현해 주세요.
[요건 상세...]
...

🔰

초보자를 위한 해설: 1%의 정보 × 추론 횟수란?

광활한 사막에서 보물찾기를 할 때, 적당히 "찾아줘"라고 말하면 AI는 미궁에 빠집니다. 하지만 "북극성을 등지고 찾아줘"라는 **단 하나의 확실한 정보(1%의 의도)**를 전달하는 것만으로도, AI는 그것을 기준으로 "오른쪽인가, 왼쪽인가"를 자문자답(추론)하며 수천 번 반복하여, 최단 거리로 보물(최적해)에 도달할 수 있습니다.

여기까지 읽으시면서 한 가지 사실을 깨달은 분도 계실지 모릅니다.

그렇습니다, 현대의 AI 활용은 단순한 「편리한 도구의 조작」이 아닙니다. 당신 자신이 책임자(長)가 되어, 「나와 AI」라는 최소 부서를 경영하고 있는 상태와 다름없습니다.

AI에 대한 프롬프트나 작업 지시는 부하 직원에게 내리는 「태스크 어사인(Task Assign, 업무 지시)」입니다.

Canvas나 출력된 코드를 확인하는 것은 부하 직원의 「성과물 리뷰」입니다.

그리고 무엇보다, 완성된 자료나 시스템을 사내나 고객에게 제출하고 최종적인 책임을 지는 것은 AI가 아니라 「당신 자신」입니다.

상사인 당신이 명확한 목표를 갖지 않고 배경(Context, 컨텍스트)을 제공하지 않는다면, 아무리 우수한 AI 부하라도 미궁에 빠집니다. 반대로, 당신이 현장의 투박한 인간관계로부터 1차 정보를 발로 뛰어 얻고, 의도를 가지고 매니지먼트한다면, 추론 모델이라는 부하는 「1%의 지시로부터 1만 번의 사고」를 반복하며 최고의 성과를 내어줄 것입니다.

AI가 진화하면 할수록 요구되는 것은 프롬프트의 잔기술이 아니라, 우리 자신의 「매니지먼트 능력」과 「책임을 지는 각오」입니다.

• 예스맨 AI (Yes-man AI): 사용자의 지시에 맹목적으로 따르며, 잠재적인 리스크나 모순이 있음에도 지적하지 않고 최단 거리로 결과를 내려고 하는 AI의 성질. -
  1차 정보 (Primary Information): 현장 담당자에 대한 인터뷰나, 스스로 직접 보고 듣고 경험한 생생한 데이터. AI가 웹 검색을 통해서는 절대 취득할 수 없는, 당신의 회사에 고유한 가장 가치 있는 정보. -
  추론 모델 (Reasoning Model): OpenAI의 o1 등에 대표되는, 답변을 출력하기 전에 「사고 과정 (Chain of Thought)」에 시간을 들여 자율적으로 계획·검증·수정을 반복하는 AI. -
  할루시네이션 (Hallucination): AI가 마치 사실인 것처럼 그럴듯한 거짓말이나 엉터리를 출력해 버리는 현상.

(후편으로 이어짐)

다음 회에서는, 이 「추론 모델의 방대한 사고 결과」를 어떻게 인간이 다루기 쉬운 형태로 현실 세계에 출력할 것인가에 대해 다룹니다. 친구나 웹 담당 멤버로부터 배운 지견을 활용하여, Notion이나 웹 기술 (HTML/Tailwind)을 구사한 「탈 파워포인트·탈 Mermaid」 출력 프로세스에 대해 해설합니다! 기대해 주세요.