1년 전만 해도 "프롬프트 엔지니어링 (Prompt Engineering)"은 모든 이들이 초보자에게 가장 먼저 배우라고 권하던 기술이었습니다. 당시에는 그것이 타당했습니다. 좋은 프롬프트를 작성하는 것이 AI 시스템의 출력물에 대해 당신이 가질 수 있는 주요 레버리지(Lever)였기 때문입니다. 하지만 이제는 더 이상 사실이 아니며, 채용 시장은 이미 다음 단계로 넘어갔습니다.

실제로 무엇이 변했는가

변화의 핵심은 에이전틱 AI (Agentic AI)입니다. 사람이 하나의 영리한 프롬프트를 작성하고 단일 응답을 읽는 대신, 이제 시스템은 다단계 작업을 계획하고, 도구(Tools)를 호출하며, 자신의 출력을 읽고, 매 단계마다 사람이 개입(Human in the loop)하지 않아도 스스로 경로를 수정합니다. MCP (Model Context Protocol)는 이러한 시스템이 실제 도구 및 데이터와 연결되는 기본 방식이 되었으며, 자율 코딩 에이전트 (Autonomous coding agents)는 이제 단순히 코드 한 줄을 자동 완성하는 수준을 넘어 전체 워크플로우 (Workflow)를 처리하고 있습니다.

그러한 세상에서 잘 작성된 프롬프트는 업무의 아주 작은 부분일 뿐입니다. 실제로 수요가 있는 기술은 챗봇과 대화를 잘하는 것이 아니라, AI를 하나의 구성 요소로 사용하는 시스템을 설계하고 디버깅 (Debugging)하는 능력입니다.

구체적인 예시

간단한 작업을 예로 들어보겠습니다: "지난달의 지원 티켓 (Support tickets)을 가져와서 카테고리별로 분류하고, 긴급한 후속 조치가 필요한 항목에 플래그를 표시하세요."

프롬프트에만 의존하는 방식은 이를 챗봇에 대한 하나의 요청으로 취급합니다. 티켓 데이터를 붙여넣고, 카테고리를 설명하는 신중한 프롬프트를 작성한 뒤 출력을 읽습니다. 만약 결과가 틀리면, 프롬프트를 다시 작성하고 다시 시도합니다. 여기서 기술은 전적으로 문구의 표현력에 달려 있습니다.

시스템적 접근 방식은 다릅니다. 작업은 다음과 같이 단계별로 나뉩니다: 지원 도구의 API에서 티켓을 가져오고, 분류 프로세스를 실행하며, 플래그가 지정된 "긴급" 티켓을 규칙(48시간 이상 미응답 또는 상위 등급 고객)과 대조한 다음, 그제서야 검토를 위해 인간에게 요약된 목록을 전달합니다. 각 단계는 독립적으로 실패할 수 있습니다. API 호출이 타임아웃(Time out)될 수 있고, 분류 과정에서 예외 케이스(Edge case)를 잘못 분류할 수 있으며, 오탐(False positive) 발생 후 긴급도 규칙을 조정해야 할 수도 있습니다.

해당 파이프라인(pipeline)을 디버깅(debug)할 수 있는 사람 — 즉, 어떤 단계에서 잘못된 플래그(flag)가 생성되었는지 파악하고, 단순히 프롬프트(prompt)를 다시 작성하며 요행을 바라는 대신 실제 원인을 수정할 수 있는 사람 — 은 단순히 요청을 잘 표현하는 방법만 아는 사람과는 근본적으로 다른 일을 하고 있는 것입니다. 이것이 바로 시장이 조용히 만들어낸 기술 격차(skill gap)입니다.

고용주들이 실제로 테스트하는 것

이 분야의 채용 공고와 인터뷰는 다음과 같은 방향으로 조용히 변화해 왔습니다:

• 도구 및 에이전트 오케스트레이션 (Tool and agent orchestration) — AI 시스템을 실제 API, 데이터베이스, 도구와 연결하고, 특정 단계가 실패했을 때 발생하는 상황을 처리하는 능력
• 평가 및 디버깅 (Evaluation and debugging) — 에이전트가 왜 잘못된 판단을 내렸는지 파악하는 것 (단순히 결과가 제대로 나올 때까지 프롬프트를 다시 입력하는 것이 아님)
• 불확실성을 고려한 시스템 설계 (System design around uncertainty) — 자율 시스템(autonomous systems)은 때때로 잘못된 가정에 따라 행동할 수 있으므로, 검증 단계, 폴백(fallback), 가드레일(guardrails)을 구축하는 능력
• 기본적인 프로그래밍 유창성 (Basic programming fluency) — 로그(log)를 읽고, 스크립트(script)를 작성하며, 에이전트가 내부적으로(under the hood) 실제로 무엇을 하고 있는지 이해할 수 있는 수준

이 중 어느 것도 "더 나은 프롬프트를 작성하는 것"이 아니라는 점에 주목하십시오. 프롬프팅(Prompting)은 여전히 유용한 기술이지만, 이제는 소프트웨어를 구축하는 방법을 아는 것보다는 키보드 단축키를 아는 것에 더 가깝습니다. 그것은 당신을 더 빠르게 시작하게 해줄 뿐, 시스템이 고장 났을 때 문제를 해결할 수 있는 사람으로 만들어주지는 않습니다.

지금 AI를 배우고 있다면 이것이 의미하는 바

만약 당신의 현재 AI 학습 계획이 주로 프롬프트 작성 연습에 치중되어 있다면, 이미 시장의 흐름보다 한 단계 뒤처져 있는 것입니다. 더 지속 가능한 경로는 AI를 대화하기 좋은 챗봇(chatbot)이 아니라, 엔지니어링(engineered)해야 할 시스템으로 취급하는 것입니다. 즉, 실제 프로그래밍의 기초를 습득하고, 도구와 API가 모델에 어떻게 연결되는지 이해하며, 에이전트가 무언가를 잘못했을 때 다른 소프트웨어를 디버깅하는 것과 같은 방식으로 디버깅을 연습하는 것을 의미합니다.

마지막 부분은 대부분의 독학 학습자들이 건너뛰는 부분입니다. 왜냐하면 똑똑한 프롬프트가 첫 시도에 바로 작동하게 만드는 것보다 즉각적인 만족감이 덜하기 때문입니다. 하지만 바로 그 부분이 실제 업무에서 나타나는 핵심입니다.

이 모든 것이 프롬프팅 (Prompting)이 중요하지 않다는 뜻은 아닙니다. 이는 프롬프팅이 목적지가 아닌 진입점 (Entry point)임을 의미합니다. 그리고 프롬프팅을 기술의 전부로 취급하는 것은, 현재 해당 역할이 실제로 요구하는 사항들에 대해 준비가 되지 않은 상태로 남게 되는 가장 빠른 길입니다.