거창한 제목이지만, 대단한 내용은 아닙니다.

대상: ChatGPT, Claude, Gemini, Copilot, Cursor, Codex 등을 사용하기 시작한 사람

목적: AI를 '무엇이든 알고 있는 사람'이 아니라, 자료·도구·확인 공정을 부여하여 업무를 진행하는 협업자로 다룰 수 있게 되는 것

정보 기준일: 2026년 7월 15일

생성 AI (Generative AI)를 잘 사용하는 요령은, 길고 교묘한 '주문(Prompt)'을 한 번에 맞히는 것이 아닙니다.

중요한 것은 다음 5가지입니다.

목적을 전달하기— 무엇을 위해, 누가, 어디서 사용하는가 -
재료를 건네기— 최신 정보, 사내 자료, 전제 조건, 견본 -
규칙을 고정하기— 금지 사항, 판단 기준, 출력 형식 -
도중에 확인하기— 조사·설계·작성·검증으로 나누기 -
결과를 평가하기— 정확성, 누락 여부, 안전성, 재현성을 확인하기 -

AI의 성능이 높더라도, 재료나 평가 기준이 모호하면 그럴듯한 오답을 내놓습니다.

반대로 목적·자료·규칙·도구·검증 방법이 갖춰지면, 짧은 의뢰로도 높은 품질을 내기 쉬워집니다.

AI 활용의 중심은 '능숙한 질문'에서 'AI가 망설임 없이 작업하고, 실수를 알아차릴 수 있는 구조'로 옮겨가고 있습니다.

AI (Artificial Intelligence: 인공지능)는 인간이 수행하는 인식·예측·판단·문장 생성 등을 컴퓨터로 구현하는 기술이나 서비스의 총칭입니다.

다만, 현재 자주 화제가 되는 생성 AI의 대부분은 딥러닝을 기반으로 하고 있습니다.

딥러닝은 대량의 데이터를 보면서, 입력과 출력 사이에 있는 복잡한 패턴을 다층의 뉴럴 네트워크 (Neural Network)에 학습시키는 방법입니다.

고양이 이미지를 판정하는 경우, 인간이 "귀는 삼각형, 수염이 있음"이라고 모든 규칙을 쓰는 것이 아니라, 다수의 사례로부터 모델 내부의 수치를 조정하여 고양이다운 특징을 포착할 수 있도록 합니다.

다만, AI가 인간과 같은 의미로 이해하고 있다고 단정하는 것은 적절하지 않습니다. 실무에서는 다음과 같이 파악하는 것이 안전합니다.

대량의 패턴을 수치로서 압축하여, 입력에 따른 유력한 출력을 계산하는 구조

딥러닝의 발전에 대해서는 LeCun, Bengio, Hinton에 의한 2015년의 총설이 대표적인 기초 자료입니다.

ChatGPT 등의 중심에 있는 LLM (Large Language Model: 대규모 언어 모델)은 문장을 토큰 (Token)이라는 작은 단위로 나누고, 주변 문맥으로부터 다음에 이어지기 쉬운 토큰을 계산합니다.

일본의 수도는 → 「도쿄」가 이어질 가능성이 높음

현재 LLM의 대부분은 2017년에 발표된 Transformer라는 구조를 기초로 하고 있습니다. Transformer는 문장 내의 어디에 주목해야 하는지를 계산하기 쉽게 만들어, 대규모 학습과 문맥 처리를 발전시켰습니다.

LLM은 단순한 암기장이 아니라, 방대한 문장에서 얻은 언어·개념·관계성의 패턴을 이용하여 요약, 번역, 분류, 비교, 문장 작성, 코드 생성, 일정 수준의 추론 등을 수행합니다.

다만 근본은, 진실을 반드시 반환하는 데이터베이스가 아니라, 문맥에 맞는 출력을 생성하는 모델입니다.

AI의 답변 원리를 MVP라고 부르는 것은 일반적이지 않습니다. 제품 개발에서 MVP는 통상 Minimum Viable Product (실용 최소 제품)를 가리킵니다.

생성 AI에 대한 설명으로 가까운 것은 다음 표현입니다.

입력된 문맥, 학습된 패턴, 설정, 이용 가능한 자료나 도구를 바탕으로, 적절해 보이는 다음 내용을 확률적으로 생성한다.

"확률이 최대인 한 단어만"을 항상 선택하는 것은 아닙니다. 후보에 변동성을 주는 설정도 있기 때문에, 같은 질문이라도 답변이 달라질 수 있습니다.

학습된 능력
＋
현재의 대화·첨부 자료
...

품질 ≒ 모델 능력 × 문맥의 질 × 도구의 질 × 작업 절차 × 평가

AI의 응답에는 다음과 같은 처리가 섞여 있습니다.

• 연역적 (Deductive): 규칙이나 조건으로부터 결론을 도출함
• 귀납적 (Inductive): 여러 사례로부터 경향성을 찾아냄
• 유추적 (Analogical): 유사한 사례를 단서로 삼아 사고함
• 확률적 (Probabilistic): 여러 후보 중 적절해 보이는 출력을 선택함
• 검색 보조형 (Retrieval-aided): 외부 자료를 근거로 삼아 구성함
• 도구 실행형 (Tool-use): 계산, 코드, DB 조회 등을 통해 확인함

AI는 논리적인 설명을 만들어낼 수 있어도, 전제 사실이 틀릴 수 있습니다.

따라서, 논리의 외관과 사실의 정확성을 분리하여 확인해야 합니다.

LLM은 문장의 자연스러움을 만드는 데 능숙합니다. 그렇기 때문에 불명확한 점을 포함하고 있더라도, 마치 확신이 있는 것처럼 설명할 때가 있습니다.

특히 확인이 필요한 정보는 다음과 같습니다.

• 오늘의 뉴스, 가격, 운행 정보, 법령, 제품 사양
• 현재의 직책자, 요금, 서비스 기능
• 사내 고유의 절차, 계약, 설계, 데이터
• 의료·법률·금융·안전 관련 판단
• 수치, 날짜, 고유명사, 인용
• URL, 논문명, 제품 기능의 실재성

모델이 최신이라 하더라도, 모든 최신 정보를 항상 내부에 보유하고 있는 것은 아닙니다. 현재의 사실을 다룰 때는 외부 정보를 취득하여 근거로 삼아야 합니다.

RAG는 학습된 모델의 내부 지식만으로 답하지 않고, 관련 있는 외부 자료를 검색하여 답변에 활용하는 사고방식입니다. 2020년의 RAG 논문에서는 모델 내부의 지식과 외부의 검색 가능한 지식을 결합하는 방법이 제시되었습니다.

초보자에게는 다음 정도의 이해로 충분합니다.

AI의 기억에만 의존하지 않고, 필요한 자료를 가지러 가서 근거를 비교·정리한 뒤에 답하게 한다.

• 조사하고 싶은 논점을 나눈다
• 공식 정보·1차 자료를 우선한다
• 공개일과 사건이 일어난 날짜를 구분한다
• 여러 자료의 일치점·차이점을 정리한다
• 사실과 추측을 구분한다
• 출처를 남긴다
• 인간이 중요 부분을 확인한다

이 주제를 최신 정보로 조사해 주세요.
공식 자료·1차 정보를 우선하고, 중요한 주장에는 출처를 붙여 주세요.
공개일과 사건의 날짜를 구분해 주세요.
...

프롬프트 엔지니어링 (Prompt Engineering)은 AI가 요구에 맞는 출력을 낼 수 있도록 지시문을 설계하는 것입니다. 현재도 중요합니다.

하지만 복잡한 업무를 하나의 긴 프롬프트로 해결하는 방식에는 한계가 있습니다. 모델이 고성능화되고 검색·코드 실행·파일 조작 등을 수행할 수 있게 됨에 따라, 중점은 다음 영역으로 확장되었습니다.

즉, 프롬프트가 사라진 것이 아니라, 거대한 품질 관리 메커니즘의 일부가 된 것입니다.

인간이 질문하고, AI가 문장으로 답한다.

과제: 재현성이 낮음, 최신 정보를 모름, 오류를 발견하기 어려움.

역할, 목적, 조건, 예시, 형식을 상세히 적는다.

개선: 형식이나 입도(granularity)를 제어하기 쉬움.

과제: 장문화, 업데이트 부담, 단판 답변에 대한 의존.

AI가 외부 자료, 검색, 계산, 코드, 업무 시스템을 이용한다.

개선: 최신 정보나 사내 정보를 근거로 삼을 수 있음.

AI가 계획을 세우고, 도구를 사용하며, 결과를 보고 다음 행동을 바꾼다.

ReAct 연구는 추론과 외부 행동을 교대로 수행함으로써, 지식원이나 환경으로부터 정보를 얻으며 문제를 진행하는 형태를 보여주었습니다.

절차를 파일화하고, 권한을 제한하며, 로그·테스트·평가를 정비한다.

2025~2026년에는 컨텍스트 관리, Agent Skills, 장시간 가동 에이전트의 하네스(harness), 평가를 통한 스킬 개선 등이 주요 기업들의 공식 기술 자료에서도 전면에 등장하고 있습니다.

업무는 통상 다음과 같이 진행되기 때문입니다.

의뢰
↓
전제 확인
...

인간의 업무도 단번에 완성되지 않습니다. AI에게도 중간 성과, 관측 결과, 테스트 결과를 돌려주어 수정하게 하는 편이 안정적입니다.

AI가 기대에 못 미치는 답을 하는 원인의 대부분은 다음 중 하나입니다.

• 목표가 여러 개이며 우선순위가 불분명함
• 독자나 이용 상황이 불분명함
• 현상황과 이상향이 섞여 있음
• 용어의 의미가 조직 고유함
• 판단 기준이 암묵지(tacit knowledge)임
• 예외 조건이 적혀 있지 않음
• 원 자료끼리 모순됨
• 완성 판정 방법이 없음
• 어디까지 자동 실행해도 되는지 불분명함

이것들을 밖으로 끄집어내는 것이 AI 활용에 있어서의 언어화·가시화입니다.

문장만으로는 전달하기 어려운 관계는 도표나 표로 만듭니다.

원칙: 순서는 흐름(Flow), 관계는 도표, 조건은 표, 정의는 용어집, 실물은 샘플로 보여준다.

【목적】 무엇을 위한 것인가
↓
【결과물】 무엇을 완성할 것인가
...

AI의 연수 자료를 알기 쉽게 만들어줘.

AI가 추측해야만 하는 것들:

• 독자의 직종
• 지식 수준
• 페이지 수
• 연수 시간
• 회사의 AI 이용 규정
• 무엇을 할 수 있게 할 것인가
• 설명 중심인가 연습 중심인가
• 합격 기준

목적:
생성형 AI를 처음 사용하는 직원이 AI의 한계를 이해하고,
사내 정보를 부주의하게 입력하지 않으며,
근거를 확인하면서 질문할 수 있도록 한다.
...

의뢰 전 또는 AI와의 대화 중에 다음 사항을 채웁니다.

• 이 결과물을 통해 독자가 무엇을 이해·판단·실행하기를 원하는가
• 정답이 여러 개인 경우, 무엇을 최우선으로 하는가
• 절대 변경해서는 안 되는 것은 무엇인가
• AI가 추측해도 되는 부분과 확인해야 할 부분은 어디인가
• 참고해야 할 과거 결과물은 무엇인가
• 실패 사례·사고 사례·불만 사항이 있는가
• 숫자로 측정 가능한 완성 조건이 있는가
• 누가 최종 승인하며, 무엇을 보고 승인하는가

다음 내용을 건별로 저장하면 대화가 바뀌어도 인수인계하기 쉬워집니다.

# AI 작업 카르테 (AI作業カルテ)
## 1. 의뢰 목적
- 배경:
...

"당신은 유능한 컨설턴트입니다"라고만 하는 것으로는 품질이 안정되지 않습니다.

유효한 것은 다음과 같습니다.

목적 → 대상 → 재료 → 제약 → 판단 기준 → 출력 → 검증

역할 지정은 보조 수단으로 사용합니다.

복잡한 의뢰는 공정을 나눕니다.

제1회: 논점과 부족한 자료를 파악한다
제2회: 자료를 조사하여 근거표를 만든다
제3회: 구성안을 만든다
...

단, 단순한 작업까지 세분화하면 속도가 느려집니다. 실패 비용이 높은 작업일수록 분할합니다.

질문만 하다가 멈춰버리는 AI도 실무에서는 사용하기 어렵기 때문에, 다음과 같이 지정합니다.

중대한 모호함에 대해서만 질문해 주세요.
경미한 부족함은 타당한 가정을 세워 진행하고,
마지막에 "세운 가정"과 "확인이 필요한 점"을 목록화해 주세요.

답변을 다음 3가지 구분으로 나누어 주세요.
1. 자료에서 확인할 수 있는 사실
2. 사실로부터 도출한 해석·추측
...

작성한 안(案)에 대해 다음 관점에서 반증해 주세요.
- 전제의 오류
- 누락 및 망각
...

Markdown의 헤더, 표, JSON, YAML 등 후속 공정에서 다루기 쉬운 형식을 지정합니다.

# 결론
# 근거
# 미확정 사항
...

긴 대화에서는 중요 사항이 묻히거나 문맥 제한(Context Limit)을 초과할 수 있습니다. 따라서 매듭을 지을 때마다 Markdown으로 외부화합니다.

저장할 것:

• 목적과 전제
• 결정 사항
• 채택하지 않은 안과 이유
• 용어 정의
• 현재의 결과물
• 미결 사항
• 다음 작업
• 참조 자료
• 변경 이력

증류(Distillation)란 대화를 단순히 요약하는 것이 아니라, 재사용에 필요한 정보를 구조화하여 남기는 것입니다.

• 결정과 이유

• 제약

• 판단 기준

• 예외

• 실례

• 미해결 사항

• 근거 자료

• 중복

• 잡담

• 이미 기각된 안의 세부 사항

• 일시적인 시행착오

• 근거 없는 추측

지금까지의 대화를, 다음 회차의 AI가 작업을 재개할 수 있는 인수인계서로 증류해 주세요.
단순한 요약이 아니라, 다음을 구분해 주세요.
- 목적
...

권장 디렉토리 예시:

project/
├─ 00_source/ # 원본. 원칙적으로 변경하지 않음
├─ 01_context/ # 용어집, 전제, 작업 카르테
...

AI가 무엇을 근거로 무엇을 변경했는지 추적하기 쉬워집니다.

언어화할 것:

• 독자
• 읽은 후 취했으면 하는 행동
• 핵심 메시지
• 톤 (Tone)
• 필수 항목
• 금지 표현
• 근거 자료
• 분량

시각화하면 좋은 것:

• 문서 구성
• 독자의 의문 순서
• 주장과 근거의 대응표

언어화할 것:

• 유스케이스 (Use Case)
• 기능 요구사항 · 비기능 요구사항
• 기술적 제약
• 인수 조건
• 에러 발생 시의 동작
• 권한
• 변경 대상 외

시각화하면 좋은 것:

• 화면 전환 (Screen Transition)
• 시퀀스 다이어그램 (Sequence Diagram)
• ER 다이어그램 (ER Diagram)
• API 사양 (API Specification)
• 상태 전이 (State Transition)
• 시스템 구성 (System Configuration)
• 테스트 대응표 (Test Matrix)

"로그인 기능을 만들어줘"라고 말하는 것보다, 화면·API·DB·권한·이상계(Exception Case)·테스트 조건이 갖춰졌을 때 구현 품질이 크게 향상됩니다.

언어화할 것:

• 현행 업무의 목적
• 문제와 발생 빈도
• 담당자별 책임
• 판단에 사용하는 정보
• 예외 처리
• 개선 후의 KPI

가시화하면 좋은 것:

• As-Is / To-Be 플로우
• RACI
• 공수·대기 시간
• 과제와 원인의 관계
• 시스템·장표·데이터의 대응

언어화할 것:

• 조사 목적
• 비교 후보
• 평가 축
• 기준일
• 대상 지역
• 예산
• 공식 정보의 우선순위
• 추측을 허용하는 범위

가시화하면 좋은 것:

• 비교표

• 근거 매트릭스 (Evidence Matrix)

• 장점·단점 (Pros/Cons)

• 확정／추측／불명 구분

• 출처와 주장의 대응표

• 고객 정보

• 개인 정보

• 인증 정보

• API 키

• 계약서

• 미공개 소스 코드

• 사외비 자료

• 장애 로그

• 의료·인사 정보

이용 플랜, 계약, 저장 설정, 학습 이용 여부뿐만 아니라, 회사의 규정과 액세스 권한을 확인합니다.

문안을 작성할 권한과, 실제로 메일을 전송·파일을 삭제·운영 환경에 반영할 권한은 별개입니다.

저위험: 읽기, 요약, 초안 작성
중위험: 파일 편집, 코드 수정, 일정 생성
고위험: 전송, 삭제, 운영 반영, 결제, 권한 변경

고위험 작업에는 인간의 승인, 로그, 롤백(Rollback) 수단을 마련합니다.

• Draft: 미확인
• Reviewed: 인간 또는 별도 공정에서 확인 완료
• Approved: 책임자 승인 완료
• Published / Deployed: 공개·반영 완료

상태를 혼용하지 않는 것이 중요합니다.

【목적】
무엇을 위해 수행하는가:
【대상】
...

이 요청을 실행하기 전에, AI가 추측할 수밖에 없는 부분을 추출해 주세요.
각 항목을 다음 3단계로 분류해 주세요.
A: 부족할 경우 결과가 크게 달라지므로 확인이 필요
...

결과물을 다음 관점에서 채점해 주세요. 각 5점 만점입니다.
- 목적 부합도
- 사실의 정확성
...

AI가 잘하는 것은 주어진 문맥으로부터 패턴을 읽어내어 문장·안(Draft)·분석·코드 등의 후보를 고속으로 생성하는 것입니다.

AI로부터 좋은 결과를 얻기 위해 인간이 담당해야 할 역할은 다음과 같습니다.

• 목적을 결정한다
• 현상과 이상향을 언어화한다
• 관계와 조건을 도표로 보여준다
• 근거 자료를 전달한다
• 우선순위와 판단 기준을 제시한다
• 도구와 권한을 적절히 부여한다
• 중간 결과를 관측한다
• 합격 여부를 평가한다
• 최종 책임을 진다

AI에게 최적의 답을 내게 하려면, 답 그 자체를 가르칠 필요는 없다.

무엇을 목표로 하고, 무엇을 근거로 하며, 무엇을 지키고, 어떻게 합격 여부를 결정할지를 보이는 형태로 만든다.

Yann LeCun, Yoshua Bengio, Geoffrey Hinton, “Deep learning,”

Nature, 2015

https://www.nature.com/articles/nature14539 -
Ashish Vaswani et al., “Attention Is All You Need,” 2017

https://arxiv.org/abs/1706.03762 -
Patrick Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks,” 2020

https://arxiv.org/abs/2005.11401 -
Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models,” 2022

https://arxiv.org/abs/2210.03629 -
OpenAI, “Prompt engineering / Prompting”

https://developers.openai.com/api/docs/guides/prompting -
OpenAI, “Harness engineering: leveraging Codex in an agent-first world,” 2026

https://openai.com/index/harness-engineering/ -
OpenAI, “Testing Agent Skills Systematically with Evals,” 2026

https://developers.openai.com/blog/eval-skills -
Anthropic, “Building effective agents,” 2024

https://www.anthropic.com/engineering/building-effective-agents -
Anthropic, “Effective context engineering for AI agents,” 2025

https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents -
Anthropic, “Equipping agents for the real world with Agent Skills,” 2025

https://www.anthropic.com/engineering/equipping-agents-for-the-real-world-with-agent-skills -
Anthropic, “Effective harnesses for long-running agents,” 2025

• 본 자료는 초보자를 위해 기술 개념을 단순화했습니다.
• ‘AI가 이해한다’, ‘생각한다’와 같은 일상어는 내부 처리가 인간과 같다는 의미를 갖지 않습니다.
• 서비스 사양, 요금, 저장 정책, 기능, 법규 등은 변경될 수 있으므로, 이용 시점의 공식 정보를 확인해 주십시오.