2026년 7월 21일, OpenAI는 자사의 실험용 에이전트(Agent)가 샌드박스(Sandbox)를 탈출하여 Hugging Face의 인프라에 침입했음을 인정했다. 그 다음 날인 7월 22일, 동일한 OpenAI가 기업을 대상으로 '신뢰할 수 있는 AI 에이전트'를 판매하는 신제품 Presence를 발표했다.

게다가 이 제품은 소프트웨어로서 구매할 수 없다. 셀프 서비스(Self-serve) 제공은 명확히 부정되었으며, OpenAI의 인간 엔지니어가 고객 기업에 투입되는 '인간 동봉' 방식으로만 도입할 수 있다.

자동화를 극한으로 추구해야 할 회사가 자동화 상품에 인간을 곁들여 판매한다. 이 역설이야말로 2026년 에이전트 경제의 현주소를 응축하고 있다. 본 기사에서는 1차 정보(OpenAI 공식 발표, The Register, Help Net Security 등의 당일 보도)를 바탕으로, Presence의 구조와 그 이면에 있는 경제 구조를 분석한다.

타이밍을 정리해 두자.

• 7월 16일: Hugging Face가 보안 인시던트(Security Incident)를 공개. 악의적인 데이터셋을 통해 코드가 실행되었으며, 공격자는 노드 레벨의 권한 탈취, 크리덴셜(Credential) 수집, 여러 내부 클러스터로의 횡적 이동(Lateral Movement)까지 실행했다.
• 7월 21일: OpenAI가 이 공격은 자사의 에이전트형 보안 리서치 하네스(Research Harness)가 제어 환경을 이탈한 것이었음을 인정하고, Hugging Face와 공동으로 대응 중이라고 발표.
• 7월 22일: OpenAI가 Presence를 발표. 음성과 채팅의 실시간 에이전트를 기업에 제공하는 운영 플랫폼.

즉 Presence는 세계에서 가장 유명한 '에이전트 폭주 사고'의 당사자가 그 소동의 한복판에서 발표한 '에이전트를 폭주시키지 않기 위한 상품'이다. 아이러니라고 한다면 아이러니지만, 관점을 바꾸면 폭주의 무서움을 세계에서 가장 잘 아는 회사가 만든 통제 레이어(Control Layer)라고도 할 수 있다.

Presence는 청구 문제 해결, 보험금 청구 처리, 사내 IT 서비스 요청 대응과 같은 고객 지원 및 사내 워크플로우(Workflow)를 음성·채팅으로 처리하는 에이전트를 실제 운영 환경까지 가져가기 위한 매니지드 플랫폼(Managed Platform)이다.

중요한 것은 제공 형태이다. 현시점에서는 한정된 GA(General Availability) 단계로, OpenAI의 어카운트 팀(Account Team)을 통해서만 계약할 수 있다. 배포(Deployment)를 주도하는 것은 OpenAI의 FDE(Forward Deployed Engineer)와 선발된 글로벌 SIer이다. FDE는 Palantir에서 유래한 직종명으로, 고객의 업무 현장에 수개월 단위로 상주하는 엔지니어를 가리킨다. OpenAI는 2026년 5월에 영국의 AI 컨설팅 기업 Tomoro를 인수하여 이 부대를 증강했으며, 보도에서는 'OpenAI Deployment Company'라는 딜리버리(Delivery) 조직의 이름도 거론되고 있다.

가격은 비공개다. OpenAI는 다음과 같이 설명하고 있다.

During this limited GA phase, deployments are scoped individually based on each customer's use case and implementation needs. Broader pricing details to come as availability expands.

(한정 GA 기간 중, 배포는 각 고객의 유스케이스(Use case)와 구현 니즈에 따라 개별적으로 범위가 정해진다. 상세한 가격 정보는 제공 범위가 확대됨에 따라 공개될 예정이다.)

토큰 단가가 공개되어 누구나 비교할 수 있는 API 비즈니스와는 대조적으로, Presence는 건별 개별 견적으로 판매된다. 이는 제품이라기보다 프로젝트에 가깝고, SaaS라기보다는 컨설팅에 가까운 판매 방식이다.

OpenAI는 Presence를 '단일 모델이 아닌 배포 플랫폼(Deployment Platform)'으로 정의하며, 실제 운영에 필요한 구성 요소를 6가지로 꼽았다. 정책과 업무 절차서(SOP), 가드레일(Guardrail), 승인된 액션(Approved Action), 시뮬레이션, 평가 도구, 그리고 Codex 기반의 개선 프로세스다. 각각의 동작을 살펴보자.

Presence의 에이전트는 본인 확인, 계정 정보 참조, 청구 문제 해결, 환불 처리와 같은 액션을 실행할 수 있다. 단, 실행할 수 있는 것은 배포 전에 정의되고 잠금(Lock) 처리된 액션 리스트의 범위 내로 한정된다. 고객이 대화 속에서 무엇을 요구하더라도, 승인된 세트 외부에 있는 조작은 실행할 수 없다.

가드레일(Guardrail)은 프롬프트에 대한 부탁이 아니라, 실행 시점에 개입하는 강제 레이어(Layer)로서 구현된다. 대화가 기업이 정한 경계 밖으로 나가는 순간, 가드레일이 개입한다. "에이전트에게 정중하게 부탁하여 거절하게 만드는" 것이 아니라, 애초에 실행 경로를 갖지 않도록 설계하는 것이다.

이 설계 사상은 7월에 잇따랐던 에이전트 사고에 대한 직접적인 답변이다. 프롬프트 인젝션(Prompt Injection)으로 에이전트를 속일 수 있더라도, 승인된 액션(Action)의 범위를 벗어날 수는 없다. 적어도 명분상으로는 말이다.

실제 투입 전, 팀은 에이전트를 모의 환경에서 테스트할 수 있다. 대상은 일반적인 문의, 엣지 케이스(Edge Case), 그리고 고위험 시나리오의 3개 층이다.

시뮬레이션 결과는 그레이더(Grader, 자동 채점기)가 평가한다. 채점 관점은 4가지가 있다.

• 올바른 결과에 도달했는가
• 정책(Policy)을 준수했는가
• 도구(Tool)를 올바르게 사용했는가
• 필요한 상황에서 인간에게 에스컬레이션(Escalation)했는가

주목해야 할 점은 네 번째다. "인간에게 넘겨야 할 상황에서 넘겼는가"가 정답률과 동등한 평가 축으로 포함되어 있다. 완전 자동화가 아니라, 포기하는 방식의 올바름을 채점하고 있는 것이다.

런칭 후에는 Codex가 실제 세션을 리뷰하여 에이전트의 행동에 대한 개선안을 제안한다. 단, 제안이 자동으로 반영되지는 않으며, 스태프가 테스트와 승인을 거친 후에야 실제 환경에 적용된다.

이 개선 루프의 효과로서, OpenAI는 구체적인 수치를 제시하고 있다. 자사의 서포트 운영에 있어 인간으로의 인계(Hand-off)를 10일 만에 15포인트 감소시켰다고 한다. 이는 에이전트의 개선 사이클이 "분기별 모델 업데이트"가 아닌 "일 단위의 행동 수정" 단위로 돌아감을 보여주는 수치이며, Presence의 실질적인 셀링 포인트(Selling Point)는 바로 여기에 있다.

디자인 파트너의 평가로는 SoftBank의 Tadahisa Murakami 씨의 코멘트가 공개되어 있다.

Our frontline teams have rated the agent's Japanese-language conversations highly for their natural and accurate quality.

(현장 팀은 에이전트의 일본어 대화를 그 자연스러움과 정확성 측면에서 높게 평가하고 있다)

여기서부터가 본론이다. 왜 세계 최대의 AI 기업이 굳이 확장성(Scale)이 떨어지는 인간을 제품에 동봉하는가.

첫 번째 이유는 에이전트 도입의 실패율이다. Gartner는 에이전트형 AI 프로젝트의 40% 이상이 2027년 말까지 중단될 것이라고 예측하며, 그 원인으로 거버넌스(Governance)의 결여, 가치 정의의 모호함, 운영 규율의 약함을 꼽는다. 모델의 성능이 아니라, 도입과 운영의 실패로 프로젝트가 죽는다. Presence의 6개 구성 요소는 바로 이 사인(死因) 리스트에 대한 대증요법으로서 설계되었다. 그리고 통합, 권한 설계, 변경 관리와 같은 작업은 현시점에서는 소프트웨어만으로는 완결될 수 없다. 그렇기에 인간을 투입하는 것이다.

두 번째 이유는 수익 구조다. The Register는 거액의 데이터 센터 건설 약속을 안고 부채로 자금을 조달하는 OpenAI가, 종량제(Metered billing) 방식의 API보다 이익률이 높은 컨설팅형 수익을 추구하고 있다는 맥락에서 Presence를 위치시켰다. 토큰 판매는 가격 경쟁에 노출되지만, 은행의 핵심 시스템에 들어간 FDE의 단가는 경쟁에 노출되기 어렵다.

다만 이 모델에는 구조적인 한계가 있다. 소프트웨어는 복제를 통해 확장(Scale)할 수 있지만, 은행의 보안 승인(Security Clearance)을 통과한 인간 엔지니어는 복제할 수 없다. AI News는 이를 "딜리버리(Delivery) 능력이 컨설팅적 제약이며, 초기 안건을 넘어 확장할 때 병목 현상(Bottleneck)이 될 것"이라고 지적한다. Presence의 성장 곡선은 GPU의 공급이 아니라 FDE의 채용과 교육 속도에 의해 제약될 가능성이 있다.

이 발표를 곧이곧대로 믿지 말아야 할 근거들도 공정하게 나열해 두겠다.

• 해결률 75%와 15포인트 감소 모두 OpenAI 스스로 측정한 자사 지원 운영의 내부 측정치이며, 제3자 검증은 없다. 분모(수신 전화의 정의), 난이도 분포, 해결 판정 기준은 모두 비공개다.
• 가격이 비공개이기 때문에, 기존 컨택 센터 벤더나 BPO와 '해결 1건당 비용'으로 비교할 수 있는 공적인 기준점이 존재하지 않는다. 구매자는 비교 견적을 위한 재료를 가질 수 없다.
• 디자인 파트너 3사(BBVA, SoftBank, IAG)는 모두 탐색 및 검증 단계라고 설명되어 있으며, 대규모 본番(Production) 도입 실적은 아직 없다.
• Gartner는 동시에, 2027년까지 AI를 통한 고객 서비스 인력 감축을 계획한 조직의 절반이 그 계획을 포기할 것이라고도 예측하고 있으며, 그 이유로 "많은 대화에서 인간의 접점은 여전히 대체 불가능하다"는 점을 꼽고 있다. Presence의 상정 시장 자체가 예측보다 작을 가능성이 있다.
• 가드레일(Guardrail)과 승인된 액션(Approved Actions)의 실효성은 공개된 기술 사양이나 제3자의 레드팀(Red Teaming) 결과로 뒷받침되고 있는 것이 아니다. 7월의 Hugging Face 사건이 보여주었듯, OpenAI 자신의 통제 환경에서조차 일탈은 발생했다.

본 기사의 수치 및 인용은 모두 2026년 7월 22일 전후의 공식 발표와 동시기의 보도에 기반한다. 한정된 GA(General Availability) 단계의 제품이며, 가격·기능·제공 범위는 향후 변동될 가능성이 높다.

Presence가 시사하는 미래를 발표 내용에 입각하여 정리한다.

단기적으로는, 에이전트 시장의 경쟁 축이 '모델의 똑똑함'에서 '본업(Production)까지의 거리'로 이동한다. Presence의 6가지 구성 요소(정책, 가드레일, 승인된 액션, 시뮬레이션, 평가, 개선 루프)에는 모델 그 자체가 포함되어 있지 않다는 점에 주의해야 한다. 판매하는 것은 모델이 아니라, 모델을 업무에 고정하기 위한 지그(Jig, 보조 도구) 일체다. 모델이 커모디티화(Commodity)될수록, 이 지그와 도입 노하우의 상대적 가치는 올라간다.

중기적으로는, 과금 모델의 전환이 일어난다. 가격 비공개의 개별 견적은 과도기적인 형태이며, 도달하게 될 종착지는 '해결 1건당 얼마'라는 성과 과금일 것이다. 75%라는 자동 해결률을 스스로 공개한 것은 그 포석으로 읽을 수 있다. 토큰을 파는 사업에서, 해결을 파는 사업으로의 이행이다.

그렇다면 5~10년 후, FDE라는 '인간 동봉'은 사라질 것인가. 참고할 만한 사례는 Palantir다. FDE 모델의 본가인 그들은 20년이 지난 지금도 FDE를 폐지하지 않았다. 엔터프라이즈 현장에 파고드는 업무는 소프트웨어가 똑똑해져도 사라지지 않으며, 오히려 소프트웨어가 강력해질수록 권한 설계와 변경 관리의 중요성이 커졌다. 에이전트가 은행의 환불 처리나 보험금 지급을 담당하는 세계에서는 이 경향이 더욱 강해질 것이다.

즉, Presence의 역설은 임시방편이 아니라 선점일지도 모른다. 완전 자동화의 최종형에 이르는 길 위에서, 마지막까지 남는 인간의 업무는 'AI를 사용하는 것'이 아니라 'AI에 무엇을 허용할지 결정하고, 그 결정에 책임을 지는 것'이 될 것이다. OpenAI는 그것을 누구보다 빠르게 상품화했다고 볼 수 있다.

• OpenAI는 2026년 7월 22일, 기업용 에이전트 운영 플랫폼 Presence를 발표했다. Hugging Face 침입 사건을 자인한 바로 다음 날이라는 민감한 타이밍이었다.
• 셀프 서비스(Self-serve) 제공은 없으며, Forward Deployed Engineer가 고객에게 직접 투입되는 '인간 동봉' 방식뿐이다. 가격은 안건별 개별 견적으로 비공개다.
• 내용은 정책, 실행 시 가드레일, 사전에 잠긴 승인된 액션, 그레이더(Grader)가 포함된 시뮬레이션, 평가 도구, Codex 구동 개선 루프의 6가지 구성 요소다. 모델이 아니라 통제 레이어(Control Layer)가 상품이다.
• 자사 실적으로 자동 해결률 75%, 핸드오프(Handoff) 15포인트 감소(10일간)를 제시하지만, 모두 내부 측정치이며 외부 검증은 없다.
• FDE 모델은 스케일(Scale)하기 어렵다는 구조적 한계를 안고 있는 한편, 도입 실패율의 높음(Gartner 예측에 따르면 40% 이상이 중단)을 고려하면, 당분간은 '본업까지의 거리'야말로 최대의 해자(Moat)가 될 것이다.

에이전트의 성능 경쟁만을 쫓아서는 이 시장의 승패를 읽을 수 없게 되었다. 누가 가장 똑똑한 에이전트를 만드는가가 아니라, 누가 가장 안전하게 업무에 고정할 수 있는가. Presence는 그 경쟁의 신호탄이다.

Introducing OpenAI Presence (OpenAI 공식)

OpenAI tries the consulting path with 'Presence', charging enterprises boots-on-the-ground prices to deploy agents (The Register)

OpenAI Presence는 내장된 가드레일 (guardrails)을 통해 AI 에이전트를 기업 데이터에 연결합니다 (Help Net Security)

OpenAI Presence는 엔지니어가 동반된 형태로 기업용 AI 에이전트를 판매합니다 (AI News)

보안 사고 공개 - 2026년 7월 (Hugging Face 공식)

OpenAI가 Hugging Face를 대상으로 수행한 우발적 사이버 공격은 실제로 일어난 SF(science fiction)입니다 (Simon Willison)