내부자 위험 할인(Insider Risk Discount)

Microsoft CEO Satya Nadella가 첨단 언어 모델을 내부자 위험으로 규정한 에세이를 발표했을 때, 기술 평론은 정치적 책략과 워싱턴의 수사학에 초점을 맞췄습니다. Nadella는 'Super Intelligence'라는 용어를 채택하며 기업 구매자들에게 파운데이션 모델(foundation models)을 엄격한 샌드박싱(sandboxing), 완전한 감사 추적(audit trails), 그리고 결정론적 격리 아키텍처(deterministic containment architectures)가 필요한 신뢰할 수 없는 직원처럼 취급하라고 촉구했습니다. 여기서의 공학적 논리는 타당합니다. 비결정론적 모델을 런타임 검증 없이 기업 원장(corporate ledgers)에 실행하는 것은 운영상의 실패를 초래하기 때문입니다. 하지만 이 메모 뒤에 숨겨진 상업적 메커니즘은 엔터프라이즈 배포 권한에 대해 다른 이야기를 들려줍니다.

Microsoft와 같은 하이퍼스케일러(hyperscalers)의 핵심 문제는 가치 포착(value capture)입니다. OpenAI와 Anthropic가 수십억 달러 규모의 기업 가치를 받고 자본을 조달했을 때, 그 근저에 깔린 제안은 모델이 주요 컴퓨팅 인터페이스가 될 것이라는 가정에 기반합니다. 그런 세상에서, 자율 에이전트(autonomous agent)는 추론을 처리하고, 도구를 선택하며, 기업 데이터와 직접 상호 작용합니다. 만약 모델이 주권적인 운영 계층(sovereign operating layer) 역할을 한다면, 가중치(weights)를 훈련시키는 연구소가 경제적 지대(economic rent)의 대부분을 가져가게 됩니다. 클라우드 호스팅 제공업체는 전력량(kilowatt-hours)과 GPU 메모리 대역폭을 도매로 판매하는 역할로 격하되고, 막대한 감가상각 주기(depreciation cycles)를 흡수하면서 유틸리티 총이익(utility gross margins)만 얻게 됩니다.

Nadella가 제안한 아키텍처는 지능과 권한을 분리함으로써 이러한 위협에 대응합니다. 그의 프레임워크에서 모델은 단지 결정론적 제어 평면(deterministic control plane) 뒤에 위치해야 하는 비결정론적 생성기일 뿐입니다. 기업은 결코 모델을 직접 신뢰해서는 안 됩니다. 대신, 모든 입력과 출력은 ID 필터, 정책 강제 엔진(policy enforcement engines), 로깅 인프라, 그리고 수동 종료 스위치(manual kill switches)를 거쳐야 합니다. Nadella는 가장 신뢰할 수 있는 시스템이 최고의 모델을 가진 시스템이 아니라, 기업이 그 모델을 가장 적게 신뢰해야 하는 시스템이라고 명확하게 주장했습니다.

프론티어 모델을 자율 에이전트에서 신뢰할 수 없는 컴포넌트로 격하시키는 것은 연구소와 배급자 간의 힘의 균형을 변화시킵니다. 기업이 모델을 휘발성 내부자 위험(insider risks)처럼 취급해야 한다고 받아들이게 되면, 단일 프론티어 제공업체에 대한 의존은 용납할 수 없는 취약점이 됩니다. 따라서 모델 다양성이 규정 준수 요건(compliance requirement)이 됩니다. 만약 다섯 가지의 서로 다른 오픈 웨이트(open-weight) 또는 독점 모델을 동일한 결정론적 하네스(deterministic harness)에 교체할 수 있다면, 모델 가중치(model weights)는 상호 교환 가능한 상품으로 변모합니다. 프론티어 연구소들의 가격 결정력은 그 지능이 실행 권한에서 박탈되기 때문에 붕괴됩니다.

가치가 사라지는 것은 아닙니다. 그것은 직접적으로 격리 포장지(containment envelope) 안으로 이동합니다. 수백만 명의 기업 사용자들을 위한 권한, 접근 로그, 데이터 격리 경계, 규정 준수 감사를 관리하는 데는 기존의 신원 인프라가 필요합니다. Microsoft는 이미 Entra, Purview, Microsoft 365 Copilot과 같은 제품을 통해 이 포장지를 판매하고 있습니다. 프론티어 모델이 내부자 위협이라는 점을 기업 보안 책임자들을 설득함으로써, Microsoft는 높은 마진의 수익이 모델을 훈련시킨 연구소가 아닌, 그 모델을 감싸는 거버넌스 플랫폼에 머물도록 보장합니다.

이러한 자세는 또한 Microsoft 자체 대차대조표 내에서 즉각적인 마진 문제를 해결해 줍니다. 프론티어 API 호출을 고정 가격의 엔터프라이즈 좌석(enterprise seats) 내부에서 실행하는 것은 가혹한 컴퓨팅 비용을 발생시킵니다. 만약 기업 구매자들이 비즈니스 워크플로우가 외부 연구소로부터 최첨단 추론(bleeding-edge reasoning)을 요구한다고 믿는다면, Microsoft는 해당 토큰들을 보조하거나 구독 가격을 인상해야 합니다. 안전성을 모델의 역량(model capability)이 아닌 결정론적 격리(deterministic containment)를 중심으로 재구성함으로써, Microsoft는 비싼 외부 모델을 더 저렴한 사내 증류 모델로 교체할 수 있는 명분을 얻습니다. 감사된 샌드박스 내부에서 기본적인 작업을 수행하는 작은 모델은 갑자기 품질에 대한 타협이 아니라 신중한 위험 관리처럼 보이게 됩니다.

선도 연구소(Frontier laboratories)들은 어려운 분배 압박에 직면해 있습니다. 이들은 수십만 개의 특수 칩과 수십억 달러의 인프라 자금 지원을 위해 클라우드 파트너들에게 의존합니다. 하지만 바로 그 파트너들이 모델이 고객 관계를 포착하는 것을 막기 위해 엔터프라이즈 소프트웨어 계층(enterprise software layer)을 체계적으로 설계하고 있습니다. 연구소들은 주권적 지능(sovereign intelligence)을 구축하기 위해 수백억 달러를 지출하고 있는 반면, 유통업체들은 그 지능을 통제해야 할 부채로 취급하는 요금소를 건설하고 있습니다.