Chris March, ModernOps 작성. Field Notes 블로그의 허가를 받아 재게시되었습니다 — 동료 Ryan Beglau가 이곳에 게시함.

당신은 지능(intelligence)을 위해 돈을 지불합니다. 그리고 나서 훨씬 더 가치 있는 것, 즉 그 지능을 유용하게 만들기 위해 넘겨주는 독점적 지식(proprietary knowledge)으로 다시 한번 대가를 치릅니다. 그 두 번째 청구서는 아무도 주의 깊게 읽지 않는 것입니다.

01 — 두 번째 청구서

Satya Nadella는 지난주 "역정보 역설(The Reverse Information Paradox)"이라는 짧은 글을 발표했습니다. AI 전략 근처에서 일하고 있다면, 10분의 시간을 투자할 가치가 있습니다. 저는 이것이 왜 중요한지 파헤쳐 보고 싶습니다. 왜냐하면 이것이 제가 중견 기업들과 매주 거의 매주 마주치는 문제에 대해 언어를 부여하기 때문입니다.

그의 핵심 아이디어는 다음과 같습니다. 1960년대에 경제학자 Kenneth Arrow는 정보 시장의 역설을 설명했습니다. 판매자는 자신이 알고 있는 것을 공개하지 않고서는 그 가치를 증명할 수 없으며, 일단 공개하고 나면 구매자는 그것을 무료로 갖게 됩니다. AI는 이를 뒤집습니다. 이제 위험에 처한 쪽은 구매자입니다. 당신은 지능(intelligence)을 위해 돈을 지불하고, 그다음 훨씬 더 가치 있는 것, 즉 그 지능을 유용하게 만들기 위해 넘겨줘야 하는 독점적 지식(proprietary knowledge)으로 다시 한번 대가를 치릅니다. 모델이 더 나은 성능을 내길 원할수록, 당신은 더 많은 자신의 지식을 모델에 주입하게 됩니다. 그리고 그 과정 내내, 판매자는 당신에 대해 더 많이 배우는 반면, 당신은 그들이 보답으로 무엇을 배우고 있는지에 대해서는 거의 아무것도 알지 못합니다. 별로 똑똑해 보이지 않죠?

그 두 번째 청구서는 아무도 주의 깊게 읽지 않는 것입니다. 그리고 그것은 리더들이 밤잠을 설치게 만들어야 할 문제입니다.

02 — 속도의 함정

제가 대화하는 대부분의 중견 기업들은 AI를 사용할지 말지를 논쟁하고 있지 않습니다. 그 배는 이미 떠났습니다. 그들은 경주를 하고 있습니다. 리더십은 성과를 원하며, 이번 분기 안에 그 성과를 내길 원합니다. 그래서 비즈니스 부문은 전력 질주(sprint)하고, 거버넌스(governance) 및 리스크(risk) 팀은 결국 모두의 발목을 잡는 사람들로 낙인찍히게 됩니다. 때로는 비즈니스 부문이 원하긴 하지만 어디서부터 시작해야 할지조차 몰라서, Claude에 모든 정보를 입력하고 되돌려 받은 결과물을 그대로 다시 내뱉게(regurgitated) 만듭니다. 하지만 그들은 지속 가능한 무언가를 구축하지 못했습니다. 그것은 운영 모델(operating model)을 변화시킨 것이 아니라, 단지 몇 분을 절약했을 뿐입니다.

저는 양측 모두에게 깊은 공감을 느낍니다. 움직여야 한다는 압박은 실재합니다. 법무팀이 데이터 처리 계약(data processing agreement)을 여전히 검토하고 있다는 이유로 경쟁사에게 뒤처지는 회사가 되고 싶은 사람은 아무도 없습니다. 하지만 거버넌스 담당자들의 말도 틀린 것은 아닙니다. 그들은 이 전력 질주가 조용히 무엇을 내어주고 있는지 보고 있습니다... 적어도 제가 그들에게 주는 평가는 그렇습니다. 때로는 그들이 완전히 순진할 때도 있습니다. 그러한 순진함 또한 치명적인데, 나중에 무슨 일이 일어났는지 깨닫고 Satya의 글과 같은 기사들이 나오고 나서야 진실을 알게 되면 진보를 저해하기 때문입니다.

여기서 구조적인 문제가 발생합니다. 이러한 기업 대부분은 이미 대규모 클라우드 계약을 체결한 상태입니다. 약정 지출(committed spend), 협상된 할인 등 모든 것이 갖춰져 있습니다. 따라서 AI가 등장했을 때, 저항이 가장 적은 경로는 명확합니다. 이미 종속(locked into)되어 있는 플랫폼으로부터 번들(bundled) 기능을 구매하는 것입니다. 이미 가지고 있는 카드를 긁으면 됩니다. 그것은 빠르고, 쉽고, 서류상으로는 효율적으로 보입니다.

문제는 구축(building) 대신 구매(buying)를 선택하는 것이 중립적인 선택이 아니라는 점입니다. 그것은 시간이 흐름에 따라 누가 더 똑똑해질 것인가에 대한 결정입니다. 그리고 기본 설정(default setup)에서는, 당신이 아닙니다.

03 — 당신의 보물을 지키세요!

이 부분이 바로 Satya가 정확히 짚어낸 지점이자, 대부분의 조직이 놓치고 있는 부분입니다. 모델은 당신이 공식적으로 로드하는 데이터로부터만 학습하는 것이 아닙니다. 모델은 배기가스(exhaust)로부터도 학습합니다. 당신의 직원들이 작성하는 프롬프트(prompts), 에이전트(agents)가 사용하는 도구들, 그리고 무엇보다도 모델이 틀렸을 때 전문가들이 수행하는 수정 사항들로부터 학습합니다.

프롬프트 (prompts): 여러분의 직원들이 작성하는 것 — 비즈니스가 해결하려고 노력하는 모든 어려운 질문들이 그들만의 언어로 담겨 있습니다. 매일 작성되지만, 결코 검토되지 않습니다.

도구 (tools): 여러분의 에이전트(agents)들이 사용하는 것 — 여러분의 운영이 실제로 어떻게 업무를 수행하는지를 보여주는 실시간 지도입니다. 소리 없이 학습됩니다.

수정 사항 (corrections): 모델이 무언가 틀렸을 때 여러분의 전문가들이 수행하는 것. 15년의 판단력이 한 번에 하나의 흔적(trace)으로 남습니다. 가장 값비싼 자산입니다.

수정 사항이 실제로 무엇인지 생각해 보십시오. 그것은 여러분의 팀 내 시니어급 인력, 즉 여러분이 판단력을 기르도록 15년 동안 비용을 지불해 온 누군가가 어려운 결정에 대해 여러분의 비즈니스가 정확히 어떻게 생각하는지를 모델에게 알려주는 것입니다. 그것은 단순한 데이터가 아닙니다. 그것은 조직적 노하우 (institutional know-how)입니다. 경쟁사가 어떤 가격을 치르더라도 결코 살 수 없는 것입니다. 그리고 모든 것을 구매하는 모델 (buy-everything model)에서는, 이것이 한 번에 하나의 흔적, 한 번에 하나의 수정 사항으로 조금씩 새어 나갑니다. 너무나 느리게 진행되어 아무도 이에 대해 사고 보고서 (incident report)를 작성하지 않습니다.

저자의 노트: 이런 점들이 저를 미치게 만듭니다. 우리는 경험을 외주 줄 수 없습니다. 또한 그것을 거저 주어서도 안 됩니다. 지능을 소비하면서 여러분은 지능을 창조하고 있습니다. 그리고 여러분이 창조한 것은 여러분의 소유여야 합니다.

나델라(Nadella)는 이를 잘 표현했습니다. 만약 학습이 오직 한 방향으로만 흐른다면, 시간이 흐를수록 그 가치는 지식을 처음 생성한 회사가 아니라 학습 인프라 (learning infrastructure)를 소유한 자에게 쌓이게 됩니다.

중견 기업에게 있어 여러분의 데이터와 팀의 판단력은 승부의 전부입니다. 그것은 여러분을 모방하기 어렵게 만드는 유일한 요소입니다. 편리한 구매의 부산물로서 이를 넘겨주는 것은, 기업들이 자신이 실수를 저지르고 있다는 사실조차 인지하지 못한 채 저지르는 가장 값비싼 실수입니다. 아직 초기 단계이지만, 기성 제품을 구매하는 경로를 유지하는 것은 나중에 배를 바로잡아야 할 때 큰 비용을 치르게 될 것이며, 그 시점에는 이미 상황을 돌이킬 수 없게 될 것입니다.

04 — 잘못된 선택지

시장은 리더들에게 깔끔한 트레이드오프 (tradeoff)처럼 보이는 것을 제시합니다. 빠르게 움직이며 구매하고, 정보 유출을 받아들이거나. 혹은 데이터를 보호하며 직접 구축하고, 속도가 느려지고 그것이 하나의 과학 프로젝트 (science project)처럼 변하는 것을 받아들이라는 것입니다.

옵션 A — 빠르게 움직이고 구매하세요. 누수(leakage)를 받아들이세요. 이미 가지고 있는 카드를 스와이프하는 것과 같습니다. 종이 위에서는 빠르고, 쉽고, 효율적이지만, 기본 설정은 시간이 지남에 따라 누가 더 똑똑해질지 조용히 결정합니다. 문제는 당신이 아닙니다. 지금은 편리하지만, 나중에는 비용이 많이 듭니다.

옵션 B — 보호하고 구축하세요. 과학 프로젝트를 받아들이세요. 데이터를 지키고 직접 구축하는 것입니다. 시장이 당신 없이 움직이는 동안 2년간의 플랫폼 개편으로 포장됩니다. 안전합니다. 느립니다.

저는 그러한 상충 관계(tradeoff)를 받아들이지 않으며, 당신도 그래선 안 됩니다. 이것은 잘못된 선택이며, 주로 구매 옵션이 너무 편리하게 포장되어 있고 구축 옵션이 2년간의 플랫폼 개편으로 제시되기 때문에 존재합니다.

바로 그 간극 때문에 저희는 ModernOps에서 접근 방식을 설계하고, 대규모 컨설팅 비용에 만족하지 않고 빠르고 결과(outcomes)에 집중하는 파트너들과 협력하게 된 것입니다.

05 — 제안 (The pitch)

저희는 혼합된 접근 방식(blended approach)을 취합니다. 목표는 개념 증명(proof of concept) 단계에서 실제 비즈니스 결과로 12주 이내에 도달하게 하는 것이며, 나중에 벗어나야 할 구덩이를 파는 대신 기반을 구축하는 방식으로 이를 수행하는 것입니다.

아키텍처가 올바르다면 속도와 거버넌스(governance)는 상반되는 힘이 아닙니다. 저희는 중요한 사용 사례(use cases)에 대해 빠르게 움직일 수 있도록 돕고, 동시에 민감한 데이터가 당신의 영역 안에 머무르도록 신뢰 경계(trust boundary)를 설정합니다. '좋다'는 것이 무엇인지 정의하는 오직 당신 자신의 평가(evals)는 여전히 당신의 것입니다. 추적 기록(traces), 수정 사항, 기관 기억(institutional memory) 등 모든 것이 당신 측에 축적되어 배기가스로 새어 나가는 대신 자산으로 복리 효과를 냅니다.

또한 저희는 오케스트레이션 계층(orchestration layer)을 특정 모델로부터 분리하여 유지합니다. 이것은 Satya의 발표에서 조용하지만 거대한 포인트입니다. 만약 당신이 모든 것을 기반으로 구축한 단일 모델이 내일 제거되거나, 가격이 재조정되거나, 사용 중단된다면 여전히 운영할 수 있습니까? 다른 모델을 밑에 두고도 평가(evals)를 수행할 수 있습니까? 만약 답이 '아니요'라면, 당신은 자신의 역량(capability)을 소유하고 있는 것이 아닙니다. 임대하는 것이며, 건물주가 조건을 정합니다.

이것을 올바르게 수행한다면, 모든 AI 이니셔티브 (AI initiative)는 매 분기마다 다시 지불해야 하는 비용이 아니라 당신이 소유한 지식재산 (IP)이 되기 시작할 것입니다. 당신 팀의 판단력이 캡처(captured)되고, 보호되며, 재사용됩니다. 학습 루프 (learning loop)는 당신의 울타리 안에서 실행되며 매 사이클마다 더 나아집니다. 그것이 AI에 비용을 지출하는 것과 AI를 통해 복리 효과를 누리는 것의 차이입니다.

06 — 요점

Satya는 이 문제를 명확하게 정의했습니다: 기업은 자신을 독특하게 만드는 지식을 포기하지 않고도 모델을 사용할 수 있어야 합니다. 그것이 바로 역정보 역설 (reverse information paradox)이며, 이를 직시하는 것은 철학적인 연습이 아닙니다. 그것은 당신의 팀이 쉬운 길을 택할 때마다, 당신이 알고 있든 모르든 지금 이 순간 내리고 있는 일련의 결정들입니다.

당신은 지능에 대해 비용을 지불하게 될 것입니다. 그것은 괜찮습니다. 다만 그 과정에서 당신의 핵심 자산 (crown jewels)을 잃지 않도록 주의하십시오.

원문 게시: Chris March, modernops.com.

공시: Chris와 저는 모두 ModernOps에서 근무하고 있으며, 섹션 04–05는 저희의 서비스를 설명합니다. 이 점을 염두에 두고 읽어주시기 바랍니다. 섹션 01–03 및 06의 프레임워크는 어느 경우든 그 자체로 독립적인 가치를 지닙니다.