Video: 팔란티어 CEO, 왜 OpenAI를 지금 공개 저격했나 | 토큰만 태우는 AI 논쟁, 이제 ‘돈값’ 싸움이다
Channel: 안될공학 - IT 테크 신기술
Duration: 23m 15s
Source: subtitle (auto, ko)
Transcript:
sitting there all day kind of like a porn addiction and enterprises are like we knew this we believe this will create value with네 >> 여러분 안녕하세요 패치입니다. 요즘 실리콘 밸리에 좀 이상한 단어가 하나 돌고 있는데요. 토큰 맥싱 직격하면 토큰을 최대한 태우기 정도로 볼 수 있어요. 그런데 이게 칭찬이 아닙니다. 지금 업계에서 가장 잘 나간다는 AI 회사들. 그러니까 오픈 AI나 앤트로픽처럼 AI 모델 자체를 만들고 파는 회사들을 겨냥한 비판에 가깝습니다. 오늘 영상에서는 이런 회사들을 편하게 모델 회사라고 부르겠습니다. 근데이 토큰 맥싱이 말을 꺼는 사람은 누구냐면요. 바로 팔란티어의 CEO 알렉스 카프입니다. 요지는 이거예요. 기업들이 AI를 정말 많이 쓰고 있다. 그런데 정작 돈이 되는 결과는 잘 안 보인다. 그런데 또 모델 회사들의 사업 구조는 기업이 더 많은 토큰을 쓰게 될수록 매출이 늘어나는 구조 아니냐?

그러니까 AI가 기업에 진짜 문제를 푸는 쪽으로 가고 있는지 아니면 그냥 점점 더 많은 토큰을 태우게 하는 쪽으로 가고 있는지를 묻고 있는 겁니다. 그런데 여기서부터가 좀 황당한데요. 카프가이 발언을 한 무대 중에 하나가 TVPN이라는 테크 방송이었어요. 근데이 TVPN이 뭐냐면 올해 4월에 오픈 AI가 사드린 채널입니다. 그러니까 카페는 오픈 AI를 저격하는 이야기를 하필 오픈 AI가 소유한 방송에서 한 셈이에요. 오늘은이 묘한 장면에서 한번 시작해 보려고 합니다.이 이야기는 단순히 팔란티어 CEO가 오픈 AI를 깠다가 아닙니다. 제가 보기에이 장면은 지금 AI 산업의 관심사가 어디로 이동하고 있는지를 보여 준다고 생각해요. 한동안 AI 경쟁은 누가 더 똑똑한 모델을 만들 수 있는가에 집중되어 있었습니다. 그런데 이제는 기업 고객의 청구서가 커지기 시작하면서 질문이 바뀌고 있어요.이 이 AI가 그럴듯한 답을 잘 내놓느냐가 아니라이 AI가 실제 조직의 의사 결정과 비용을 바꾸느냐 이게 바로 제가 오늘 가져온 이야기입니다.

자, 그럼이 토큰 맥싱이라는 말부터 정확히 풀어 보겠습니다. 혹시 여러분도 이런 경험 있으세요? AI API를 쓰거나 고급 모델을 돌리다 보면 어 뭔가 제대로 해 본 거 같지도 않은데 토큰이 서리를 빠르게 녹는 느낌이에요. 개인은 어 생각보다 좀 빨리 쓰네라는 정도로 끝낼 수 있지만 기업은 이거를 훨씬 더 큰 규모에서 겪습니다. AI 모델은 우리가 입력한 문장과 모델이 출력하는 문장을 작은 단위로 쪼개서 처리를 하는데요.이 단위를 우리는 토큰이라고 부르죠. 오픈 AI나 앤트로픽 같은 모델 회사의 API는 대체로이 토큰 단위로 가금이 되는데요. 입력한만큼 돈이 들고 모델이 답변을 길게 생성할수록 또 돈이 듭니다. 특히 모델이 만들어내는 출력 토큰은 우리가 집어넣는 입력 토큰보다 보통 몇 배는 훨씬 더 비싸요. 모델이 길게 떠들면 떠들수록 청구서가 더 길게 늘어나는 법이죠. 게다가 고급 모델일수록 토큰당 가격 자체도 올라가게 되는데요. 그럼 토큰은 왜 이렇게 돈이 될까요? 기본적인 트랜스포머 계열 모델에서는 입력된 토큰들이 서로 얼마나 관련 있는지를 계산하는 어텐션 연산이 들어가는데요.

전통적인 구조에서는이 계산량이 입력 길이에 따라서 크게 늘어나고 긴 문서를 통째로 집어넣을수록 컴퓨터 비용도 빠르게 커지게 됩니다. 물론 요즘은 플래시 아션이나 KV캐시 최적화, 스파스 아션, MOE, 경량 모델, 각종 출론 최적화처럼이 비용을 줄이기 위한 기술들도 계속 나오고 있어요. 그래도 기업 입장에서의 비용 문제는 쉽게 사라지지 않습니다. 긴 문맥을 넣고 복잡한 출론을 시키고 또 에이전트가 여러 번 도구를 호출하게 만들수록 결국 더 많은 연산이랑 메모리 대역복이 필요하게 되거든요. 답변 생성도 만만치 않습니다. 모델은 한 토큰을 뱉을 때마다 거대한 승력망을 통과해서 다음 토큰을 예측하게 되죠. 한 토큰 한 토큰 만들어 낼 때마다 GPU 연산이 들어가고 메모리와 프로세서 사이를 오가는 데이터 이동도 발생을 하겠죠. 결국 토큰 하나는 그냥 글자 조각이 아니라 실제 연산 비용이랑 전력 비용을 담고 있는 단위입니다. 그래서 토큰 단위의 가금 자체가 이상한 구조는 아니에요. 클라우드 서버도 많이 쓰면 돈을 많이 내고 전기도 많이 쓰면 또 전기비를 많이 내게 되겠죠.

그거랑 마찬가지예요. 그리고 사실 모델 회사들도 비용을 줄이는 장치를 함께 팝니다. 같은 내용을 반복해서 넣을 때 비용을 줄여 주는 캐싱. 그리고 급하지 않은 작업을 묶어서 싸게 처리하는 배치 처리. 더 저렴한 경량 모델이나 라우팅 같은 옵션들이 있습니다. 그러니까 모델 회사들이 무조건 토큰을 낭비하게 만든다라고 이렇게 단순하게 생각을 하시면 안 돼요. 기업 문제 자체가 복잡해질수록 더 많은 문맥이랑 추론이 필요하고 그 결과에 따라 토큰 사용량이 자연스럽게 늘어나는 측면도 분명히 있으니까요. 그런데도 카프가 문제를 삼은 지점은 따로 있습니다. 토큰 사용량이 늘어나는 거를 마치 생산성 자체가 올라가는 것처럼 착각을 하게 되는 상황입니다. 우리는 회사 안에서 AI를 하루 종일 돌리죠. 보고서 초안도 만들고 코드도 짜고 회의록도 요약하고 그리고 산내 문서도 검색을 합니다. 겉으로 보면 굉장히 혁신적인 일을 하고 있는 거 같아요. 그런데 재무팀이 볼 때 질문은 단순해집니다. 그래서 매출이 늘었나요? 비용이 줄었나요?

제품 출시가 빨라졌어요? 고객 대응이 좋아졌나요? AI를 많이 쓰는 것과 AI로 돈을 버는 거는 다른 얘기죠. 카프가 찌른 지점이 바로 여기였습니다. 그리고 이건 카프 혼자만의 주장도 아니에요. 시장 조사 기간인 같은 조사에서 인프라 운영, 그러니까 INO 영역의 AI 활용 사례 가운데 ROI 기대치를 충족한 비율이 고작 28%에 그쳤다는 결과가 나왔고요. 오픈 AI의 샘 알트먼도 높은 비용이 기업 고객에게는 심각한 문제라는 점을 인정한 적이 있습니다. 그러니까 AI에 돈은 쓰고 있는데 성과가 잘 안 보인다라는 문제 의식 자체는 비판하는 쪽도 그리고 비판을 받는 쪽도 어느 정도 공유를 하고 있는 셈입니다.이 장면은 과거 클라우드 산업을 떠올리게 하는데요. 클라우드 초창기에도 비슷한 착각이 있었습니다. 서버를 직접 사지 않고 AWS나 에저에서 컴퓨팅 자원을 빌려서 쓰면 그것만으로 마치 회사가 자동으로 디지털 전환될 것처럼 보였죠. 하지만 시간이 지나면서 분명해졌습니다. 컴퓨팅 사용량이 늘어나는 거 자체가 혁신은 아니었어요.

진짜 변화는 회사의 애플리케이션 구조, 그리고 데이터 흐름, 배포 방식, 보안 체계 이런 것들이 클라우드에 맞게 바뀔 때 나왔으니까요. AI도 비슷한 구간으로 들어가고 있습니다. 토큰을 많이 쓰는 것 가지고는 부족해요. 그 토큰이 어떤 업무를 바꾸고 또 어떤 의사 결정을 빠르게 만들고 어떤 비용을 어떻게 줄여 줬는지가 중요합니다. ERP도 비슷한 사례죠. 기업들이 데이터베이스를 갖고 있다고 해서 회사 운영이 이렇게 자동으로 좋아진 건 아니었잖아요. 셋 같은 ERP가 의미를 가졌던 건 단순히 데이터를 저장해서가 아니고 주문, 재고, 회계, 생산, 구매 이런 업무 객체들을 하나의 흐름으로 이렇게 쭉 묶어 줬기 때문이에요. AI 모델도 마찬가지입니다. 모델은 똑똑한 계산 엔진에 가까워요. 그런데 기업은 엔진만 사서는 굴러가지 않겠죠. 핸들이랑 브레이크랑 계기판, 도로 규칙 정비 시스템 이런게 모두 다 갖춰져 있어야지 실제로 움직이는 거잖아요. 팔란티어가 자신들의 차별점이라고 주장을 하는 지점이 바로 여기입니다.

그럼 여러분, 팔란티어는 정확히 뭘 파는 회사일까요? 알렉스 카프가 왜 이런 말을 했는지 이해를 하려면 팔란티어가 지금 당장 팔고 있는 그 제품군을 좀 알아야 하는데요. 팔란티어는 오픈 AI처럼 프런티어 모델 자체를 만드는 회사라기보다는 기업과 정부가 가진 복잡한 데이터를 실제 의사 결정이랑 업무 실행에 연결하는 소프트웨어 플랫폼 회사에 가깝습니다. 그래서 팔란티아의 주력 상품군을 보면 크게네 가지로 나뉘는데요. 파운더리랑 고장, AIP, 아폴로 이렇게 있습니다. 먼저 파운더리인데요. 파운더리는 주로 민간 기업용 플랫폼입니다. 제조나 에너지, 한국 물류, 금융 이런 쪽처럼 데이터가 이렇게 많고 운영이 아주 복잡한 조직에서 많이 쓰이게 되는데요. 여기서 핵심은 팔란티어가 자주 말하는 언토로지입니다. 말은 어렵지만 쉽게 보면 회사 안의 현실 세계를 소프트웨어 안에 다시 그려 넣는지도 같은 건데요. 공장, 장비, 제품, 주문, 고객, 계약, 재고, 운송 경로 이런 것들을 각각 다 따로 흩어진 데이터로 두는게 아니라 서로 연결이 된 업무 객체로 만드는 겁니다.

조금 더 기술적으로 말해 보자면 단순한 데이터 테이블이나 데이터 레이크가 아니라 사람이랑 장비, 제품, 공정, 계약 같은 이런 업무 객체들이랑 그 관계를 전부 모델링한 디지털 트윈에 가깝습니다. 예를 들어서 항공사를 생각을 해 볼게요. 비행기 데이터만 따로 있고 부품 제고도 따로 있고 정비 일정도 따로 있고 또 승무원 배치 따로 있고 이렇게 되면 AI가 아무리 똑똑해도 할 수 있는 일이 매우 제한적이에요. 그런데이 데이터들이 연결되어 있다면 이야기가 달라지겠죠.이 이 항공기는 어떤 부품을 쓰고 그 부품은 어떤 창고에 있고 다음 정비는 언제고 어 그러면은이 비행편이 지연이 되면 어떤 승객이랑 어떤 노선에 영향을 주는지까지 이렇게 쭉 한 번에 연결이 되어 있다면 AI가 훨씬 실제적이고 현실적인 제안을 할 수가 있어요. AI가 단순히 답변을 생성하는 것이 아니라 운영 상황 전반을 이해하고 다음 행동을 제한을 해 주는 겁니다. 이게 추상적인 이야기만은 아닌게요. 이번 6월에 AI콘에서 미국 건설사 메카씨는 회사 전체를 잇는 AI 운영 체계를 팔란티어로 구축을 하겠다고 발표를 했고요.

멕시코 최대 보험사인 GNP 세그로스는 보험 사기 탐지와 청구 처리에 팔란티어를 확대 적용하기로 결정했습니다. 추상적인 데이터 연결이 아니라 실제 공정이랑 보험 업무 안으로 들어와 있는 거죠. 파운더리의 차별점은 데이터를 예쁘게 모아두는 데서 끝나지 않는다는 겁니다. 그 데이터가 실제 업무에서 어떤 행동으로 이어질 수 있는지까지 모델링을 하려고 하는 거예요. 재고를 늘린다. 생산 순서를 바꾼다. 정비 일정을 앞당긴다. 위험 거래를 검토한다. 이런 액션들이 누가 승인을 해야 하는지, 어떤 권한이 필요한지 어떤 기록을 남겨야 하는지까지 쭉 한 번에 연결이 되어야지 기업에서는 사용을 할 수가 있겠죠. 단순한 채이랑 운영 플랫폼의 차이가 바로 여기에서 벌어지는 겁니다. 두 번째는 고쌈인데요. 고쌈은 팔란티어의 뿌리에 가까운 제품입니다. 주로 정부나 국방, 정보 기간, 치연, 안보 같이 이렇게 아주 중요하고 무시무시한 영역에서 쓰이는 플랫폼으로 알려져 있는데요. 이쪽은 기업보다도 더 민감합니다. 데이터가 흩어져 있고 출처가 다양하고 잘못된 판단에 비용이 아주 큽니다.

위성이나 들어온 센서, 보고서 현장 정보, 그리고 작전 계획, 심지어는 사람 목숨까지 엮겨 있게 되겠죠. 고담의 특징은 단순히 정보를 검색하는 도구가 아니라 사람이 판단해야 하는 복잡한 상황을 하나의 작전 화면 안에서 다루도록 설계가 되었다는 점인데요. 여기서 중요한 건 AI가 다 알아서 하는게 아닙니다. 오히려 팔란티어가 강조하는 쪽은 human in the loop. 그러니까 사람이 의사 결정 과정에 남아 있는 구조입니다. 국방이나 정보 영역에서는 AI가 된 결과를 그대로 실행하는게 아주 위험할 수 있어요. 그래서 데이터의 출천나 접근 권한, 판단 과정, 그리고 누가 어떤 결정을 내렸는지가 매우 중요하게 되겠죠. 이런 영역에서 팔란티어가 강한 이유는 기술 하나보다도 복잡하고 민감한 조직 안에서 소프트웨어를 작동시키는 경험에 있습니다. 데이터를 연결하는 것도 어렵지만 그 데이터를 누가 어디까지 볼 수 있는지 그거를 통제하는 거는 훨씬 더 어려운 문제거든요. 세 번째가 AIP입니다. 요즘 가장 주목받는 제품이죠.

AIP는 artificial intelligence 플랫폼, 그러니까 말 그대로 AI 플랫폼입니다. 그런데 AIP를 그냥 기업용 채지T로 이해를 하면 안 되시고요. AIP의 핵심은 LLM을 기업 데이터와 업무 흐름 위에 올리는 거예요. 오픈 AI나 엔트로픽의 모델을 가져다 쓸 수도 있고 다른 모델을 쓸 수도 있겠죠. 중요한 건 모델 자체가 아니라 그 모델이 바로 파운드리의 온톨로지랑 연결이 된다는 점인데요. 여기서 바로 팔란티아 입장이 분명히 드러납니다. 팔란티어는 특정 모델 회사에 묶기는 거를 아주 경계를 하고 있어요. 실제로 이번 6월 AIP콘에서 구글 클라우드와 선을 잡고 구글 재미나이 모델을 AIP에 직접 연결하고 비퀄리랑 데이터를 쌍방향으로 주고받는 통합을 발표했습니다. 하프 본인도 어떤 모델이든 엔트로피 것이든 오픈 AI 것이든 다 가져다 쓸 수 있다. 문제는 그걸 누가 실제 환경에서 운영을 하고 패치하느냐다는 식으로 말을 합니다. 이게 왜 중요할까요? 일반적인 채봇은 질문을 받으면 답을 하게 됩니다.

하지만 기업 업무에서는 단만으로는 부족하죠.이 이 고객의 주문이 지연될 것 같습니다라고 말하는 것보다는 그 지연의 원인이 어떤 부품 부족인지 아니면 대체 공급처가 있는지 이걸 영업팀에 알릴 건지 생산 계획을 바꿔야 하는지까지 쭉 이어져야 합니다. AIP는 이런 작업을 AI앱, 액션, 에이전트 형태로 만들 수 있게 하겠다는 그런 목표를 갖고 있는데요. 여기서 에이전트는 단순히 채팅창 안에서 말을 잘하는 채봇이 아닙니다. 팔란티어가 말하는 에이전트는 ERP, 공급망 시스템, 생산 관리 시스템, 그리고 고객 관리 시스템 같은 업무 시스템이랑 다 연결이 되어서 정해진 권한 안에서 작업을 잘 수행하는 소프트웨어 작업자에 가깝습니다. 진짜 일을 하는 거죠. 예를 들어서 다음 주에 생산 찾을 위험을 찾아줘라는 요청을 받았다고 해 볼게요. AI가 관련 데이터를 다 보고 위험한 부품을 찾고 대한 시나리오를 제안을 하고 그다음에 담당자가 승인을 하면 실제 워크플로우로 그거를 넘기는 구조입니다.이 구조에서는 AI가 헛소리를 안 하는 것도 중요하지만 더 중요한 건 AI가 아무 행동이나 하지 못하도록 통제를 하는 것이겠죠.

기업에서 필요한 건 자유로운 상상력이 아니라 통제된 실행 능력이니까요. 팔란티어가 AIP를 강조하는 이유는 그래서 아주 명확합니다. LLM의 지능을 기업 안으로 가져오톨로 권한 감사기로 그리고 업무 액션 안에서만 움직이도록 만드는 겁니다. 그리고 마지막으로 아폴로가 있는데요. 아폴로는 상대적으로 좀 덜 화려하게 들리지만 팔란티아 제품군 안에서 아주 중요한 역할을 합니다. 아폴로는 쉽게 말해서 팔란티오 소프트웨어를 여러 환경에 안정적으로 배포하고 업데이트하는 플랫폼입니다. 기역용 소프트웨어는 소비자 앱처럼 업데이트했습니다 하고 끝낼 수 없어요. 어떤 고객은 퍼블릭 클라우드에 있고 어떤 고객은 자체 데이터 센터에 있고 어떤 고객은 보안상항 외부망이랑 분리된 환경에 있을 수도 있겠죠. 국방 쪽은 훨씬 더 까다로울 것 같아요. 이런 곳에 AI랑 데이터 플랫폼을 넣으려면 소프트웨어가 계속 업데이트가 되면서도 서비스가 멈추면 안 되겠죠. 보안 패치도 해야 되고 규정도 지켜야 되고 문제가 생기면 또 롤백도 가능해야 되니까요.

아폴로는이 배포와 운영을 담당하고 있습니다. 화려한 AI 데모 뒤에서 실제 고객 환경의 소프트웨어를 계속 굴러가게 만드는 기반인데요.이네 가지를 이렇게 연결해 보면 팔란티아의 포지션이 선명해집니다. 파운더리는 민간 기업의 복잡한 데이터를 업무 객체로 연결을 하고 고3은 정부와 국방 영역의 고실례 인사 결정을 다룹니다. 그리고 ARP는 그 위에 LLM과 에이전트를 올리는 거고요. 아폴로는이 모든 소프트웨어를 복잡한 고객 환경에 배포하고 운영을 합니다. 여기서 팔란티어가 말하고 싶은 건 바로이 하난데요. 우리는 모델 하나를 파는 회사가 아니라 모델이 실제 조직에서 작동하도록 만드는 운영 레이어를 판다. 자, 그럼 이제 다시 알렉스 카프의 토큰 맥싱 비판으로 돌아가 보겠습니다. 오픈 AI랑 앤트로픽을 비판을 하는 건 단순한 감정 싸움이 아니에요. 이거는 팔란티아의 제품 철학이랑 정확히 연결이 되어 있는데요. 오픈 AI랑 엔트로픽의 사업은 기본적으로 모델 사용량이 커질수록 그 매출이 늘어나는 구조입니다. 자, 그럼 기업 고객이 더 많고 더 긴 질문을 하고 더 많은 답변을 받을수록 토큰 사용량이 늘어나게 되겠죠.

반면 기업 고객에게 토큰 사용량은 비용입니다. 돈을 내야 하는 거예요. 그 비용이 실제 성가로 바뀌면 괜찮겠지만 업무 프로세스가 그대로라면 AI 사용량만 늘고 회사 운영은 별반 달라지지 않겠죠. 팔란티어가 바로 그 틈을 파고 드는 겁니다. AI를 많이 쓰게 해주는 것이 아니라 AI가 회사 안에서 바로 행동 가능한 결과를 만들게 하는 것이 중요하다라는 프레임입니다. smart while your business goes out of business. It doesn't actually work unless you have an ologyary, Apollo or something useful. We're going to show you we're smarter than you may not be. And you're going to go home and less safe and you buy the product and it's going to be very hard to understand how >> 다만 여기서 냉정하게 하나 짚고 가야 되는게 있는데요.

그러면 카프가 아무 사심 없이 이런 말을 했을까요? 카프의이 비판은 동시에 곧 팔란티어 광고이기도 합니다. 모델 회사들이 토큰만 태운다고 말할수록 그 토큰을 실제 성과로 바꿔 주는 회사인 팔란티어가 더 높이 되니까요. 정수기 파는 사람이 여러분 수돗물은 그냥 마시면 안 돼요라고 말하는 것이랑 조금 비슷하다고 보시면 돼요. 진단 자체는 물론 맞을 수 있겠죠. 하지만 그 진단이 곧 자기 상품의 광고이기도 하다는 점을 기억해 둘 필요가 있을 것 같습니다. 물론 그럼에도 카프가 틀린 말을 한 건 아니에요. 진단 자체는 꽤 본질을 찌르고 있습니다. 모델이 아무리 똑똑해도 데이터 연결이랑 권한 관리랑 업무 프로세스 그런 감사 체계가 받쳐 주지 않으면 기업 안에서는 제한적으로 움직일 수밖에 없으니까요. 그리고 팔란티어는 바로 그 받쳐 주는 층을 팔겠다는 건데요. 이제 가장 흥미로운 지점입니다.이 이 싸움이 사실은 아주 깔끔한 적대 관계는 아니라는 거예요. 카프는 CNBC 인터뷰에서 엔트로픽이 공개적으로 이야기하는 프로젝트 상당수가 팔런티어 위에서 돌아가고 있다고 주장을 했어요.

원문 그대로 most ofropic public projects are running oner였죠. 다만 이건 어디까지나 카프의 주장이라는 점은 짓고 가야겠어요. 공개적으로 확인되는 사실은 앤트로픽이랑 팔란티어가 미국 정부 국방 환경에서 클로드 모델을 안전하게 배포하기 위한 파트너십을 맺었다는 건데요. 그러니까 엔트로픽은 카프가 비판하는 대상인과 동시에 또 정부나 국방 같은 영역에서는 같이 협력하는 파트너이기도 한 셈이에요. 게다가 앞서 본 것처럼 팔란티아는 구글 재미나이도 AI에 붙였습니다. 그럼 그림이 이렇게 되겠죠. 팔란티어는 모델 회사를 비판을 하는데요. 동시에 또 그 모델들을 자기 플랫폼 위에 올렸어요. 그러면 모델 회사들은 팔란티어랑 경쟁을 하면서도 또 고객 환경에서는 팔란티어와 협력을 하고 있겠죠. 그리고 카프는 지금이 이야기를 하필이면 오픈 AI가 사드린 그 방송에서 하고 있습니다. 저는이 장면 자체가 지금 AI 산업의 단면을 잘 보여 준다고 생각을 하는데요. 서로 비판하고 서로의 위에서 또 돈을 벌고 같은 무대에서는 또 손을 잡았다가 그렇게 협력하고 싸우고 그러는 굉장히 좁고 얽히고 설힌 그런 동네라는 거죠.

다만 여기서 오해하시면 안 되는게이 이야기로 오픈 AI랑 앤트로픽의 시대가 끝났다라는 뜻은 절대 아니에요. 좋은 모델은 물론 계속 중요합니다. 복잡한 추론이나 코딩 연구 분석에서는 강한 모델의 가치가 분명히 있어요. 아무리 운영 레이어가 좋아도 그 위에 올라가는 모델 자체가 약하면 할 수 있는 일이 제한이 되니까요. 결국 둘은 한쪽만으로는 부족하고 서로를 필요로 하는 존재인데요. 그리고 팔란티어의 방식도 만능은 아니에요. 무엇보다 팔란티어는 일단 너무 비쌉니다. 온톨로지를 제대로 구축하려면 기존에 흩어져 있던 데이터 체계를 다시 정리를 하고 또 일일이 맵핑을 해야 되는데 여기 엄청난 시간이라 컨설팅 비용이 들게 됩니다. 카프 본인도 팔란티어의 진짜 가치는 앞으로 7년 이상에 걸쳐 나올 것이라면서이 도입 기간이 투자자들의 기대보다 훨씬 길어질 수 있다는 것을 인정했어요. 그래서 대기업이나 정부가 아닌 중소나 중견 기업 입장에서는 팔란티어를 도입할 엄두조차 내지 못하는 경우가 많습니다. 오히려 모델 회사의 API로 그냥 가볍게 시작을 하는 경우가 훨씬 더 많겠죠.

무겁지만 아주 강력한 맞춤형 인프라랑 그리고 가볍게 바로바로 쓸 수 있는 범용 API는 애초에 겨냥하는 고객 자체가 다른 셈입니다. 또 팔란티어는 정부랑 국방 치한 영역에서 강한 회사인만큼 개인 정보랑 감시 공공 데이터 활용을 둘러싼 논란에서도 결코 자유롭지 못한데요.이 부분은 단순히 기술적으로 좋다 나쁘다를 떠나서 사회적 통제랑 책임의 문제로 봐야 할 것 같습니다. 이번 논쟁은 한쪽이 완전히 맞고 한쪽은 완전히 틀렸다라는 그런 이야기가 아니에요. 오픈 AI랑 앤트로픽은 점점 더 강력한 모델을 만들고 있고 팔란티어는 그 모델을 조직의 실제 업무에 붙이는 일을 하겠다라는 이야기를 하고 있는 거예요. 서로 다른 층을 맡고 있는 거겠죠. AI 산업이 커질수록 두 영역은 협력도 하고 경쟁도 하게 될 거예요. 기업 고객은이 둘을 비교를 하면서 점점 더 냉정하게 따지게 될 겁니다. 모델이 좋은지가 아니라 그 모델이 우리 조직 안에서 무엇을 바꿨는지 말이에요. 결국 우리가 앞으로 봐야 할 건 명확해지는데요. 오픈 AI랑 앤트로픽이 기업 고객에게 어떤 가격 구조랑 어떤 관리 도구를 제공하는지를 좀 살펴봐야 될 거 같아요.

사실 모델 회사들도이 비판을 모르고 있지 않습니다. 오히려 경량 모델이랑 추론 최적화로 토큰 단가 자체를 이렇게 좀 공격적으로 팍팍 끌어내리면서 정면 돌파를 하고 있고 출론 비용은 또 해마다 빠르게 떨어지고 있습니다. 다만 단가가 내려가도 모델이 좋아지면 좋아질수록 사람들은 더 많이 쓰게 되겠죠. 그래서 전체 청구서는 오히려 더 큰 숫자를 담고 있을 수도 있어요. 단순히 더 좋은 모델을 내느냐가 아니라 기업이 그 비용을 예측하고 통제할 수 있게 만드느냐가 중요해질 겁니다. 그렇지 않으면 기업 고객은 당연하게 본전을 생각하게 될 거예요. 이게 진짜 지금 돈값을 하고 있는게 맞아라면서요. 동시에 팔란티어 같은 회사들이 AIP를 실제 고객 환경에서 얼마나 빠르게 확산시키는지도 살펴봐야 할 것 같습니다. 대모 영상뿐만이 아니라 실제 업무에서 진짜 얼마나 많은 결정을 바꾸고 있는지, 또 도입 기간은 얼마나 걸리는지, 고객이 계속 돈을 낼 의향이 있는지, 그리고 그 과정에서 개인 정보랑 책임 보안 같은 문제를 얼마나 잘 통제하는지도 관건이겠죠.

지난 몇 년의 AI 경쟁이 누가 더 똑똑한 모델을 만드느냐의 싸움이었다면 앞으로의 경쟁은 그 모델을 누가 실제로 조직 안에서 잘 굴릴 수 있느냐의 싸움이겠죠. 토큰 맥싱은 그래서 단순한 유행어가 아닙니다. AI 산업의 무대가 채보창 안에서 기업의 데이터와 권한 실제 업무 흐름으로 옮겨가고 있다는 뜻이에요. 모델은 엔진이지만 기업이 돈을 버는 곳은 실제 도로 위니까요. 모델은 앞으로도 계속 좋아질 겁니다. 하지만 기업 AI 승부는 결국 그 모델을 얼마나 책임 있게 그리고 돈이 되는 방식으로 잘 굴릴 수 있느냐 해서 갈리게 되겠죠. 그럼 오늘은 여기까지 안들공학의 패치였습니다. 입니다.