작성자: Nicole Ogonowska, IT Growth Manager, Digital Colliers

Whatnot의 Shaped 인수는 업계 언론에서는 작게 다뤄지는 거래 중 하나지만, 흐름이 어디로 향하고 있는지를 정확히 보여주는 사례입니다. 라이브 커머스 호스트들에게는 어제의 배치 작업 (Batch job) 같은 여유가 없습니다. 판매자가 카메라 앞에서 저지를 들고 있고 4,000명이 지켜보고 있을 때, 추천 엔진 (Recommendation engine)은 해당 제품이 품절되기 전 누가 미디엄 사이즈를 원하는지 파악하는 데 약 800밀리초 (milliseconds)의 시간밖에 없습니다. 이것은 마케팅 문제가 아닙니다. 이것은 비디오 인터페이스를 입은 스트리밍 데이터 (Streaming data) 문제입니다.

그리고 Shopify 규모의 브랜드 대부분에게 있어 어색한 진실은, 그들이 여전히 이 과정의 배치 (Batch) 버전을 실행하고 있다는 점입니다. 상품 친화도 점수 (Product-affinity scores)는 밤사이에 다시 구축됩니다. 세션 행동 (Session behavior)은 아침에 결합됩니다. 홈페이지가 쇼퍼가 실제로 무엇을 원하는지 파악할 때쯤이면, 그들은 이미 탭을 닫아버린 상태입니다.

배치(Batch) 대 스트리밍(Streaming), 쉽게 말하자면

대부분의 중견 기업 추천 스택 (Recommendation stacks)은 다음과 같은 구조를 가집니다. 주문과 클릭이 데이터 웨어하우스 (Warehouse)로 흘러 들어갑니다. 새벽 3시에 dbt 작업이 실행됩니다. 추천 테이블 (Recs table)이 발행됩니다. 스토어프론트 (Storefront)가 해당 테이블을 읽습니다. 작동은 합니다. 비용도 저렴합니다. 하지만 지난 10분 동안 무슨 일이 일어났는지에 대해서는 근본적으로 눈이 멀어 있는 상태입니다.

스트리밍 아키텍처 (Streaming architecture)는 이 극성을 뒤집습니다. 이벤트 (Events)가 발생하는 즉시 메시지 버스 (Message bus)에 도달합니다. 세션이 진행됨에 따라 피처 (Features)가 메모리 내에서 업데이트됩니다. 모델은 아침 식사 때의 세상 상태가 아니라, 바로 지금 이 순간의 세상 상태를 기준으로 점수를 매깁니다.

이것이 2021년보다 2025년에 더 중요한 이유는 순수하게 단위 경제성 (Unit economics) 때문입니다. DTC 고객 획득 비용 (Customer acquisition cost)은 2023년 이후 약 40% 상승했으며, Meta의 CPM은 2024년과 2025년을 거치며 계속 상승해 왔습니다. 세션을 유치하기 위해 그만큼의 비용을 지불하고 있다면, 신선하지 않은(stale) 추천을 제공할 여유가 없습니다. 영국의 이커머스 (eCommerce)는 2024년에 약 3% 성장했습니다. 한 자릿수 성장이 새로운 기준선이 되었으며, 성장은 이미 비용을 지불한 트래픽을 전환(convert)시키는 쪽으로 향할 것입니다.

세션 레벨 피처 스토어 (Session-level feature store)의 실제 모습

벤더들의 발표 자료를 걷어내고 보면, 네 가지 움직이는 구성 요소가 있습니다:

• 클릭, 장바구니 담기, 체류 시간 (dwell time), 스크롤 깊이 (scroll depth)를 전달하는 이벤트 스트림 (Kafka, Kinesis, Redpanda, 무엇을 선택하든).

• 세션이 종료되면 만료되는 세션별 피처 (per-session features)를 보유하는 저지연 저장소 (Redis, DynamoDB, 또는 이들 위에 구축된 Feast).

• 최근 본 아이템 5개, 마지막 카테고리, 가격대 드리프트 (price band drift), 장바구니 속도 (cart velocity)와 같은 롤링 윈도우 (rolling windows)를 유지하는 피처 계산 레이어 (feature computation layer).

• 해당 피처들을 50ms 이내에 읽어 들여 순위가 매겨진 리스트 (ranked list)를 반환하는 모델 서빙 레이어 (model serving layer).

모델 자체는 대개 가장 흥미가 떨어지는 부분입니다. 잘 조정된 투 타워 검색 (two-tower retrieval)과 그래디언트 부스팅 랭커 (gradient-boosted ranker)만으로도 80%는 달성할 수 있습니다. 제품을 실제로 출시하는 팀과 그렇지 못한 팀을 가르는 차이는 바로 배관 (plumbing, 인프라 구조)입니다.

그리고 그 부분에 대해서 말하자면, 기업용 AI 프로젝트의 약 95%는 결코 프로덕션 단계에 도달하지 못합니다. 그들 중 모델이 나빠서 실패하는 경우는 거의 없습니다. 피처 (features)가 추론 시간 (inference time)에 사용 가능하지 않았거나, 지연 시간 예산 (latency budget)을 초과했거나, 왜 추천 결과가 바뀌었는지 아무도 설명할 수 없었기 때문에 실패합니다.

진짜 장애물은 모델이 아니라 재고입니다

이것은 아무도 피치 덱 (pitch deck)에 넣지 않는 부분입니다. 실시간 추천은 재고 신호 (inventory signal) 또한 실시간일 때만 유용합니다. 품절된 SKU를 추천하는 것은 아무것도 추천하지 않는 것보다 나쁩니다. 반품될 사이즈를 추천하는 것은 훨씬 더 나쁩니다.

온라인 반품률은 총 매출의 약 19~20% 수준이며, 의류 분야에서는 더 높습니다. 일반적인 멀티채널 브랜드의 SKU 중 약 30%는 반품과 광고비를 제외하면 주문당 손실을 봅니다. 즉, 여러분의 스트리밍 추천 엔진이 실제 약속 가능 재고 (available-to-promise)를 알지 못하고 반품률이 높은 SKU의 가중치를 낮추지 않는다면, 기꺼이 여러분을 손실을 보는 30%의 영역으로 최적화해 버릴 것입니다.

따라서 스트리밍 ML 제품을 구매하기 전에 던져야 할 질문은 다음과 같습니다:

• 스토어프런트(storefront)로 전달되는 인벤토리 피드(inventory feed)는 얼마나 최신 상태인가요? 분 단위인가요? 시간 단위인가요?

• 모델 피처(feature)로서 SKU별 반품률을 사용할 수 있나요?

• 창고 할당(warehouse allocation) 정보를 랭킹 신호(ranking signal)로 가져올 수 있나요, 아니면 ERP 뒤에 숨겨진 블랙박스인가요?

만약 이 질문들 중 어느 하나라도 답변하기 곤란하다면, 그것이 바로 프로젝트의 대상입니다. ML(머신러닝)은 그 이후의 단계입니다.

뒤처지는 사람들

2026년에 이를 성공적으로 실행하고 있는 운영자들에게는 세 가지 공통점이 있습니다. 그들은 이벤트 스트림(event stream)을 데이터 팀의 사이드 프로젝트가 아닌, 일급 시민(first-class) 제품으로 취급합니다. 그들은 인벤토리 신호(inventory signal)를 단순히 창고 벽까지만이 아니라, 창고에서 스토어프런트(storefront)까지 전체를 소유합니다. 그리고 추천 리프트(recommendation lift)를 클릭(clicks)이 아닌 마진(margin)을 기준으로 측정합니다.

그 외의 모든 이들은 새벽 3시에 어제의 어피니티 테이블(affinity table)을 재구축하며 시간을 허비하고, 왜 유료 트래픽(paid traffic)이 전환(converting)되지 않는지 의아해하며 또 다른 1년을 보내게 될 것입니다.

출처

• Shopify Enterprise

• Office for National Statistics (ONS)

• MIT Media Lab / RAND

• Statista

• Profitero

이 기사는 원래 Digital Colliers Blog에 게시되었습니다. Digital Colliers는 DACH 및 영국 기업들이 AI를 구현하도록 돕습니다 — 저희의 AI 컨설팅 서비스를 확인하거나 문의해 주세요.