Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Netflix가 기존의 복잡한 추천 시스템을 대체하기 위해 개발한 LLM 기반 추천 프레임워크 GenRec을 소개합니다. 자연어 프롬프트 변환과 2단계 학습 과정을 통해 사용자 이력과 콘텐츠 메타데이터를 통합하여 추천 성능을 최적화했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기• 생산 모델의 복잡성 해결: 넷플릭스의 기존 추천 시스템은 수천 개의 수작업 피처와 복잡한 아키텍처에 의존하여 새로운 유스케이스 추가 비용이 높았으나, 대형 언어 모델(LLM) 기반의 GenRec이 이를 대체하기 위해 개발되었습니다.
• GenRec의 핵심 파이프라인: GenRec은 사용자 이력, 아이템 메타데이터, 맥락을 자연어 프롬프트로 변환(Verbalization)하고, 넷플릭스 전용 데이터로 파인튜닝된 파운데이션 LLM과 카탈로그 인식 점수 산정 헤드(Scoring Head)를 결합하여 추천 순위를 생성합니다.
• 2단계 학습 프레임워크: Phase 1에서는 오픈소스 LLM을 넷플릭스 코퍼퍼스로 적응시켜 콘텐츠와 행동 패턴을 학습하며, Phase 2에서는 랭킹 데이터와 보상 목표를 바탕으로 포스트 트레이닝을 수행합니다.
• 컨텍스트 엔지니어링의 도입: 토큰 예산 제약을 해결하기 위해 고신호 상호작용은 유지하고 저신호 이벤트는 생략하거나 반복 행동을 압축하는 컨텍스트 엔지니어링을 적용하여 품질 저하 없이 토큰과 비용을 크게 절감했습니다.
• 보상 가중 랭킹 목적 함수: 장기적 회원 만족도 프록시와 비즈니스 목표(콘텐츠 유형 및 출시 단계별 재조정)를 반영한 보상 가중 손실 함수를 사용하여 단순 클릭을 넘어선 최적화를 달성했습니다.
• vLLM 기반 프리필 전용 추론: vLLM을 활용한 내부 LLM 서빙 스택에서 오토레그레시브 디코딩 대신 프리필 전용(prefill-only) 모드로 실행하여 후보군 전체의 점수를 단일 포워드 패스로 계산함으로써 서빙 비용을 최적화했습니다.
• 온라인 A/B 테스트 성과: 약 10%의 트래픽을 대상으로 진행한 4주간의 대규모 A/B 테스트에서, GenRec은 기존 프로덕션 순위 모델 대비 훨씬 적은 Phase-2 라벨드 데이터와 입력 신호만을 사용하고도 단기 및 장기 온라인 지표에서 통계적으로 유의미한 개선을 기록했습니다.