팟캐스트 관리의 어려움을 겪어 에지 AI 도구를 직접 만들게 되었습니다

저는 팟캐스트 녹음을 정말 좋아합니다. 게스트와 마주 앉아 기술적인 주제를 깊이 파고들고, 그 생생한 에너지를 포착하는 것이 과정 중 가장 좋은 부분입니다. 하지만 녹음이 끝나면? 그때부터 불안감이 밀려옵니다.

저는 매 에피소드마다 3시간 이상을 관리 업무에 쓰고 있었습니다. 눈 깜빡이는 커서만 바라보며 흥미로운 제목을 생각해내려고 애쓰고, 45분짜리 대본을 수동으로 검토하며 핵심 내용을 뽑아내고, 검색 엔진 최적화(SEO) 친화적인 설명을 작성하느라 시간을 보냈습니다. 이 모든 것이 팟캐스팅의 즐거움을 고갈시키고 있었습니다. 저는 에피소드를 만드는 시간보다 마케팅하는 데 더 많은 시간을 쓰고 있다는 것을 깨달았습니다.

그래서 무언가를 만들기로 결심했습니다.

팟캐스트 관리의 숨겨진 세금

팟캐스트의 후반 작업(post-production) 관리 업무는 크리에이터들에게 숨겨진 세금과 같습니다. 우리는 종종 오디오 품질이나 편집에 대해 이야기하지만, 실제로 쇼를 발견하게 해주는 것은 메타데이터입니다. 제목이 약하면 Apple Podcasts나 Spotify에서 클릭률이 낮아집니다. 구조화되지 않은 쇼 노트는 검색 엔진 트래픽을 놓치게 만듭니다.

하지만 이것들을 수동으로 처리하는 것은 지속 가능하지 않습니다. 무시하면 팟캐스트가 정체되고, 모든 것을 스스로 하려고 하면 번아웃(burnout)이 옵니다. 저는 품질을 희생하거나 복잡하고 분리된 도구에 의존하지 않으면서 제목, 요약, 쇼 노트를 작성하는 인지 부하를 덜어낼 방법이 필요했습니다. 원본 대본을 받아 구조화되고 고품질의 메타데이터를 즉시 출력할 수 있는 통합 파이프라인을 원했습니다.

에지 AI 파이프라인 구축

저는 이 프로젝트에 PodCrisp라는 이름을 붙였습니다. 저의 주요 기술적 목표는 매우 빠르고 가볍게 유지하는 것이었습니다. 무거운 백엔드 서버를 관리하거나 콜드 스타트(cold starts) 문제를 다루고 싶지 않았습니다. 그래서 Cloudflare Workers에서 전체 스택을 구축하기로 결정했고, 에지에서 AI 추론 기능을 활용했습니다.

에지에서 AI 모델을 실행한다는 것은 추론이 사용자 근처에서 발생하여 지연 시간(latency)을 획기적으로 줄인다는 의미입니다. 하지만 이는 또한 특정 모델 제약 조건으로 작업하기 때문에 프롬프트를 어떻게 구성할지 매우 신중해야 함을 의미하기도 합니다.

팟캐스트 제목 생성기(Podcast Title Generator)를 어떻게 접근했는지 살펴보겠습니다. LLM과 제목에 있어서 가장 큰 어려움은 모델들이 일반적이고, 클릭베이트 같은 헛소리로 빠지려는 경향이 있다는 것입니다. 저는 모델에게 매력적이면서도 정직하게 만들도록 강제하는 프롬프트를 설계해야 했습니다.

// 팟캐스트 제목 생성을 위한 프롬프트 엔지니어링
function buildTitlePrompt(topic, tone, count) {
  return {
...

시스템 프롬프트에 규칙을 명시적으로 정의하고—특히 '과장된 클릭베이트 금지' 제약 조건을 추가하자—출력 품질이 극적으로 향상되는 것을 발견했습니다. tone 변수는 또한 사용자가 핵심 로직을 다시 작성하지 않고도 분위기를 '교육적(educational)'에서 '대화형(conversational)'으로 전환할 수 있게 해줍니다.

쇼 노트 생성기(show notes generator)의 경우, 어려움은 구조였습니다. 원본 녹취록(Raw transcripts)은 지저분합니다. 저는 AI가 대화 흐름을 분석하고 특정 섹션을 추출하도록 해야 했습니다. 이 파이프라인을 처리하는 Cloudflare Worker는 다음과 같습니다:

// 쇼 노트 생성 파이프라인 (Cloudflare Workers + AI)
export default {
  async fetch(request, env) {
...

Cloudflare를 통해 엣지에서 Llama 3를 사용하는 것은 실용적인 선택이었습니다. 쇼 노트를 위한 800 토큰 제한을 초과하지 않으면서 시간 초과 없이 처리할 만큼 충분히 빠르며, 구조화된 시스템 프롬프트는 출력을 예측 가능하게 유지해줍니다. 또한 유사한 엣지 기반 프롬프트 패턴을 사용하여 에피소드 스크립트 개요와 SEO 키워드 제안 기능도 구축했습니다.

실제 결과 및 배운 점

PodCrisp를 만들면서 저는 엣지 AI의 현실적인 측면들에 대해 많은 것을 배웠습니다. 정말 잘 작동했던 것은 지연 시간(latency)이었습니다. 추론(inference)이 엣지에서 일어나기 때문에 도구들이 실질적으로 즉각적입니다. 사용자는 중앙 집중식 서버가 녹취록을 처리하는 동안 로딩 스피너를 보며 기다릴 필요가 없습니다.

저를 놀라게 한 것은 초기 프롬프트 튜닝(prompt tuning)이 얼마나 중요한지였습니다. 저는 처음에 단순히 녹취록을 전달하고

만약 제가 다시 시작한다면, 쇼 노트 생성기에 스트리밍 응답을 구현할 것 같습니다. 빠르긴 하지만, 마크다운이 실시간으로 렌더링되는 것을 보면 사용자 경험(UX)이 훨씬 더 민첩하게 느껴질 거예요. 또한 SEO 키워드 제안에 대한 보다 세분화된 제어 기능을 추가하고 싶습니다. 예를 들어, 사용자가 목표 청중의 니치(niche)를 입력하여 출력을 정교하게 다듬을 수 있게 하는 식입니다.

직접 사용해 보세요

포스트 프로덕션 관리 문제로 어려움을 겪는 팟캐스터이거나, 에지 AI 파이프라인에 대해 궁금한 개발자가 있다면 이 도구를 사용해보시길 바랍니다. 제가 만든 팟캐스트 제목 생성기(Podcast Title Generator)를 완전히 무료로 제공하며, 가입할 필요가 없습니다. 다음 에피소드의 제목을 생성하려면 여기서 확인해 보세요: Podcast Title Generator.

완전 공개합니다: 저는 PodCrisp의 개발자입니다. 제가 직접 필요해서 만들었습니다.