전통적인 수면 및 명상 앱의 아키텍처(Architecture)는 간단합니다. 미리 녹음된 MP3/AAC 오디오 파일을 S3 버킷에 호스팅하고 CDN을 통해 전 세계적으로 제공하는 방식입니다. 이 접근 방식은 비용 효율적이고 매우 안정적이지만, 근본적인 한계가 있습니다. 사용자는 반복되는 스크립트로 인해 금방 청취 피로를 느끼며, 정적 오디오는 사용자의 실시간 신체적 또는 감정적 상태에 반응할 수 없습니다.

이를 극복하기 위해 우리 팀은 WhatsFeel를 개발했습니다. 이는 인공지능(LLM 텍스트 생성 + 실시간 TTS 음성 합성)에 의해 완전히 구동되는 명상, 수면 및 일상 휴식을 위한 앱입니다. WhatsFeel은 고정된 녹음 파일을 반복 재생하는 대신, 사용자 상호작용과 생체 신호(Biometric signals)를 기반으로 실시간으로 가이드를 동적으로 생성하는 지능형 어시스턴트(명상, 수면, 자연의 소리, 그리고 완전히 무료인 Q&A 감정 채팅 에이전트 포함)를 특징으로 합니다.

하지만 100% 실시간 AI 생성 방식으로 전환하면 상당한 서버 대역폭 오버헤드와 지연 시간(Latency) 문제가 발생합니다. 이 글에서는 WhatsFeel의 이면에 있는 엔지니어링 아키텍처를 공유하며, 특히 우리의 **고동시성 캐싱 모델(High-concurrency caching model), 표준 Bluetooth 바이오피드백 통합, 그리고 저지연 스트리밍 파이프라인(Low-latency streaming pipeline)**에 초점을 맞출 것입니다.

시스템 아키텍처 개요

WhatsFeel의 핵심 엔지니어링 목표는 소프트웨어와 생리적 신호(Physiological signals)를 연결하는 것입니다. 즉, 실시간 심박수 데이터를 동적인 LLM 프롬프트 컨텍스트(Prompt context)로 변환하여 "호흡하듯 적응하는" 오디오 가이드를 생성하는 것입니다.

[ BLE 심박수 장치 (Garmin / Coros / Polar) ]
       │ (표준 GATT: 0x180D Service)
       ▼
...

시스템은 네 가지 별도의 계층으로 나뉩니다:

생체 인식 계층(Biometric Perception Layer): 표준 BLE를 통해 웨어러블 스트랩/시계로부터 실시간 심박수 지표를 수집합니다.

클라이언트 계층 (Client Layer): Bluetooth 패킷 파싱, 심박수 추세 평활화 (smoothing), 그리고 청크 단위 오디오 재생 (Audio Queue)을 처리합니다.

라우팅 및 캐시 스케줄링 계층 (Routing & Cache Scheduling Layer): 사용자의 구독 티어(subscription tiers)와 지리적/언어적 속성에 따라 요청을 라우팅합니다.

AI 코어 계층 (AI Core Layer): 동적 프롬프트 구성 (dynamic prompt construction), LLM 토큰 스트리밍 (token streaming), 그리고 맞춤형 TTS 음성 합성 (voice synthesis)을 처리합니다.

주요 기술적 과제 및 해결책

1. 동적 "지역 + 언어" 그룹 캐싱 (대역폭 및 LLM 병목 현상 극복): WhatsFeel의 모든 세션은 AI에 의해 즉석에서 생성되므로, 전통적인 정적 CDN 캐싱을 사용할 수 없습니다. 이는 서버 대역폭과 LLM API 비용 측면에서 거대한 과제를 안겨줍니다. 실시간 진화의 느낌을 해치지 않으면서 이를 해결하기 위해, 당사는 계층화된 스케줄링 및 동적 슬라이딩 윈도우(sliding-window) 그룹 캐시를 구축했습니다.

생체 인식 VIP 파이프라인 (Biometric VIP Pipeline): Bluetooth 심박수 장치를 통해 연결된 사용자를 위해 시스템은 격리된 파이프라인을 제공합니다. 콘텐츠는 100% 실시간으로 생성되며, 사용자의 심박수 변동에 직접적으로 적응합니다.

그룹 슬라이딩 윈도우 캐시 (Group Sliding-Window Cache):

• 그룹 라우팅 (Group Routing): 생체 인식 기능을 사용하지 않는 사용자들은 지역, 시간대, 언어 선호도에 따라 그룹화됩니다.
• 동적 재사용 (Dynamic Reuse): 동일한 그룹 내의 사용자들은 최근 AI로 생성된 오디오 세그먼트의 롤링 캐시 (rolling cache)를 공유합니다. 이는 정적인 사전 녹음 라이브러리가 아니라, 서버에서 끊임없이 진화하는 라이브 "롤링 풀 (rolling pool)"입니다.
• 아키텍처 균형 (Architectural Balance): 사용자는 WhatsFeel을 열 때마다 항상 새롭고 진화하는 가이드를 듣게 되는 동시에, 서버 대역폭과 LLM 컴퓨팅 비용은 크게 절감됩니다.

무료 티어 (Free Tier - AI 채팅 어시스턴트): 구독 없이도 심야의 불안감을 털어놓을 수 있는 낮은 진입 장벽의 공간을 제공하기 위해, 완전히 무료인 Q&A 감정 지원 에이전트가 포함되어 있습니다.

1. 표준 BLE 0x180D 프로토콜 및 심박수 바이오피드백 (Heart Rate Biofeedback): 폭넓은 하드웨어 호환성을 보장하기 위해, 당사는 독점적인 Bluetooth 프로토콜 대신 글로벌 표준을 채택했습니다:

범용 하드웨어 지원 (Universal Hardware Support): 표준 Bluetooth 심박수 서비스 (Bluetooth Heart Rate Service, 0x180D)를 구현함으로써, WhatsFeel은 Garmin, Coros, Polar 기기 및 모든 표준 BLE 심박수 가슴 스트랩(chest strap) 또는 암밴드(armband)와 즉시 연동됩니다.

생체 데이터 기반 프롬프트 컨디셔닝 (Biometric-Driven Prompt Conditioning): 클라이언트는 심박수 값을 추출하여 이를 LLM 컨텍스트 파라미터로 변환합니다. 만약 WhatsFeel이 스트레스나 불면증으로 인한 갑작스러운 심박수 급증을 감지하면, AI는 즉시 프롬프트 전략을 조정합니다. 즉, 음성 모델이 더 느린 박자(cadence)와 진정시키는 톤을 채택하도록 유도하여 사용자의 맥박 조절을 돕습니다.

1. 저지연 스트리밍 파이프라인 및 프라이버시 설계
   토큰 레벨 청킹 (Token-Level Chunking) 및 오디오 큐잉 (Audio Queuing): LLM이 텍스트 토큰을 스트리밍함에 따라, 서버는 정규 표현식(regex) 기반의 문장 부호 파서(parser)를 사용하여 자연스러운 휴지기(쉼표, 마침표 등)에서 문장을 분리합니다. 절(clause)이 준비되는 즉시 TTS 엔진으로 즉시 전송됩니다. 클라이언트는 오디오 큐(audio queue)를 사용하여 오디오 청크를 버퍼링하고 끊김 없이 재생함으로써 지연(lag)을 제거합니다.

프라이버시 우선 아키텍처 (Privacy-First Architecture): WhatsFeel은 사용자의 건강 데이터나 생체 데이터를 클라우드 데이터베이스에 절대 저장하지 않습니다. 심박수 값은 실시간 조정을 위해 활성 세션 동안 휘발성 메모리 (RingBuffer) 내에만 엄격히 존재하며, 이를 통해 엄격한 데이터 프라이버시 준수를 보장합니다.

결론 (Conclusion)
WhatsFeel을 구축하며 우리는 생성형 AI (LLM + TTS)를 IoT 생체 인식과 결합하는 것이 웰니스(wellness) 애플리케이션을 위한 완전히 새로운 패러다임을 연다는 것을 배웠습니다. 표준 0x180D BLE 프로토콜과 그룹 슬라이딩 윈도우 캐싱 모델(group sliding-window caching model)을 활용함으로써, 적응형이며 반복적이지 않은 AI 경험을 대규모로 제공하는 것이 가능해졌습니다.

여러분의 의견을 듣고 싶습니다! BLE 패킷 파싱(packet parsing), TTS 스트리밍 최적화, 또는 동적 LLM 프롬프트 오케스트레이션(prompt orchestration)에 대해 궁금한 점이 있다면 댓글로 자유롭게 질문해 주세요.