의료 AI 분야에서 '신뢰'는 단순한 기능 이상의 문제입니다. OpenEvidence와 같은 임상 의사결정 지원 플랫폼(Clinical Decision Support Platform, CDSS)에게 제품 실패는 곧 환자에게 잘못된 의료 결정으로 이어질 수 있기 때문에, 최고 수준의 안정성(reliability)이 필수적입니다.

OpenEvidence는 미국 내 의사들의 40% 이상이 사용하는 가장 광범위한 임상 검색 엔진이자 CDSS 플랫폼입니다. 이들은 빠른 스타트업 속도로 움직이는 동시에 병원급 신뢰성을 충족해야 하는 어려운 과제에 직면했습니다.

하이브리드 아키텍처를 통한 안정성과 민첩성 확보:
OpenEvidence는 백엔드는 Python 기반으로 Google Cloud Platform (GCP)에서 운영하며 데이터 수집, 모델 오케스트레이션(model orchestration), 핵심 비즈니스 로직을 처리합니다. 반면, 프론트엔드 개발은 Next.js를 사용하고 Vercel에 배포하는 하이브리드 아키텍처를 채택했습니다.

이 구조는 엔지니어링 팀의 특성(대부분 Python 및 ML 배경)과 제품 요구사항을 모두 충족시켰습니다. 특히 Vercel은 프론트엔드 측면에서 엄청난 확장성을 제공했습니다. 모든 커밋이 자동으로 배포되며, 프로덕션 배포가 5분 내에 완료되고, 모든 브랜치에 대한 미리보기(Preview) URL이 생성되어 개발 속도를 극대화할 수 있었습니다.

확장성 및 비용 효율성의 혁신:
OpenEvidence는 1000배의 성장에 대응하며 인프라 측면에서도 큰 도약을 이루었습니다. Vercel이 도입한 Fluid Compute를 활용함으로써 서버리스 워크로드 운영 방식을 개선했습니다. 이는 온디맨드 실행과 서버급 효율성을 결합하여 지연 시간(latency)을 낮추고 부하 상황에서의 성능을 향상시켰습니다.

그 결과, 팀은 동일한 신뢰도를 유지하면서도 서버리스 지출을 90% 절감하는 성과를 거두었습니다. 이는 인프라 관리에 드는 시간을 줄이고 제품 경험(product experience) 개발에 집중할 수 있게 했습니다.

신뢰 구축의 중요성:
OpenEvidence가 직면한 가장 큰 과제 중 하나는 '신뢰'입니다. 의료 전문가들은 빠르지만 안정적이며, 명확하고 신뢰할 수 있는 도구를 기대합니다. Vercel은 초기 개념 증명(Proof of Concept) 단계부터 커스텀 도메인 연결을 통해 간단하게 프로젝트를 배포할 수 있게 함으로써 시장 적합성(product-market fit)을 찾는 과정과 초기 기업 파트너십 확보에 큰 도움을 주었습니다.

결론적으로, OpenEvidence의 사례는 고위험 산업(High-stakes industry)에서 어떻게 최신 웹 기술 스택을 활용하여 스타트업 수준의 민첩성(agility)과 병원급 안정성을 동시에 달성할 수 있는지 보여주는 모범적인 예시입니다. 인프라가 '보이지 않게' 작동함으로써, 개발팀은 오직 제품 가치 창출에만 집중할 수 있게 된 것입니다.