AI 시대의 빠른 반복을 위한 아키텍처 전략: SERHANT 사례

요약

부동산 기술 기업 SERHANT.은 AI 모델이 빠르게 변화하는 환경에 대응하기 위해 유연하고 확장 가능한 시스템 구축에 성공했습니다. 이들은 OpenAI, Claude, Gemini 등 여러 LLM(Large Language Model)을 작업별로 조합하여 비용과 속도를 최적화합니다. 특히 Vercel의 Next.js 기반으로 시작해 React Native iOS 앱까지 백엔드 재구축 없이 확장했으며, AI SDK와 AI Gateway를 활용해 모델 종속성 문제를 해결했습니다. 이를 통해 내부 파일럿 단계에서 900명 이상의 실제

핵심 포인트

• AI 시대에는 단일 모델에 의존하기보다 여러 LLM을 조합하여 비용과 성능을 최적화하는 것이 중요합니다.
• Vercel의 Next.js와 같은 프레임워크는 백엔드 재구축 없이 다양한 클라이언트 환경(웹, 모바일)으로 쉽게 확장할 수 있게 합니다.
• AI SDK를 활용하면 특정 모델 제공업체에 종속되지 않고 추상화 계층을 유지하여 빠른 반복과 유연성을 확보할 수 있습니다.
• AI Gateway는 사용량 전반의 가시성을 제공하고, 복잡한 워크플로우를 여러 전문 에이전트(Agent)로 구성하는 데 도움을 줍니다.