IHUI-AI 소개: 8개 플랫폼, 176개 LLM, 1개의 코드베이스

이 글은 176개의 거대 언어 모델 (Large Language Models, LLMs)을 통합하는 8개 플랫폼 오픈 소스 AI 운영체제인 IHUI-AI를 구축하는 과정에 대한 10부작 시리즈의 첫 번째 기사입니다.

요약 (TL;DR)

IHUI-AI는 단일 TypeScript 코드베이스로부터 8개의 완전한 기능을 갖춘 클라이언트 앱 (웹, API, AI 서비스, CLI, 데스크톱, 브라우저 확장 프로그램, 모바일, 미니 프로그램)을 제공하는 오픈 소스 AI 운영체제입니다. 이 시스템은 100% OpenAI 호환 API를 통해 176개의 거대 언어 모델 (OpenAI, Anthropic, Gemini, DeepSeek, Qwen, GLM, Doubao, Kimi, Ollama, vLLM, ...)을 통합합니다. Apache 2.0 라이선스로 제공됩니다. git clone 후 실행 가능한 인스턴스까지 단 5분이 소요됩니다.

GitHub: https://github.com/IHUI-INF-AI/IHUI-AI

문제점

오늘날 AI 제품을 구축한다는 것은 5개 이상의 스택을 동시에 다뤄야 함을 의미합니다:

• LLM을 위한 Python 백엔드 (FastAPI + LangChain)
• TypeScript 프론트엔드 (Next.js)
• 모바일 앱 (React Native 또는 Swift/Kotlin)
• 데스크톱 래퍼 (Electron 또는 Tauri)
• 브라우저 확장 프로그램 (Chrome MV3)
• CLI 도구 (Node.js 또는 Python)
• 미니 프로그램 (WeChat / Douyin / Alipay)

각 스택은 고유의 인증 (Auth), 고유의 상태 관리 (State management), 고유의 LLM 클라이언트를 가집니다. 동일한 비즈니스 로직을 5번 중복 작성해야 하며, 5개의 서로 다른 타입 시스템 (Type systems)과 싸워야 하고, 버그를 5배 더 빠르게 배포하게 됩니다.

해결책: 1개의 코드베이스, 8개의 클라이언트

IHUI-AI는 단일 TypeScript 코드베이스로부터 8개의 클라이언트 애플리케이션을 제공합니다:

• Web (Next.js 15 + React 19 + Tailwind 4)
• API (Fastify 5, 1300개 이상의 라우트)
• AI Service (FastAPI + LangGraph, 50개 이상의 에이전트 (Agent) 그래프)
• CLI (Node.js TUI REPL)
• Desktop (Tauri 2.0, 크로스 플랫폼, 오프라인 지원 가능)
• Browser Extension (WXT + Chrome MV3)
• Mobile (React Native + Expo, iOS + Android)
• Mini-Program (Taro 4, WeChat + Douyin + Alipay + Baidu)

8개의 모든 클라이언트는 TypeScript 타입, 데이터베이스 스키마(Database Schema), API 계약(API contracts)을 100% 공유합니다. apps/api에서 라우트를 변경하면, 해당 변경 사항이 web/mobile/desktop/extension/miniapp/CLI에 즉시 타입이 적용되어 반영됩니다.

하나의 엔드포인트에 통합된 176개의 LLM 제공업체

from openai import OpenAI

client = OpenAI(
...

model 필드는 다음 중 어떤 것이든 허용합니다:

• OpenAI: gpt-4o, gpt-4-turbo, o1, o3, gpt-4o-mini
• Anthropic: claude-opus-4, claude-sonnet-4, claude-haiku-4
• Google: gemini-2.0-pro, gemini-2.0-flash
• DeepSeek: deepseek-chat, deepseek-coder, deepseek-reasoner
• Qwen: qwen-max, qwen-plus, qwen-turbo, qwen-coder
• GLM: glm-4-plus, glm-4-flash, glm-4-coder
• Doubao: doubao-pro, doubao-lite
• Kimi: moonshot-v1-128k, kimi-k2
• Ollama (로컬): llama3.3, qwen2.5, mistral
• vLLM (로컬): 모든 오픈 웨이트 (open-weights) 모델
• ... 및 156개 더

장난감이 아닌, 프로덕션급 (Production-grade)

퀵스타트 (Quickstart)

git clone https://github.com/IHUI-INF-AI/IHUI-AI
cd IHUI-AI
pnpm install
...

라이브 데모는 https://ihui.ai에서 확인하세요.

향후 계획

다음 9개의 기사에서 저는 다음 주제들을 심층적으로 다룰 예정입니다:

• LangGraph 상태 머신 (state machine) 프로덕션 패턴
• MCP 게이트웨이 (gateway) 구현
• 8개 플랫폼 TypeScript 공유 전략
• 176개 모델에 걸친 LiteLLM 라우팅
• 멀티 테넌트 (Multi-tenant) RLS + 감사 체인 (audit chain)
• Tauri 데스크톱 엔지니어링
• React Native + Expo 모바일 패턴
• Taro 4 미니 프로그램 멀티 플랫폼
• 오픈 소스 비즈니스 모델

라이선스 (License)

Apache-2.0 — 상업적 이용이 자유로우며, 제한 사항이 없습니다.

🤖 IHUI-AI 팀이 애정을 담아 생성했습니다. 이 내용이 유용했다면 GitHub에서 Star를 눌러주세요!