Smarter 프로젝트
Build Status
Test Status
Deploy Status
Python coverage
React coverage
Latest Release
Docs
Website
Docker Pulls
Artifact Hub
License: GNU AGPL v3<br>
Smarter는 AI 교육을 위해 University of British Columbia에서 사용됩니다.
The Smarter Project는 단 한 줄의 Python 코드도 작성하지 않고 정교한 AI 애플리케이션을 구축할 수 있는 오픈 소스, 클라우드 네이티브 플랫폼이자 개발자 프레임워크입니다. 웹 검색, 데이터베이스 쿼리, API 호출, 모든 MCP 서버의 도구 사용 및 prompt injection과 데이터 유출로부터 스스로 방어하는 애플리케이션이 하나의 짧은 YAML 파일로 설명되며, 단 하나의 명령어로 배포됩니다:
smarter apply -f my-ai-application.yaml
Smarter Manifest
Smarter Web Console
Smarter를 사용해야 하는 이유?
-
코드 없이, 선언만으로. Smarter Manifest (SAM)는 애플리케이션이 어떻게 작동하는지 코딩하기보다 무엇인지 선언합니다. 프롬프트 엔지니어, 비즈니스 분석가, 제품 관리자 등 누구나 직접 프로덕션 AI 애플리케이션을 구축하고, 읽고, 변경할 수 있으며, 매니페스트는 나머지 인프라와 마찬가지로 버전 관리되고, 검토되며, CI/CD를 통해 배포됩니다.
-
외부 데이터 접근의 모든 방법. 각 접근 방식은 코드가 필요 없는 Resource이며, 매니페스트에 선언합니다: Remote APIs, Remote SQL, MCP 서버, 웹, 스킬, 그리고 사용자 문서.
-
첫 프롬프트부터 관리. 결정론적인 Guardrails는 모델로 가는 모든 메시지와 돌아오는 모든 답변을 검사하며, 모든 개입은 기록됩니다.
-
설계상 격리. 코드 실행 없음, 사설 네트워크, 강화된 아웃바운드 요청, 모든 계층에서의 역할 기반 접근 제어, 그리고 모델이 절대 보유하지 않는 자격 증명. Security를 참조하세요.
-
오케스트라처럼 구성됩니다. 하나의 LLMClient는 어떤 제공업체의 모델이든 필요한 플러그인, MCP 클라이언트 및 가드레일과 결합하며, 단순히 이름으로 나열하기만 하면 됩니다. 그리고 Orchestrator가 다중 에이전트 워크플로우에서 여러 LLMClient를 조정합니다.
-
팀을 위해 구축되었습니다. 모든 리소스는 소유자가 있으며, 소유자의 계정 내의 모든 사람과 공유됩니다.
-
인프라에서 대규모로 실행됩니다. 노트북의 단일 Docker 컨테이너로 시작하여, Smarter Helm chart를 통해 Kubernetes 환경의 프로덕션까지 확장할 수 있습니다. 관리형 서비스 의존성이나 벤더 종속성이 없습니다.
한눈에 보기 (At a Glance)
-
시작하기: 빠른 시작 가이드 | 사전 요구 사항 | 문제 해결 | 튜토리얼
-
플랫폼
- AI 제공업체 및 리소스에 대한 안전하고, 통제되며, 감사 가능한 액세스를 제공하는 프록시 서버로, 비밀 정보나 기본 벤더 계정을 노출하지 않습니다.
- Kubernetes를 사용할 때처럼 파이썬 프로그래밍 없이 선언적 YAML 매니페스트로 모든 AI 리소스를 구축할 수 있습니다.
- 웹 콘솔, REST API, 그리고 명령줄 인터페이스를 통해 리소스를 관리할 수 있습니다.
- 애플리케이션 서버와 백그라운드 워커의 자동 수평 확장이 가능한 Kubernetes에서 대규모로 실행됩니다.
-
내장된 로깅,
원가 회계 (cost accounting), 그리고 보안(security) 기능.
-
지식 및 도구 (Knowledge and tools)
-
신뢰 및 안전 (Trust and safety)
- 중재, 자해, 개인 데이터, 데이터 주체 요청, 유출된 비밀 정보, 욕설, 조작된 인용(fabricated citations), 프롬프트 인젝션(prompt injection), 탈옥(jailbreaks), 코드 인젝션을 위한 입력 및 출력 가드레일(Guardrails).
- 각 프롬프트 (Prompt)부터 이를 승인한 계정까지의 엔드투엔드 감사(audit).
-
모델 및 워크플로우 (Models and workflows)
- OpenAI, Google AI, Meta AI, DeepSeek을 포함하여 여러 AI 모델 제공업체 (AI model providers)와 LLMHost를 사용한 자체 호스팅 모델을 지원합니다.
- Orchestrator를 이용한 다중 에이전트 워크플로우(Multi-agent workflows).
- 배포 전에 애플리케이션을 테스트하기 위한 프롬프트 엔지니어링 작업대(workbench).
-
개발자 프레임워크 (Developer framework)
- 코드를 작성하고 싶을 때를 위해 마련되었으며, Django, Django REST Framework, Pydantic을 기반으로 구축되었고 Smarter 자체가 구축된 것과 동일한 프레임워크입니다.
- 자동화된 AWS 클라우드 인프라 및 Kubernetes 관리 기능.
-
웹 페이지에 Smarter 채팅 기능을 추가하는 React 컴포넌트
빠른 시작 (Quickstart)
이 설정은 Docker를 사용하며, 첫 설치에는 약 20분이 소요됩니다.
-
프로젝트 요구 사항 확인:
-
선택적으로, 이 리포지토리의 루트에 있는 .env 파일에 자격 증명을 추가합니다. 플랫폼을 로컬에서 실행하는 데 필요한 것은 없습니다: make은 필수 값인 암호화 키를 포함하여 .env 파일을 생성합니다. 내장된 LLM 클라이언트가 프롬프트에 응답할 수 있도록 SMARTER_OPENAI_API_KEY와 같은 LLM 제공업체의 API 키를 추가하세요. 설정이 누락된 기능은 사용될 때 무엇을 설정해야 하는지 로그로 기록합니다.
-
애플리케이션을 로컬에서 초기화, 빌드 및 실행합니다.
git clone https://github.com/smarter-sh/smarter
make help # 리포의 루트에 .env 파일을 생성합니다
# 선택적으로, .env 파일에 API 키를 추가하세요.
...
- 사용자
[email protected]과 비밀번호 smarter로 http://localhost:9357/login/에서 로그인합니다.
다음 온보딩 비디오를 참고하세요:
주요 기능 (Key Features)
Smarter는 Kubernetes 프로젝트에서 영감을 받은 YAML 매니페스트 기반 접근 방식을 통해 AI 리소스 관리를 구현합니다.
이 시스템은 REST API 및 SQL 데이터베이스와 같은 다른 엔터프라이즈 리소스를 통합하는 데 필요한 이질적인 리소스를 정의, 구성 및 오케스트레이션할 수 있는 통일되고 선언적(declarative) 방식을 제공합니다. 또한 프롬프트 엔지니어링 팀에게 에이전트 워크플로우(agentic workflows), 고객 대면 채팅 솔루션 등 일반적인 기업 사용 사례를 위한 강력한 AI 리소스를 설계, 프로토타입 제작, 테스트, 배포 및 관리할 수 있는 직관적인 작업대(workbench) 접근 방식을 제공합니다. NPM, Wordpress, Squarespace, Drupal, Office 365, Sharepoint, .Net, Netsuite, salesforce.com, SAP 등 광범위한 프론트엔드 생태계와 호환되는 별도로 관리되는 React 기반 채팅 UI를 포함합니다. 또한 API 기능을 자체 Python 프로젝트에 통합하기 위한 Golang 명령줄 인터페이스와 PyPi 패키지가 있습니다. 이는 대규모 조직에서 작업하는 프롬프트 엔지니어링 팀을 지원하기 위해 개발되었습니다. 따라서 Smarter는 자격 증명 관리(credentials management), 팀 워크그룹 관리, 역할 기반 보안(role-based security), 회계 원가 코드(accounting cost codes), 로깅 및 감사 기능(logging and audit capabilities)과 같은 일반적인 엔터프라이즈 기능을 제공합니다.
Smarter는 DeepSeek, Google AI, Meta AI, OpenAI의 LLM 간에 원활한 통합과 상호 운용성을 제공합니다. 이는 LLM 공급자 독립적(LLM provider-agnostic)이며, 보안 관리, 프롬프트 콘텐츠 조정(prompt content moderation), 감사, 비용 회계, 워크플로우 관리 등 지속적으로 진화하는 가치 추가 서비스 목록에 대한 원활한 통합을 제공합니다. Smarter는 클라우드 네이티브(cloud native)이며 Kubernetes에서 실행되며, 온프레미스 데이터 센터 또는 클라우드 환경 모두에서 운영할 수 있습니다.
Smarter는 대규모로 운영할 때 비용 효율적입니다. 확장성이 뛰어나며, 커스터마이징이나 포킹(forking)을 요구하지 않는 간결한 핵심 철학 위에 아키텍처되었습니다. 수평적으로 확장 가능하며, 네이티브하게 멀티테넌트(multi-tenant)를 지원하여 기존 시스템과 함께 설치할 수 있습니다.
Helm Chart
ghcr.io/smarter-sh/charts/smarter 또는 Artifact Hub를 참조하십시오.
문서(Documentation)
Read the Docs: docs.smarter.sh
지원(Support)
이 프로젝트의 버그는 GitHub Issues Page에 보고해 주십시오.
기여(Contributing)