오픈 모델로 개발을 시작하세요 (ollama/ollama)
요약
Ollama를 사용하여 로컬 환경에서 오픈 모델을 실행하고 관리하는 방법을 안내합니다. Docker 설치부터 REST API, Python 및 JavaScript 라이브러리 활용법, 그리고 다양한 에이전트 및 UI 도구와의 통합 방법을 다룹니다.
핵심 포인트
- Ollama를 통한 오픈 모델의 간편한 설치 및 실행
- Claude Code, Copilot 등 기존 에이전트와의 통합 지원
- REST API 및 Python/JS 라이브러리를 통한 개발 확장성
- Open WebUI, Dify.AI 등 풍부한 오픈소스 생태계 활용 가능
오픈 모델로 개발을 시작해 보세요.
curl -fsSL https://ollama.com/install.sh | sh
irm https://ollama.com/install.ps1 | iex
curl -fsSL https://ollama.com/install.sh | sh
공식 Ollama Docker 이미지 ollama/ollama가 Docker Hub에서 이용 가능합니다.
ollama
모델을 실행하거나 Ollama를 Claude Code, OpenClaw, OpenCode, Codex, Copilot 등 기존 에이전트나 애플리케이션에 연결하라는 메시지가 표시됩니다.
특정 통합을 시작하려면:
ollama launch claude
지원되는 통합에는 Claude Code, Codex, Copilot CLI, Droid, OpenCode가 포함됩니다.
OpenClaw를 사용하여 Ollama를 WhatsApp, Telegram, Slack, Discord 등에서 개인 AI 비서로 만드세요:
ollama launch openclaw
Gemma 3으로 실행하고 채팅하세요:
ollama run gemma3
전체 목록은 ollama.com/library를 참조하세요.
더 자세한 내용은 빠른 시작 가이드를 참고하세요.
Ollama는 모델을 실행하고 관리하기 위한 REST API를 제공합니다.
curl http://localhost:11434/api/chat -d '{
"model": "gemma3",
"messages": [{
...
모든 엔드포인트는 API 문서를 참조하세요.
pip install ollama
from ollama import chat
response = chat(model='gemma3', messages=[
{
...
npm i ollama
import ollama from "ollama";
const response = await ollama.chat({
model: "gemma3",
...
- llama.cpp 프로젝트는 Georgi Gerganov가 설립했습니다.
프로젝트를 추가하고 싶으신가요? 풀 리퀘스트(pull request)를 열어주세요.
-
Open WebUI - 확장 가능한(Extensible), 자체 호스팅형(self-hosted) AI 인터페이스
-
Onyx - 연결된(Connected) AI 워크스페이스
-
LibreChat - 다중 공급자 지원을 갖춘 향상된 ChatGPT 클론
-
Lobe Chat - 플러그인 생태계를 갖춘 모던 채팅 프레임워크 (문서)
-
NextChat - 크로스 플랫폼 ChatGPT UI (문서)
-
Perplexica - AI 기반 검색 엔진, 오픈 소스 Perplexity 대안
-
big-AGI - 전문가용 AI 스위트
-
Lollms WebUI - 다중 모델 웹 인터페이스
-
ChatOllama - 지식 기반을 갖춘 챗봇
-
Bionic GPT - 온프레미스(On-premise) AI 플랫폼
-
Chatbot UI - ChatGPT 스타일 웹 인터페이스
-
Hollama - 미니멀 웹 인터페이스
-
Chatbox - 데스크톱 및 웹 AI 클라이언트
-
chat - 팀을 위한 채팅 웹 앱
-
Ollama RAG Chatbot - RAG를 사용하여 여러 PDF와 대화하기
-
Tkinter 기반 클라이언트 - Python 데스크톱 클라이언트
-
Dify.AI - LLM(거대 언어 모델) 앱 개발 플랫폼
-
AnythingLLM - Mac, Windows, Linux용 올인원 AI 앱
-
Maid - 크로스 플랫폼 모바일 및 데스크톱 클라이언트
-
Witsy - Mac, Windows, Linux용 AI 데스크톱 앱
-
Cherry Studio - 다중 공급자 데스크톱 클라이언트
-
Ollama App - 데스크톱 및 모바일을 위한 다중 플랫폼 클라이언트
-
PyGPT - Linux, Windows, Mac용 AI 데스크톱 어시스턴트
-
Alpaca - Linux 및 macOS용 GTK4 클라이언트
-
SwiftChat - iOS, Android, Apple Vision Pro를 포함한 크로스 플랫폼
-
Enchanted - 네이티브 macOS 및 iOS 클라이언트
-
RWKV-Runner - 다중 모델 데스크톱 러너
-
Ollama Grid Search - 모델 평가 및 비교
-
macai - Ollama 및 ChatGPT용 macOS 클라이언트
-
AI Studio - 다중 공급자 데스크톱 IDE
-
Reins - 매개변수 튜닝(Parameter tuning) 및 추론 모델 지원
-
ConfiChat - 선택적 암호화를 통한 개인 정보 보호 중심
-
LLocal.in - Electron 데스크톱 클라이언트
-
MindMac - Mac용 AI 채팅 클라이언트
-
Msty - 다중 모델 데스크톱 클라이언트
-
BoltAI for Mac - Mac용 AI 채팅 클라이언트
-
IntelliBar - macOS용 AI 기반 어시스턴트
-
Kerlig AI - macOS용 AI 작문 어시스턴트
-
Hillnote - 마크다운 우선(Markdown-first) AI 워크스페이스
-
Perfect Memory AI - 화면 및 회의 기록으로 개인화된 생산성 AI
-
Ollama Android Chat - Android에서 원클릭 Ollama
위에 나열된 SwiftChat, Enchanted, Maid, Ollama App, Reins, ConfiChat 등도 모바일 플랫폼을 지원합니다.
-
Cline - 다중 파일/전체 리포지토리 코딩을 위한 VS Code 확장 프로그램
-
Continue - 모든 IDE를 위한 오픈 소스 AI 코드 어시스턴트
-
Void - 오픈 소스 AI 코드 에디터, Cursor 대안
-
Copilot for Obsidian - Obsidian용 AI 어시스턴트
-
twinny - Copilot 및 Copilot 채팅 대체재
-
gptel Emacs 클라이언트 - Emacs용 LLM 클라이언트
-
Ollama Copilot - GitHub Copilot으로 Ollama 사용하기
-
Obsidian Local GPT - Obsidian용 로컬 AI
-
Ellama Emacs 클라이언트 - Emacs용 LLM 도구
-
orbiton - Ollama 탭 자동 완성을 갖춘 설정 없는 텍스트 에디터
-
AI ST Completion - Sublime Text 4 AI 어시스턴트
-
VT Code - Tree-sitter 기반의 Rust 터미널 코딩 에이전트
-
QodeAssist - Qt Creator용 AI 코딩 어시스턴트
-
AI Toolkit for VS Code - Microsoft 공식 VS Code 확장 프로그램
-
Open Interpreter - 컴퓨터를 위한 자연어 인터페이스
-
LiteLLM - 100개 이상의 LLM 제공업체를 위한 통합 API
-
Semantic Kernel - Microsoft AI 오케스트레이션 SDK
-
LangChain4j - Java용 LangChain (예시)
-
LangChainGo - Go용 LangChain (예시)
-
Spring AI - Spring 프레임워크 AI 지원 (문서)
-
LangChain 및 예제와 함께하는 LangChain.js
-
Ollama for Ruby - Ruby LLM 라이브러리
-
any-llm - Mozilla의 통합 LLM 인터페이스
-
OllamaSharp for .NET - .NET SDK
-
LangChainRust - Rust LangChain (예시)
-
Agents-Flex for Java - Java 에이전트 프레임워크 (예시)
-
Elixir LangChain - Elixir LangChain
-
Ollama-rs for Rust - Rust SDK
-
LangChain for .NET - .NET LangChain (예시)
-
chromem-go - Ollama 임베딩을 사용한 Go 벡터 데이터베이스 (예시)
-
LangChainDart - Dart LangChain
-
LlmTornado - 여러 추론 API를 위한 통합 C# 인터페이스
-
Ollama4j for Java - Java SDK
-
Ollama for Laravel - Laravel 통합
-
Ollama for Swift - Swift SDK
-
LlamaIndex 및 LlamaIndexTS - LLM 앱용 데이터 프레임워크
-
Haystack - AI 파이프라인 프레임워크
-
Firebase Genkit - Google AI 프레임워크
-
Ollama-hpp for C++ - C++ SDK
-
PromptingTools.jl - Julia LLM 툴킷 (예시)
-
Ollama for R - rollama - R SDK
-
Portkey - AI 게이트웨이 (AI gateway)
-
Testcontainers - 컨테이너 기반 테스트 (Container-based testing)
-
LLPhant - PHP AI 프레임워크 (PHP AI framework)
-
AutoGPT - 자율형 AI 에이전트 플랫폼 (Autonomous AI agent platform)
-
crewAI - 멀티 에이전트 오케스트레이션 프레임워크 (Multi-agent orchestration framework)
-
Strands Agents - AWS의 모델 기반 에이전트 구축 (Model-driven agent building by AWS)
-
Cheshire Cat - AI 어시스턴트 프레임워크 (AI assistant framework)
-
any-agent - Mozilla의 통합 에이전트 프레임워크 인터페이스 (Unified agent framework interface by Mozilla)
-
Stakpak - 오픈 소스 DevOps 에이전트 (Open source DevOps agent)
-
Hexabot - 대화형 AI 빌더 (Conversational AI builder)
-
Neuro SAN - 멀티 에이전트 오케스트레이션 (Multi-agent orchestration) (docs)
-
RAGFlow - 심층 문서 이해 기반의 RAG 엔진 (RAG engine based on deep document understanding)
-
R2R - 오픈 소스 RAG 엔진 (Open-source RAG engine)
-
MaxKB - 즉시 사용 가능한 RAG 챗봇 (Ready-to-use RAG chatbot)
-
Minima - 온프레미스 또는 완전 로컬 RAG (On-premises or fully local RAG)
-
Chipper - Haystack RAG를 활용한 AI 인터페이스 (AI interface with Haystack RAG)
-
ARGO - Mac/Windows/Linux용 RAG 및 심층 연구 (RAG and deep research on Mac/Windows/Linux)
-
Archyve - RAG 기능을 지원하는 문서 라이브러리 (RAG-enabling document library)
-
Casibase - RAG 및 SSO를 지원하는 AI 지식 베이스 (AI knowledge base with RAG and SSO)
-
BrainSoup - RAG 및 멀티 에이전트 자동화를 지원하는 네이티브 클라이언트 (Native client with RAG and multi-agent automation)
-
LangBot - 에이전트 및 RAG를 활용한 멀티 플랫폼 메시징 봇 (Multi-platform messaging bots with agents and RAG)
-
AstrBot - RAG 및 플러그인을 지원하는 멀티 플랫폼 챗봇 (Multi-platform chatbot with RAG and plugins)
-
Discord-Ollama Chat Bot - TypeScript 기반 Discord 봇 (TypeScript Discord bot)
-
Ollama Telegram Bot - Telegram 봇 (Telegram bot)
-
LLM Telegram Bot - 역할극을 위한 Telegram 봇 (Telegram bot for roleplay)
-
aichat - Shell 어시스턴트, RAG 및 AI 도구를 포함한 올인원 LLM CLI (All-in-one LLM CLI with Shell Assistant, RAG, and AI tools)
-
oterm - Ollama용 터미널 클라이언트 (Terminal client for Ollama)
-
gollama - Go 기반의 Ollama 모델 관리자 (Go-based model manager for Ollama)
-
tlm - 로컬 셸 코파일럿 (Local shell copilot)
-
tenere - LLM을 위한 TUI (TUI for LLMs)
-
ParLlama - Ollama를 위한 TUI (TUI for Ollama)
-
llm-ollama - Datasette의 LLM CLI용 플러그인 (Plugin for Datasette's LLM CLI)
-
ShellOracle - 셸 명령어 제안 (Shell command suggestions)
-
LLM-X - LLM을 위한 프로그레시브 웹 앱 (Progressive web app for LLMs)
-
cmdh - 자연어를 셸 명령어로 변환 (Natural language to shell commands)
-
VT - 미니멀 멀티모달 AI 채팅 앱 (Minimal multimodal AI chat app)
-
AppFlowy - AI 협업 워크스페이스 (AI collaborative workspace), 셀프 호스팅이 가능한 Notion 대안
-
Screenpipe - AI 기반 검색 기능이 포함된 24/7 화면 및 마이크 녹화
-
Vibe - 회의 전사 및 분석
-
Page Assist - AI 기반 브라우징을 위한 Chrome 확장 프로그램 (Chrome extension)
-
NativeMind - 개인용 온디바이스 (on-device) 브라우저 AI 어시스턴트
-
Ollama Fortress - Ollama를 위한 보안 프록시 (Security proxy)
-
1Panel - 웹 기반 Linux 서버 관리
-
Writeopia - Ollama가 통합된 텍스트 에디터
-
QA-Pilot - GitHub 코드 저장소 이해
-
Raycast extension - Raycast 내의 Ollama
-
Painting Droid - AI 통합 기능이 있는 페인팅 앱
-
Serene Pub - AI 역할극 (roleplaying) 앱
-
Mayan EDMS - Ollama 워크플로우를 활용한 문서 관리 시스템 (Document management system)
-
TagSpaces - AI 태깅을 활용한 파일 관리
-
Opik - LLM 애플리케이션 디버깅, 평가 및 모니터링
-
OpenLIT - Ollama 및 GPU를 위한 OpenTelemetry 네이티브 모니터링
-
Lunary - 분석 및 개인정보(PII) 마스킹 기능을 갖춘 LLM 관측성 (observability)
-
Langfuse - 오픈 소스 LLM 관측성 (observability)
-
HoneyHive - 에이전트 (agents)를 위한 AI 관측성 및 평가
-
MLflow Tracing - 오픈 소스 LLM 관측성 (observability)
-
pgai - 벡터 데이터베이스 (vector database)로서의 PostgreSQL (가이드)
-
MindsDB - Ollama를 200개 이상의 데이터 플랫폼과 연결
-
chromem-go - Go 언어용 임베디드 벡터 데이터베이스 (예시)
-
Kangaroo - AI 기반 SQL 클라이언트
-
Google Cloud
-
Fly.io
-
Koyeb
-
Harbor - Ollama를 기본 백엔드로 사용하는 컨테이너화된 LLM 툴킷 (toolkit)
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub Trending Go (weekly)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기