본문으로 건너뛰기

© 2026 Molayo

GitHub릴리즈2026. 06. 08. 01:45

오픈 모델로 개발을 시작하세요 (ollama/ollama)

요약

Ollama를 사용하여 로컬 환경에서 오픈 모델을 실행하고 관리하는 방법을 안내합니다. Docker 설치부터 REST API, Python 및 JavaScript 라이브러리 활용법, 그리고 다양한 에이전트 및 UI 도구와의 통합 방법을 다룹니다.

핵심 포인트

  • Ollama를 통한 오픈 모델의 간편한 설치 및 실행
  • Claude Code, Copilot 등 기존 에이전트와의 통합 지원
  • REST API 및 Python/JS 라이브러리를 통한 개발 확장성
  • Open WebUI, Dify.AI 등 풍부한 오픈소스 생태계 활용 가능

오픈 모델로 개발을 시작해 보세요.

curl -fsSL https://ollama.com/install.sh | sh

irm https://ollama.com/install.ps1 | iex

curl -fsSL https://ollama.com/install.sh | sh

공식 Ollama Docker 이미지 ollama/ollama가 Docker Hub에서 이용 가능합니다.

ollama

모델을 실행하거나 Ollama를 Claude Code, OpenClaw, OpenCode, Codex, Copilot 등 기존 에이전트나 애플리케이션에 연결하라는 메시지가 표시됩니다.

특정 통합을 시작하려면:

ollama launch claude

지원되는 통합에는 Claude Code, Codex, Copilot CLI, Droid, OpenCode가 포함됩니다.

OpenClaw를 사용하여 Ollama를 WhatsApp, Telegram, Slack, Discord 등에서 개인 AI 비서로 만드세요:

ollama launch openclaw

Gemma 3으로 실행하고 채팅하세요:

ollama run gemma3

전체 목록은 ollama.com/library를 참조하세요.

더 자세한 내용은 빠른 시작 가이드를 참고하세요.

Ollama는 모델을 실행하고 관리하기 위한 REST API를 제공합니다.

curl http://localhost:11434/api/chat -d '{
"model": "gemma3",
"messages": [{
...

모든 엔드포인트는 API 문서를 참조하세요.

pip install ollama
from ollama import chat
response = chat(model='gemma3', messages=[
{
...
npm i ollama
import ollama from "ollama";
const response = await ollama.chat({
model: "gemma3",
...
  • llama.cpp 프로젝트는 Georgi Gerganov가 설립했습니다.

프로젝트를 추가하고 싶으신가요? 풀 리퀘스트(pull request)를 열어주세요.

  • Open WebUI - 확장 가능한(Extensible), 자체 호스팅형(self-hosted) AI 인터페이스

  • Onyx - 연결된(Connected) AI 워크스페이스

  • LibreChat - 다중 공급자 지원을 갖춘 향상된 ChatGPT 클론

  • Lobe Chat - 플러그인 생태계를 갖춘 모던 채팅 프레임워크 (문서)

  • NextChat - 크로스 플랫폼 ChatGPT UI (문서)

  • Perplexica - AI 기반 검색 엔진, 오픈 소스 Perplexity 대안

  • big-AGI - 전문가용 AI 스위트

  • Lollms WebUI - 다중 모델 웹 인터페이스

  • ChatOllama - 지식 기반을 갖춘 챗봇

  • Bionic GPT - 온프레미스(On-premise) AI 플랫폼

  • Chatbot UI - ChatGPT 스타일 웹 인터페이스

  • Hollama - 미니멀 웹 인터페이스

  • Chatbox - 데스크톱 및 웹 AI 클라이언트

  • chat - 팀을 위한 채팅 웹 앱

  • Ollama RAG Chatbot - RAG를 사용하여 여러 PDF와 대화하기

  • Tkinter 기반 클라이언트 - Python 데스크톱 클라이언트

  • Dify.AI - LLM(거대 언어 모델) 앱 개발 플랫폼

  • AnythingLLM - Mac, Windows, Linux용 올인원 AI 앱

  • Maid - 크로스 플랫폼 모바일 및 데스크톱 클라이언트

  • Witsy - Mac, Windows, Linux용 AI 데스크톱 앱

  • Cherry Studio - 다중 공급자 데스크톱 클라이언트

  • Ollama App - 데스크톱 및 모바일을 위한 다중 플랫폼 클라이언트

  • PyGPT - Linux, Windows, Mac용 AI 데스크톱 어시스턴트

  • Alpaca - Linux 및 macOS용 GTK4 클라이언트

  • SwiftChat - iOS, Android, Apple Vision Pro를 포함한 크로스 플랫폼

  • Enchanted - 네이티브 macOS 및 iOS 클라이언트

  • RWKV-Runner - 다중 모델 데스크톱 러너

  • Ollama Grid Search - 모델 평가 및 비교

  • macai - Ollama 및 ChatGPT용 macOS 클라이언트

  • AI Studio - 다중 공급자 데스크톱 IDE

  • Reins - 매개변수 튜닝(Parameter tuning) 및 추론 모델 지원

  • ConfiChat - 선택적 암호화를 통한 개인 정보 보호 중심

  • LLocal.in - Electron 데스크톱 클라이언트

  • MindMac - Mac용 AI 채팅 클라이언트

  • Msty - 다중 모델 데스크톱 클라이언트

  • BoltAI for Mac - Mac용 AI 채팅 클라이언트

  • IntelliBar - macOS용 AI 기반 어시스턴트

  • Kerlig AI - macOS용 AI 작문 어시스턴트

  • Hillnote - 마크다운 우선(Markdown-first) AI 워크스페이스

  • Perfect Memory AI - 화면 및 회의 기록으로 개인화된 생산성 AI

  • Ollama Android Chat - Android에서 원클릭 Ollama

위에 나열된 SwiftChat, Enchanted, Maid, Ollama App, Reins, ConfiChat 등도 모바일 플랫폼을 지원합니다.

  • Cline - 다중 파일/전체 리포지토리 코딩을 위한 VS Code 확장 프로그램

  • Continue - 모든 IDE를 위한 오픈 소스 AI 코드 어시스턴트

  • Void - 오픈 소스 AI 코드 에디터, Cursor 대안

  • Copilot for Obsidian - Obsidian용 AI 어시스턴트

  • twinny - Copilot 및 Copilot 채팅 대체재

  • gptel Emacs 클라이언트 - Emacs용 LLM 클라이언트

  • Ollama Copilot - GitHub Copilot으로 Ollama 사용하기

  • Obsidian Local GPT - Obsidian용 로컬 AI

  • Ellama Emacs 클라이언트 - Emacs용 LLM 도구

  • orbiton - Ollama 탭 자동 완성을 갖춘 설정 없는 텍스트 에디터

  • AI ST Completion - Sublime Text 4 AI 어시스턴트

  • VT Code - Tree-sitter 기반의 Rust 터미널 코딩 에이전트

  • QodeAssist - Qt Creator용 AI 코딩 어시스턴트

  • AI Toolkit for VS Code - Microsoft 공식 VS Code 확장 프로그램

  • Open Interpreter - 컴퓨터를 위한 자연어 인터페이스

  • LiteLLM - 100개 이상의 LLM 제공업체를 위한 통합 API

  • Semantic Kernel - Microsoft AI 오케스트레이션 SDK

  • LangChain4j - Java용 LangChain (예시)

  • LangChainGo - Go용 LangChain (예시)

  • Spring AI - Spring 프레임워크 AI 지원 (문서)

  • LangChain 및 예제와 함께하는 LangChain.js

  • Ollama for Ruby - Ruby LLM 라이브러리

  • any-llm - Mozilla의 통합 LLM 인터페이스

  • OllamaSharp for .NET - .NET SDK

  • LangChainRust - Rust LangChain (예시)

  • Agents-Flex for Java - Java 에이전트 프레임워크 (예시)

  • Elixir LangChain - Elixir LangChain

  • Ollama-rs for Rust - Rust SDK

  • LangChain for .NET - .NET LangChain (예시)

  • chromem-go - Ollama 임베딩을 사용한 Go 벡터 데이터베이스 (예시)

  • LangChainDart - Dart LangChain

  • LlmTornado - 여러 추론 API를 위한 통합 C# 인터페이스

  • Ollama4j for Java - Java SDK

  • Ollama for Laravel - Laravel 통합

  • Ollama for Swift - Swift SDK

  • LlamaIndex 및 LlamaIndexTS - LLM 앱용 데이터 프레임워크

  • Haystack - AI 파이프라인 프레임워크

  • Firebase Genkit - Google AI 프레임워크

  • Ollama-hpp for C++ - C++ SDK

  • PromptingTools.jl - Julia LLM 툴킷 (예시)

  • Ollama for R - rollama - R SDK

  • Portkey - AI 게이트웨이 (AI gateway)

  • Testcontainers - 컨테이너 기반 테스트 (Container-based testing)

  • LLPhant - PHP AI 프레임워크 (PHP AI framework)

  • AutoGPT - 자율형 AI 에이전트 플랫폼 (Autonomous AI agent platform)

  • crewAI - 멀티 에이전트 오케스트레이션 프레임워크 (Multi-agent orchestration framework)

  • Strands Agents - AWS의 모델 기반 에이전트 구축 (Model-driven agent building by AWS)

  • Cheshire Cat - AI 어시스턴트 프레임워크 (AI assistant framework)

  • any-agent - Mozilla의 통합 에이전트 프레임워크 인터페이스 (Unified agent framework interface by Mozilla)

  • Stakpak - 오픈 소스 DevOps 에이전트 (Open source DevOps agent)

  • Hexabot - 대화형 AI 빌더 (Conversational AI builder)

  • Neuro SAN - 멀티 에이전트 오케스트레이션 (Multi-agent orchestration) (docs)

  • RAGFlow - 심층 문서 이해 기반의 RAG 엔진 (RAG engine based on deep document understanding)

  • R2R - 오픈 소스 RAG 엔진 (Open-source RAG engine)

  • MaxKB - 즉시 사용 가능한 RAG 챗봇 (Ready-to-use RAG chatbot)

  • Minima - 온프레미스 또는 완전 로컬 RAG (On-premises or fully local RAG)

  • Chipper - Haystack RAG를 활용한 AI 인터페이스 (AI interface with Haystack RAG)

  • ARGO - Mac/Windows/Linux용 RAG 및 심층 연구 (RAG and deep research on Mac/Windows/Linux)

  • Archyve - RAG 기능을 지원하는 문서 라이브러리 (RAG-enabling document library)

  • Casibase - RAG 및 SSO를 지원하는 AI 지식 베이스 (AI knowledge base with RAG and SSO)

  • BrainSoup - RAG 및 멀티 에이전트 자동화를 지원하는 네이티브 클라이언트 (Native client with RAG and multi-agent automation)

  • LangBot - 에이전트 및 RAG를 활용한 멀티 플랫폼 메시징 봇 (Multi-platform messaging bots with agents and RAG)

  • AstrBot - RAG 및 플러그인을 지원하는 멀티 플랫폼 챗봇 (Multi-platform chatbot with RAG and plugins)

  • Discord-Ollama Chat Bot - TypeScript 기반 Discord 봇 (TypeScript Discord bot)

  • Ollama Telegram Bot - Telegram 봇 (Telegram bot)

  • LLM Telegram Bot - 역할극을 위한 Telegram 봇 (Telegram bot for roleplay)

  • aichat - Shell 어시스턴트, RAG 및 AI 도구를 포함한 올인원 LLM CLI (All-in-one LLM CLI with Shell Assistant, RAG, and AI tools)

  • oterm - Ollama용 터미널 클라이언트 (Terminal client for Ollama)

  • gollama - Go 기반의 Ollama 모델 관리자 (Go-based model manager for Ollama)

  • tlm - 로컬 셸 코파일럿 (Local shell copilot)

  • tenere - LLM을 위한 TUI (TUI for LLMs)

  • ParLlama - Ollama를 위한 TUI (TUI for Ollama)

  • llm-ollama - Datasette의 LLM CLI용 플러그인 (Plugin for Datasette's LLM CLI)

  • ShellOracle - 셸 명령어 제안 (Shell command suggestions)

  • LLM-X - LLM을 위한 프로그레시브 웹 앱 (Progressive web app for LLMs)

  • cmdh - 자연어를 셸 명령어로 변환 (Natural language to shell commands)

  • VT - 미니멀 멀티모달 AI 채팅 앱 (Minimal multimodal AI chat app)

  • AppFlowy - AI 협업 워크스페이스 (AI collaborative workspace), 셀프 호스팅이 가능한 Notion 대안

  • Screenpipe - AI 기반 검색 기능이 포함된 24/7 화면 및 마이크 녹화

  • Vibe - 회의 전사 및 분석

  • Page Assist - AI 기반 브라우징을 위한 Chrome 확장 프로그램 (Chrome extension)

  • NativeMind - 개인용 온디바이스 (on-device) 브라우저 AI 어시스턴트

  • Ollama Fortress - Ollama를 위한 보안 프록시 (Security proxy)

  • 1Panel - 웹 기반 Linux 서버 관리

  • Writeopia - Ollama가 통합된 텍스트 에디터

  • QA-Pilot - GitHub 코드 저장소 이해

  • Raycast extension - Raycast 내의 Ollama

  • Painting Droid - AI 통합 기능이 있는 페인팅 앱

  • Serene Pub - AI 역할극 (roleplaying) 앱

  • Mayan EDMS - Ollama 워크플로우를 활용한 문서 관리 시스템 (Document management system)

  • TagSpaces - AI 태깅을 활용한 파일 관리

  • Opik - LLM 애플리케이션 디버깅, 평가 및 모니터링

  • OpenLIT - Ollama 및 GPU를 위한 OpenTelemetry 네이티브 모니터링

  • Lunary - 분석 및 개인정보(PII) 마스킹 기능을 갖춘 LLM 관측성 (observability)

  • Langfuse - 오픈 소스 LLM 관측성 (observability)

  • HoneyHive - 에이전트 (agents)를 위한 AI 관측성 및 평가

  • MLflow Tracing - 오픈 소스 LLM 관측성 (observability)

  • pgai - 벡터 데이터베이스 (vector database)로서의 PostgreSQL (가이드)

  • MindsDB - Ollama를 200개 이상의 데이터 플랫폼과 연결

  • chromem-go - Go 언어용 임베디드 벡터 데이터베이스 (예시)

  • Kangaroo - AI 기반 SQL 클라이언트

  • Google Cloud

  • Fly.io

  • Koyeb

  • Harbor - Ollama를 기본 백엔드로 사용하는 컨테이너화된 LLM 툴킷 (toolkit)

AI 자동 생성 콘텐츠

본 콘텐츠는 GitHub Trending Go (weekly)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0