Atomic Chat

에이전트를 위한 로컬 AI 앱 및 추론 엔진입니다. 오픈 웨이트 LLM을 로컬에서 실행하여 개인 정보 보호가 보장되는 환경에서 사용하세요.

Getting Started · Hugging Face · Discord · X / Twitter · Bug Reports

📦 다운로드

데스크톱 <a href="https://github.com/AtomicBot-ai/Atomic-Chat/releases/download/v2.0.0/Atomic.Chat_2.0.0_universal.dmg"><img src="https://img.shields.io/badge/macOS-Universal-000000?style=for-the-badge&logo=apple&logoColor=white" height="46" alt="macOS용 다운로드" /></a>  <a href="https://github.com/AtomicBot-ai/Atomic-Chat/releases/download/v2.0.0/Atomic.Chat_2.0.0_x64-setup.exe"><img src="https://img.shields.io/badge/Windows-x64-0078D4?style=for-the-badge&logo=windows11&logoColor=white" height="46" alt="Windows용 다운로드" /></a>  <a href="https://github.com/AtomicBot-ai/Atomic-Chat/releases/download/v2.0.0/Atomic.Chat_2.0.0_amd64.AppImage"><img src="https://img.shields.io/badge/Linux-AppImage-FCC624?style=for-the-badge&logo=linux&logoColor=black" height="46" alt="Linux용 다운로드" /></a> 모바일 <a href="https://apps.apple.com/us/app/atomic-chat-private-local-ai/id6761720226"><img src="https://img.shields.io/badge/iOS-App_Store-0D96F6?style=for-the-badge&logo=appstore&logoColor=white" height="46" alt="iOS용 다운로드" /></a>  <a href="https://play.google.com/store/apps/details?id=chat.atomic.app"><img src="https://img.shields.io/badge/Android-Google_Play-414141?style=for-the-badge&logo=googleplay&logoColor=white" height="46" alt="Android용 다운로드" /></a>

🔌 API로 사용하기

Atomic Chat은 **http://localhost:1337/v1**에서 OpenAI와 호환되는 서버를 실행합니다. 이는 OpenAI SDK의 드롭인 대체품입니다. 앱에 모델을 로드한 다음, 모든 클라이언트가 이 주소를 가리키도록 설정할 수 있습니다:

curl http://localhost:1337/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{ 
...

from openai import OpenAI

# Atomic Chat은 OpenAI API와 호환됩니다 — base_url만 변경하면 됩니다.
...

기본적으로 127.0.0.1에 바인딩됩니다. LAN에서 사용하려면 host: 0.0.0.0으로 설정하세요. OpenAI API를 사용하는 모든 에이전트, CLI 또는 IDE 플러그인과 작동합니다 — 아래 Launch With를 참조하세요.

✨ 기능 (Features)

로컬 모델 (Local models)

HuggingFace에서 오픈 웨이트 LLM 실행 — Llama, Gemma, Qwen, Mistral, Phi 등
다중 토큰 예측(Multi-Token Prediction, MTP) 추측 디코딩 — 지원되는 모델에서 처리량 30–70% 향상 (Gemma 4의 경우 최대 3배)
DFlash 블록-확산 디코딩 — Qwen 3.6, Gemma 4, Kimi K2.5에서 최대 6배 빠름
Flash Attention 토글 (on / off / auto)
Chain-of-Thought 모델을 위한 자동 추론-컨텍스트 추적 기능
오버플로우 알림과 함께 자동 컨텍스트 창 확장
Apple Silicon용 Gemma 4의 EAGLE-3 추측 디코딩 (MLX)
Qwen 3.5 / 3.6 및 DeepSeek V4에 대한 MLX에서의 MTP
llama.cpp의 TurboQuant KV 캐시 (turbo3 / turbo4) — 이제 macOS뿐만 아니라 Windows & Linux에서도 사용 가능: KV 캐시 공간 최대 ~4.3배 축소, CPU 및 GPU (CUDA / Vulkan)
MLX-VLM에서의 TurboQuant KV 캐시 — RHT-correct 빠른 경로를 통해 메모리 공간 축소

클라우드 모델 (Cloud models)

내장 제공업체: OpenAI, Anthropic, Mistral, Groq, MiniMax, Qwen, Moonshot
사용자 키를 가져와서 사용하고, 채팅별로 모델을 전환하며, 로컬과 클라우드를 자유롭게 혼합할 수 있습니다.

도구 및 통합 (Tools & integrations)

원클릭 에이전트 실행 — Integrations 탭에서 Atomic Agent, Claude Code, Codex CLI, Cline, OpenCode, Droid, Goose, OpenHands, Copilot CLI, Kilo Code, Zed, ZCode와 같은 에이전트를 한 번의 클릭으로 실행할 수 있습니다.
아티팩트 (Artifacts) — HTML/CSS/JS 코드에 대한 복사, 다운로드 및 인쇄가 가능한 실시간 미리보기 패널
여러 MCP 서버 연결 — 사용자 지정 도구, 파일 액세스, 웹 검색 기능을 가져올 수 있습니다.
에이전트별 시스템 프롬프트가 적용되는 맞춤형 비서 (Custom assistants)
사이드바에 대화 트리 뷰를 갖춘 프로젝트 (Projects)

로컬 API (Local API)

OpenAI-compatible 서버를 http://localhost:1337/v1에서 제공합니다 — OpenAI SDK의 드롭인 대체품
OpenAI API를 사용하는 모든 에이전트, CLI 또는 IDE 플러그인과 작동합니다
기본적으로 127.0.0.1에 바인딩되며, LAN에서 노출하려면 host: 0.0.0.0을 설정하세요.

개인 정보 보호 (Privacy)

원할 때 모든 것이 로컬에서 실행됩니다 — 로컬 서버는 기본적으로 루프백 전용입니다
대화 내용과 API 키는 사용자의 장치에 보관됩니다.

⚙️ 추론 엔진 (Inference Engines)

세 가지 엔진이 백그라운드에서 작동하며, 모두 http://localhost:1337/v1의 단일 OpenAI 호환 API를 통해 노출됩니다:

atomic-llama-cpp-turboquant — 더 빠르고 메모리 사용량이 적은 양자화 추론을 위해 TurboQuant KV-cache 최적화(turbo3 / turbo4)가 적용된 저희의 llama.cpp 포크입니다. 이제 모든 세 데스크톱 — macOS, Windows, Linux — 에서 CPU 및 GPU (CUDA / Vulkan)를 지원하는 선택 가능한 두 번째 제공업체(

엔진은 자체 저장소인 **atomic-chat-core**를 통해 구동됩니다. 이는 Atomic Chat의 핵심이며, 추론(inference)을 직접 수행하지는 않습니다. 대신 엔진들을 관리합니다: 백엔드를 다운로드하고 실행하며, 모델을 관리하고, 로컬 엔진과 클라우드 제공업체 간에 요청을 라우팅하며, :1337에서 OpenAI와 호환되는 API를 제공합니다. 데스크톱 앱은 고정된 핵심 릴리스(pinned core release)를 배포하며, 이 코어는 CLI(atomic-chat-core serve …)나 라이브러리 형태로 독립적으로 실행할 수도 있습니다.

🚀 사용 시작하기 (Launch With)

Atomic Chat은 http://localhost:1337/v1에서 OpenAI와 호환되는 서버를 실행하므로, OpenAI API를 사용하는 모든 에이전트, CLI, IDE 플러그인 또는 앱이 로컬 모델 위에서 구동될 수 있습니다 — 별도의 연결 장치(glue)가 필요 없습니다. 단순히 기본 URL을 Atomic Chat으로 지정하기만 하면 됩니다.

이미 몇몇 프로젝트들은 자체 설정 문서를 통해 최고 수준의 지원을 제공하고 있습니다:

도구 (Tool)	설명 (What it is)	설정 (Setup)
OpenCode	오픈 소스 TUI 코딩 에이전트. `opencode.json`에서 Atomic Chat을 로컬 제공업체로 추가합니다.	설정 가이드 →
...

Atomic Chat에서 실행되는 것을 만드셨나요? PR 열기를 해주시면 여기에 추가하겠습니다.

🛠️ 소스 코드 빌드 (Build from Source)

전제 조건 (Prerequisites)

Node.js ≥ 20.0.0
Yarn ≥ 4.5.3
Make ≥ 3.81
Rust (Tauri용)
(Apple Silicon) MetalToolchain xcodebuild -downloadComponent MetalToolchain

Make로 실행하기 (Run with Make)

git clone https://github.com/AtomicBot-ai/Atomic-Chat
cd Atomic-Chat
make dev

이 명령어는 모든 것을 처리합니다: 의존성을 설치하고, 핵심 구성 요소를 빌드하며, 앱을 실행합니다.

사용 가능한 make 타겟:

make dev — 전체 개발 설정 및 실행
make build — 프로덕션 빌드
make test — 테스트 및 린팅(linting) 실행
make clean — 모든 것을 삭제하고 새로 시작

수동 명령어 (Manual Commands)

yarn install
yarn build:tauri:plugin:api
yarn build:core
...

💻 시스템 요구 사항 (System Requirements)

macOS: 13.6 이상 (3B 모델의 경우 8GB RAM, 7B 모델의 경우 16GB, 13B 모델의 경우 32GB)
Windows: 10/11 x64 (macOS와 동일한 RAM 권장 사양)
Linux: x86_64, glibc ≥ 2.35 (Ubuntu 22.04 이상, Debian 12 이상, Fedora 40 이상, Arch, Mint, Pop!_OS — macOS와 동일한 RAM 권장 사양). 선택 사항: GPU 가속을 위한 Vulkan 로더 (vulkan-1 패키지 또는 mesa-vulkan-drivers / 독점 NVIDIA 드라이버).
iOS: App Store에서 다운로드
Android: Google Play에서 다운로드

🐧 Linux에서 실행하기

Atomic Chat은 설치 프로그램이나 루트 권한이 필요 없는 단일 자가 포함 .AppImage 파일로 제공됩니다:

chmod +x Atomic.Chat_*_amd64.AppImage
./Atomic.Chat_*_amd64.AppImage

최초 실행 시 FUSE 관련 메시지가 나타나면: sudo apt install fuse libfuse2 (Debian/Ubuntu) 또는 sudo dnf install fuse fuse-libs (Fedora)를 사용하세요. GPU 가속(Vulkan)은 최초 실행 시 자동 감지되며, Linux에서는 GGUF 모델만 실행됩니다.

🧯 문제 해결

작동하지 않는 부분이 있다면:

오류 로그와 시스템 사양을 복사합니다.
GitHub에 이슈를 생성합니다.
또는 Discord에서 도움을 요청하세요.

👥 기여자

Atomic Chat은 소규모 핵심 팀과 140명 이상의 기여자가 만들었으며, 초기부터 프로젝트를 형성해 온 모든 사람들이 포함되어 있습니다. 풀 리퀘스트는 두 저장소 모두에서 환영합니다:

Atomic-Chat (본 저장소) — 데스크톱 및 모바일 앱: UI, 채팅, 어시스턴트, 프로젝트, MCP, 통합 기능, 설정. 시작하려면 CONTRIBUTING.md를 참조하세요.
atomic-chat-core — 엔진(llama.cpp, MLX, Foundation Models)을 관리하는 핵심 부분: 백엔드 및 모델 관리, 클라우드 제공업체, 라우터 및 OpenAI 호환 서버. 시작하려면 AGENTS.md를 참조하세요.

어디에 변경 사항을 추가해야 할지 모르겠나요? 두 리포지토리 중 하나에서 이슈를 열어주시면 올바른 방향으로 안내해 드리겠습니다.

Atomic Chat: 에이전트를 위한 로컬 AI 앱 및 추론 엔진

요약

핵심 포인트

Atomic Chat

📦 다운로드

🔌 API로 사용하기

✨ 기능 (Features)

⚙️ 추론 엔진 (Inference Engines)

🚀 사용 시작하기 (Launch With)

🛠️ 소스 코드 빌드 (Build from Source)

전제 조건 (Prerequisites)

Make로 실행하기 (Run with Make)

수동 명령어 (Manual Commands)

💻 시스템 요구 사항 (System Requirements)

🐧 Linux에서 실행하기

🧯 문제 해결

👥 기여자

댓글

Atomic Chat

📦 다운로드

🔌 API로 사용하기

✨ 기능 (Features)

⚙️ 추론 엔진 (Inference Engines)

🚀 사용 시작하기 (Launch With)

🛠️ 소스 코드 빌드 (Build from Source)

전제 조건 (Prerequisites)

Make로 실행하기 (Run with Make)

수동 명령어 (Manual Commands)

💻 시스템 요구 사항 (System Requirements)

🐧 Linux에서 실행하기

🧯 문제 해결

👥 기여자