본문으로 건너뛰기

© 2026 Molayo

Dev.to헤드라인2026. 05. 28. 14:20

구독 없이, 데이터 유출 없이, 세 개의 모델이 서로 토론하여 답변을 제공하는 무료 오프라인 AI 어시스턴트를 만들었습니다

요약

데이터 유출 걱정 없는 로컬 실행형 AI 어시스턴트 Axiom을 소개합니다. 세 개의 모델이 설계, 실행, 비평 과정을 거치는 '의회 파이프라인'을 통해 답변의 신뢰도를 높였습니다.

핵심 포인트

  • 의회 파이프라인을 통한 다중 모델 협업 구조
  • 완전한 로컬 실행으로 데이터 보안 및 개인정보 보호
  • Python 샌드박스를 활용한 코드 실행 및 검증 기능
  • Qwen3-4B 기반으로 저사양 PC에서도 원활한 구동 가능

모든 AI 도구가 구독을 요구하고 다른 사람의 서버에 대화 내용을 저장하는 것에 지쳐서, 저는 완전히 사용자의 기기에서만 실행되는 Windows 데스크톱 앱인 Axiom을 만들었습니다.

주요 기능은 의회 파이프라인 (council pipeline)입니다. 하나의 모델이 질문에 답하는 대신, 세 개의 독립적인 모델이 순차적으로 작동합니다. Architect (설계자)는 문제를 번호가 매겨진 계획으로 분해합니다. Builder (구축자)는 이를 실행합니다. Critic (비평가)은 사용자가 확인하기 전에 출력을 검토하고 문제를 표시합니다. 만약 Critic이 문제를 발견하면 Builder가 수정합니다. 사용자는 모든 응답에 대해 높은 신뢰도 (High Confidence), 중간 신뢰도 (Moderate Confidence), 또는 검토 필요 (Flagged for Review)와 같은 신뢰도 라벨을 받게 됩니다.

또한 실제로 코드를 실행하고 수학 결과를 추측하는 대신 검증하는 Python 샌드박스 (Python sandbox)를 갖춘 일반 채팅 모드, 단순 스니펫이 아닌 실제 페이지 콘텐츠를 추출하는 웹 검색, 수식을 위한 LaTeX 렌더링, 그리고 사용자의 무료 API 키를 사용하여 GPT-OSS-120B와 같은 더 큰 모델에 액세스하고 싶을 경우를 위한 OpenRouter를 통한 선택적 클라우드 모드도 제공합니다.

기본 모델은 Qwen3-4B Q4_K_M을 기반으로 한 Volta이며, 크기는 약 2.5GB로 GPU 없이도 최신 PC 어디에서나 실행됩니다.

모든 것은 무료입니다. MIT 라이선스입니다. 텔레메트리 (Telemetry)도 없습니다. 로컬 모드에서는 그 어떤 것도 사용자의 기기를 벗어나지 않습니다.

GitHub에서 다운로드 및 소스 코드 확인: [https://github.com/YoMosa2009/Axiom]

파이프라인이 어떻게 작동하는지에 대한 질문은 언제든 환영합니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0