Open WebUI와 MCP로 로컬 AI의 도구 호출(Tool-Calling) 능력 강화하기

AI가 웹을 검색하고, 파일을 읽고, 데이터베이스를 쿼리하며, 코드를 실행할 수 있는 ChatGPT와 같은 경험을 원하시나요? Open WebUI + MCP를 사용하면 여러분의 하드웨어에서 로컬로 실행되는 모든 것이 가능해집니다.

Model Context Protocol (MCP)는 AI가 외부 도구와 연결될 수 있도록 하는 개방형 표준입니다. Open WebUI는 MCP를 기본적으로 지원하여, 여러분의 로컬 Ollama 설정을 도구를 갖춘 AI 어시스턴트로 변모시킵니다.

요구 사항 (Prerequisites)

• GPU: RTX 3060 12GB 이상 (Qwen3 14B Q8 실행 기준)
• 소프트웨어 (Software): Docker + Docker Compose
• 소요 시간: 설정에 약 25분 소요

설치 (Installation)

docker-compose.yml 파일을 생성합니다:

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
...

docker compose up -d

도구 호출 (Tool-calling) 능력이 강력한 모델을 가져옵니다 (Pull):

docker exec ollama ollama pull qwen3:14b:q8_0

http://localhost:3000 을 열고 관리자 계정을 생성하세요.

MCP 도구 추가하기 (Adding MCP Tools)

Open WebUI의 Admin Panel → Settings → External Tools로 이동합니다.

웹 검색 도구 (Web Search Tool)

npx -y @anthropic/mcp-server-brave-search

파일 시스템 액세스 (Filesystem Access)

npx -y @modelcontextprotocol/server-filesystem /allowed/path

Open WebUI 관리자 패널에서 각 도구를 구성하여 AI에게 실제 세계에서의 능력을 부여하세요.

사용법 (Usage)

새 채팅을 시작하고 입력창 옆의 도구 아이콘(렌치 모양)을 클릭합니다. AI가 사용할 수 있는 도구를 선택한 다음 다음과 같이 질문해 보세요:

• "최신 AI 뉴스를 위해 웹을 검색해줘"
• "내 프로젝트의 README를 읽고 요약해줘"
• "3분기 실적을 위해 판매 데이터베이스를 쿼리해줘"

AI는 도구를 호출할 시점을 스스로 결정하고 그 결과를 응답에 포함합니다.

결과 (Results)

RTX 4070 Super에서 Qwen3 14B Q8를 사용했을 때: 도구 호출은 35초 내에 완료됩니다. 웹 검색 결과는 23초 내에 반환됩니다. 모든 데이터는 여러분의 기기에 그대로 유지됩니다.

원문은 everylocalai.com에 게시되었습니다.