AI API에 비용을 지불하고 계신가요? 이제 그만하세요. 여기 여러분의 노트북에서 무료로 실행되는 5가지 도구가 있습니다.

1. Ollama

어떤 LLM이든 로컬에서 실행:

brew install ollama
ollama pull llama3.2

이제 여러분의 기기에서 GPT 수준의 AI를 가질 수 있습니다. API 키가 필요하지 않습니다.

2. ChromaDB

무료 벡터 데이터베이스. 임베딩을 로컬에 저장:

import chromadb
client = chromadb.Client()
collection = client.create_collection("docs")
...

3. Whisper

OpenAI의 오프라인 음성 인식:

import whisper
model = whisper.load_model("base")
result = model.transcribe("audio.mp3")
...

4. LangChain

데이터에 연결되는 AI 앱 구축:

from langchain_community.llms import Ollama
llm = Ollama(model="llama3.2")
print(llm.invoke("Explain Docker in 2 lines"))

5. MCP (Model Context Protocol)

AI를 파일, GitHub, 데이터베이스 등 모든 도구에 연결합니다. AI의 USB-C입니다.

나의 설정

저는 이 도구들을 사용하여 45개의 도구를 구축했습니다. 모두 무료이고, 모두 로컬이며, 모두 오픈 소스입니다.

🔗 github.com/amrendramishra/ai-tools
🌐 amrendranmishra.dev

매일 AI 엔지니어링 콘텐츠를 받으려면 팔로우하세요.