코파일럿(Copilots)은 아직 로컬인가?

코드 완성, 프로젝트 생성, 셸 어시스턴트(shell assistants) 역할 수행, 버그 자동 수정 등을 위해 오픈 및 로컬 LLM(Large Language Model) 모델을 코파일럿(copilots)으로 사용하는 현재의 트렌드와 최첨단 기술(state of the art)에 관한 내용입니다.

📝 수정을 통해 이 목록을 관련성 있고 최신 상태로 유지하는 데 도움을 주세요!

• 요약 (Summary)
• 배경 (Background)
• 에디터 확장 프로그램 (Editor Extensions)
• 도구 (Tools)
• 채팅 인터페이스 (Chat Interfaces)
• 모델 (Models)
• 데이터셋 (Datasets)
• 기타 도구 (Misc Tools)
• 권장 설정 (Suggested Setup)
• 히스토리 (History)
• 통계 (Stats)

로컬 코파일럿(Local Copilots)은 이제 완전히 기능하지만, 출력 품질은 GitHub Copilot과 같은 클라우드 기반 서비스가 제공하는 수준에는 아직 미치지 못합니다.

이 문서는 로컬 코파일럿(Copilots), 셸 어시스턴트(shell assistants) 및 관련 프로젝트를 큐레이션한 목록입니다. 이 문서는 기존 도구들에 대한 조사를 원하는 사람들을 위한 리소스이며, 개발자들이 이러한 프로젝트의 최첨단 기술(state of the art)을 발견하도록 돕기 위해 작성되었습니다.

2021년, GitHub은 개발자들 사이에서 빠르게 인기를 얻은 Copilot을 출시했습니다. 그 이후 LLM을 둘러싼 AI 발전의 급증과 함께, 소비자용 기기에서 실행할 수 있는 로컬 모델들이 사용 가능해졌으며, Copilot이 로컬화되는 것은 시간문제처럼 보였습니다.

GitHub Copilot의 많은 인지된 한계점은 폐쇄적이고 클라우드에 호스팅되는 특성과 관련이 있습니다.

대안으로서, 로컬 코파일럿(local Copilots)은 다음과 같은 기능을 가능하게 합니다:

• 🌐 오프라인 및 프라이빗 사용
• ⚡ 향상된 응답성
• 📚 더 나은 프로젝트/컨텍스트 인식
• 🎯 특정 언어/작업에 특화된 모델 실행 능력
• 🔒 특정 형식/구문에 맞도록 LLM 출력을 제한

LLM을 사용하여 코드를 완성하는 데 사용되는 에디터 확장 프로그램(Editor extensions):

이름	에디터	⭐	출시일	비고
GitHub Copilot	VSCode, vim	9125	2021-6-29	GitHub의 오리지널이며, 로컬 또는 오픈 소스가 아님.
...

사양(specification)으로부터 프로젝트/기능을 생성하려고 시도하는 도구들:

이름	⭐	출시일	비고
gpt-engineer	52940	2023-6-6	무엇을 만들고 싶은지 지정하면, AI가 명확한 설명을 요구한 뒤 이를 구축합니다.
...

Shell/REPL/Notebook 접근 권한을 가진 채팅 인터페이스. ChatGPT의 "Advanced Data Analysis" (이전 명칭 "Code Interpreter") 기능과 유사하거나 그로부터 영감을 받았습니다.

이름	⭐	비고
open-interpreter	57982	오픈 소스(open-source), OpenAI Code Interpreter의 로컬 실행 구현체
...

로컬 코파일럿(Copilot) 사용에 적합한 모델들. 최신순으로 정렬되었습니다.

이름	크기	언어	⭐	출시일	비고
Phind CodeLlama v2	34B	다수	829	2023-8-27
...

참고: 새로운 모델 출시 속도로 인해, 이 섹션은 곧 구식이 될 운명입니다.

모델 학습에 유용한 데이터셋.

이름	크기	언어	⭐	출시일	비고
The Stack	3TB/6TB	358	760	2022-10	v1.1부터 약한 카피레프트(weak-copyleft) 라이선스(MPL, LGPL, EGL) 제외

기타 유용한 도구들.

이름	⭐	출시일	비고
ollama	111009	2023-8-27	대규모 언어 모델(LLM)을 로컬에서 쉽고 빠르게 실행할 수 있습니다.

위에서 보시다시피 모델과 에디터 확장 프로그램(editor extensions)을 위한 많은 옵션이 있습니다. VS Code 또는 JetBrains를 사용 중이며 즉시 시작하고 싶다면 다음 설정을 사용할 수 있습니다:

• LM Studio를 설치합니다.
• Continue.dev 확장 프로그램을 설치합니다.
• LM Studio에서 하나 또는 여러 개의 모델을 다운로드합니다. 2025년 1월 기준으로, 자동 완성(autocomplete)에는 Qwen 2.5 Coder가 좋은 선택이며, 채팅(chat)에는 Deepseek R1이 좋은 선택입니다. 하드웨어 사양에 따라 어떤 모델 크기와 양자화(quantization) 수준이 충분한 속도를 제공하는지 실험해 보아야 합니다. 예를 들어, 32GB RAM을 탑재한 Macbook Pro M2에서는,
  Qwen2.5-Coder-7B-Instruct-Q4_K_M

이 자동 완성에 잘 작동하며, DeepSeek-R1-Distill-Qwen-14B-Q4_0이 적합합니다.

채팅(chat) 용도로 잘 작동합니다. - LM Studio의 Developer 탭으로 이동하여 서버를 시작하세요.

• 선택한 모델을 추가하여 Continue.dev 확장을 설정합니다. 예시:
  { "models": [ { "apiBase": "http://localhost:1234/v1/", "title": "Deepseek R1", "model": "bartowski/deepseek-r1-distill-qwen-14b", "provider": "lmstudio" } ], "tabAutocompleteModel": { "provider": "lmstudio", "apiBase": "http://localhost:1234/v1/", "title": "Qwen 2.5 Coder", "model": "qwen2.5-coder-7b-instruct" }, }

시간 경과에 따른 Stargazers (별 개수):