GH Copilot의 BYOK 기반 인라인 자동 완성 차단은 말이 안 된다. [해결책]
요약
GitHub Copilot이 BYOK(Bring Your Own Key)를 통한 인라인 자동 완성을 차단하는 문제와 그에 대한 비판을 다룹니다. 사용자가 커스텀 모델을 사용할 수 있도록 돕는 오픈 소스 대안인 'GitHub Copilot LLM Gateway' 확장 프로그램을 소개합니다.
핵심 포인트
- GitHub Copilot은 Chat은 허용하나 인라인 자동 완성에는 BYOK 모델 사용을 제한함
- VS Code 팀은 FIM 모델 부족을 이유로 들지만, 사용자 구성 오류로 처리 가능함
- 커뮤니티 솔루션인 'GitHub Copilot LLM Gateway'를 통해 로컬/커스텀 모델 사용 가능
GitHub Copilot은 Chat 창에서 Bring Your Own Key (BYOK)를 허용하지만, 같은 커스텀 모델을 인라인 코드 자동 완성을 위해 사용하는 것은 명시적으로 차단합니다.
VS Code 팀의 공식적인 정당화는 '능력 있는 Fill-in-the-Middle (FIM) 모델의 부족'이라는 것입니다. 하지만 이 변명은 설득력이 없습니다:
- 잘못된 책임 전가: 만약 사용자가 인라인 자동 완성을 위해 부적절한 모델을 설정하여 문제가 발생한다면, 이는 VS Code의 결함이 아니라 사용자 구성 오류입니다.
- 표준 오류 처리 무시: 팀은 왜 사용자 모델 선택에 대해 과도하게 규제하려는 것일까요? 그들은 모델 응답을 쉽게 검증하고, FIM 형식을 지원하지 못할 경우 명확한 오류를 발생시키며, 기본 Copilot 모델로 대체 옵션을 제공할 수 있습니다.
사용자 정의 모델을 차단하는 몇 줄의 코드를 제거하는 대신, 이 문제는 여전히 '영원히 밀린 백로그' (VS Code Issue #318545 참조) 속에 묻혀 있습니다.
🔥 해결책: 실제로 작동하는 커뮤니티 솔루션: 🔥
이 임의적인 제한에 좌절하여 저는 대안을 찾아보았고, 간극을 메우는 새로운 확장 프로그램인 GitHub Copilot LLM Gateway를 발견했습니다. (Andrew Butson과 기여자들에게 감사드립니다)
이 확장 프로그램은 로컬 및 커스텀 모델에 대한 진정한 인라인 자동 완성 지원을 가능하게 합니다. 아직 작업 중이며 네이티브 Copilot 통합만큼 완벽하게 응답을 처리하지는 못하지만, 이 기능이 완전히 가능하다는 것을 입증합니다.
만약 여러분이 로컬 LLM의 자유와 개발 환경에 대한 오픈 소스 제어권을 중요하게 생각한다면, 레포지토리를 확인하고 개선하는 데 기여해 보시길 바랍니다!
좋은 점은 이것이 실제로 오픈 소스라는 것이므로 누구나 영원히 계속 사용할 수 있다는 것입니다. 이제 마이크로소프트가 VS Code Marketplace에서 제거함으로써 '문제를 해결'하지 않기를 바랄 뿐입니다. 😂
제출자: /u/studentofknowledg3
[링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기