PolyCouncil: 로컬 모델을 위한 오픈소스 다중 모델 숙의 엔진
요약
PolyCouncil은 LM Studio 환경에서 여러 로컬 LLM을 병렬로 실행하여 합의 기반의 결과를 도출하는 오픈소스 엔진입니다. 각 모델의 응답을 수집하고 공유된 루브릭으로 평가하여 최적의 답변을 생성합니다.
핵심 포인트
- 여러 로컬 LLM을 병렬로 실행 및 오케스트레이션 가능
- 공유된 루브릭을 통한 모델 응답 점수화 및 평가
- 다중 모델 간의 합의 기반 최종 결과 도출 기능
- 로컬 모델의 테스트 및 비교를 위한 연구 도구 제공
Repository: TrentPierce/PolyCouncil
Language: Python
Stars: 40
Forks: 5
Topics: ai, ai-council, ai-experiments, ai-framework, ai-research, artificial-intelligence, asyncio, concensus, llm, lmstudio, local-llm, model-comparison, model-evaluation, multi-model, open-source, polycouncil, prompt-engineering, python, research-tool, voting-system
Description:
PolyCouncil은 LM Studio를 위한 오픈소스 다중 모델 숙의 엔진입니다. 여러 LLM을 병렬로 실행하고, 그 답변들을 수집하며, 공유된 루브릭을 사용하여 각 응답에 점수를 매긴 후, 최종적인 합의 기반의 결과를 도출합니다. 테스트, 비교 및 로컬 모델 오케스트레이션(orchestrating)을 쉽게 할 수 있도록 설계되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub AI Tools의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기