OpenRouter Fusion에서 영감을 받아 구축한 오픈 소스 MCP 서버: 더 나은 추론을 위한 AI 모델들의 "의회(council)"
요약
OpenRouter Fusion에서 영감을 받아 구축된 오픈 소스 MCP 서버 Imladris를 소개합니다. 여러 AI 모델의 추론을 비교하고 합의를 도출하는 멀티 모델 심의 방식을 통해 더 견고한 최종 응답을 생성합니다.
핵심 포인트
- 멀티 모델 심의를 통한 추론 정확도 및 견고함 향상
- stdio 기반의 오픈 소스 MCP 서버 구현
- Claude Code 및 Codex 등 다양한 도구와 호환 가능
- 저렴한 모델과 심판 모델의 조합으로 고비용 모델 수준의 성능 구현
저는 OpenRouter의 Fusion Router 아이디어에서 영감을 받아 멀티 모델 심의 (multi-model deliberation)를 실험해 왔습니다. 즉, 하나의 모델에게 최종 답변을 요청하는 대신, 동일한 문제를 여러 모델에 보내 그들의 추론 (reasoning)을 비교하고, 합의/불일치 사항을 식별하며, 이러한 구조화된 분석을 사용하여 더 나은 최종 응답을 생성하는 방식입니다.
그 결과물이 바로 Imladris입니다.
Imladris는 stdio 위에서 실행되는 오픈 소스 MCP 서버이며, Codex, Claude Code 또는 OpenCode와 같은 도구에서 사용할 수 있습니다. OpenAI 호환 제공업체(providers)로 구성된 작은 패널을 설정하고 심판 모델 (judge model)을 선택하면, Imladris는 구조화된 분석과 모델의 원본 답변을 반환합니다.
목표는 "더 많은 AI 마법"을 부리는 것이 아닙니다. 이는 실용적인 패턴입니다. 정확성, 비판 또는 관점이 중요한 작업의 경우, 여러 개의 저렴하거나 특화된 모델과 심판 모델을 결합하면 때때로 훨씬 더 크고 비싼 모델에서 기대할 수 있는 수준의 견고함 (robustness)을 얻을 수 있습니다.
Repo: https://github.com/FeanorsCodeSL/imladris
OpenRouter Fusion Router 영감: https://openrouter.ai/docs/guides/routing/routers/fusion-router
submitted by /u/theducke
[link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/ClaudeAI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기