저는 OpenRouter의 Fusion Router 아이디어에서 영감을 받아 멀티 모델 심의 (multi-model deliberation)를 실험해 왔습니다. 즉, 하나의 모델에게 최종 답변을 요청하는 대신, 동일한 문제를 여러 모델에 보내 그들의 추론 (reasoning)을 비교하고, 합의/불일치 사항을 식별하며, 이러한 구조화된 분석을 사용하여 더 나은 최종 응답을 생성하는 방식입니다.

그 결과물이 바로 Imladris입니다.
Imladris는 stdio 위에서 실행되는 오픈 소스 MCP 서버이며, Codex, Claude Code 또는 OpenCode와 같은 도구에서 사용할 수 있습니다. OpenAI 호환 제공업체(providers)로 구성된 작은 패널을 설정하고 심판 모델 (judge model)을 선택하면, Imladris는 구조화된 분석과 모델의 원본 답변을 반환합니다.

목표는 "더 많은 AI 마법"을 부리는 것이 아닙니다. 이는 실용적인 패턴입니다. 정확성, 비판 또는 관점이 중요한 작업의 경우, 여러 개의 저렴하거나 특화된 모델과 심판 모델을 결합하면 때때로 훨씬 더 크고 비싼 모델에서 기대할 수 있는 수준의 견고함 (robustness)을 얻을 수 있습니다.

Repo: https://github.com/FeanorsCodeSL/imladris
OpenRouter Fusion Router 영감: https://openrouter.ai/docs/guides/routing/routers/fusion-router
submitted by /u/theducke
[link] [comments]