몇 주 전 저는 이곳에 PromptChain을 공유했습니다. 이는 두 개의 모델을 체이닝(Chaining)하는 작은 Streamlit 앱입니다. 사용자의 거친 아이디어를 적절한 프롬프트(Prompt)로 다시 작성하는 작은 Prompter와, 그 프롬프트를 코드로 변환하는 더 큰 Coder로 구성됩니다. 핵심은 8~16GB 그래픽 카드에서는 보통 한 번에 하나의 모델만 유지할 수 있다는 점입니다. 따라서 이 도구는 수동으로 교체하거나 두 개의 채팅창 사이에서 복사-붙여넣기를 할 필요 없이, 다른 모델을 로드하기 전에 기존 모델을 자동으로 언로드(Unload)합니다.

지난번 댓글들이 실제 할 일 목록(To-do list)이 되었기에, 그 이후 업데이트된 사항은 다음과 같습니다:

• 추론 모델(Reasoning models)이 이제 제대로 작동합니다: <think> 블록과 DeepSeek-R1 / Qwen2.5 추론 델타(reasoning deltas)가 프롬프트나 코드에 섞이지 않고 별도의 접이식 패널로 스트리밍됩니다.
• 다중 파일 출력: Coder가 여러 파일을 생성할 때, 파일별 탭으로 렌더링되며 zip 다운로드 또는 폴더 전체 저장 기능을 제공합니다.
• 파이프라인 프로필(Pipeline profiles): 전체 설정(두 백엔드, 모델, 온도(Temps), 시스템 프롬프트)을 이름으로 저장하고 클릭 한 번으로 전환할 수 있습니다.
• 지속적인 단일 모델 채팅: Prompter 전용 또는 Coder 전용의 ChatGPT 스타일 페이지를 제공하며, 작성된 모든 프롬프트는 즉시 파이프라인으로 전달됩니다.
• 퀵 모드(Quick mode): 검토 단계를 건너뛰고 아이디어에서 코드로 바로 진행합니다.
• 제자리 수정(Refine-in-place) + 버전 히스토리: 후속 지시 사항("보드를 더 크게 만들어줘")을 통해 코드를 재생성하는 대신 직접 수정할 수 있으며, 모든 버전은 차이점(Diff) 확인 및 되돌리기가 가능합니다.

제가 여전히 가장 좋아하는 부분은 Prompter는 로컬(Local)에 두고, Coder는 클라우드 모델(OpenAI/Claude/Gemini)을 가리키도록 설정하는 것입니다. 로컬 모델에서 무료로 프롬프트를 수정할 수 있으므로, 유료 생성이 더 정확하게 이루어지며 재시도(Re-roll)를 훨씬 적게 하게 됩니다. 즉, 매번 재시도 비용을 지불하지 않고도 최첨단(Frontier) 수준의 코드 품질을 얻을 수 있습니다.

로컬 우선(Local-first), MIT 라이선스, 텔레메트리(Telemetry) 없음. LM Studio, Ollama 또는 모든 OpenAI 호환 서버와 작동합니다.

GitHub: https://github.com/atharva557/Prompt-Chaining

긍정적이든 부정적이든 진심으로 피드백을 기다리고 있습니다. 또한 여러분의 하드웨어에서 잘 작동하는 Prompter/Coder 조합이 있다면 언제든 알려주세요.

제출자: /u/atharva557
[link] [comments]