Show HN: Open Responses – 모든 LLM을 위한 OpenAI 응답 API 대체 솔루션 공개

안녕하세요, HN 커뮤니티 여러분! 제가 오픈 소스로 Open Responses를 공개했습니다. 이것은 OpenAI의 새로운 Responses API를 구현한 자체 호스팅(self-hosted) 솔루션으로, 어떤 LLM 백엔드와도 작동합니다. 이 솔루션을 사용하면 공식 API와 호환되는 자신만의 서버를 구축할 수 있지만, Claude, Qwen, R1 또는 다른 모델을 자유롭게 연결하여 사용할 수 있습니다. 즉, 플러그 앤 플레이(drop-in) 대체품입니다.

개발 동기는 다음과 같습니다. 저는 OpenAI의 멋진 새로운 agents SDK와 Responses API를 사용하고 싶었지만, 로컬 환경을 포함하여 Claude 같은 다른 모델과도 함께 사용하고 싶었습니다.

사용해 보려면 다음 명령어를 실행하기만 하면 됩니다:

npx -y open-responses init
# 또는 uvx/pipx

이것은 초기 버전(early release)이므로, 더 나은 제품을 만들기 위해 커뮤니티의 피드백과 도움을 정말 받고 싶습니다.

문서: https://docs.julep.ai/responses
저장소: https://github.com/julep-ai/open-responses

이유:

- 어떤 모델이든 사용 가능
- 자체 호스팅 및 개인 정보 보호(Self-hosted and Private)
- 플러그 앤 플레이 호환성(Drop-in compatibility)
...

모델이 도구(예: web_search)를 사용해야 할 때, 서버가 자동으로 이를 open하고 플러그 가능한 대체 솔루션(예: Brave Search API)으로 실행합니다.

예를 들어, 서비스가 준비된 후 Claude와 agents SDK를 사용하려면 다음과 같이 할 수 있습니다:

from openai import AsyncOpenAI
from agents import set_default_openai_client
# OpenAI 클라이언트 생성 및 구성
...

이렇게 하면 호출이 Claude(API를 통해)로 라우팅되고, 마치 OpenAI의 API가 처리한 것처럼 요약 결과를 반환합니다!

로드맵:

- 스트리밍 및 음성 에이전트(voice agents)에 대한 전체 지원 추가.
- pgvector를 사용하여 파일 검색 통합 기능 추가.
- 기본적으로 더 많은 모델 지원.
...

피드백 부탁드립니다! 어떤 기능이나 개선 사항이 가장 중요할지 알고 싶습니다. 예를 들어, 파인튜닝(fine-tuning)이나 벡터 DB 통합 같은 것이 필요하신가요?

이것이 여러분의 프로젝트에 유용하게 들리나요?

읽어주셔서 감사합니다. 혹시 사용해 보시거나 기여해 주시는 분들이 있기를 바랍니다!