누군가 1,000개가 넘는 AI 모델을 위한 단일 게이트웨이를 만들었습니다.

왜냐하면 분명히...

AI를 사용하는 것은 여전히 포켓몬처럼 API 키를 모으는 것을 의미하기 때문입니다.

GPT → 하나의 키
DeepSeek → 또 다른 키
Qwen → 또 다른 키
로컬 모델 → 또 다른 설정

그리고 나서 모든 모델에 걸쳐 사용량, 가격 및 성능을 추적해야 합니다.

그래서 이 팀은 Experiential Labs를 구축했습니다.

오픈 소스 게이트웨이 하나.
하나의 키.
1,000개 이상의 모델.

BYOK (Bring Your Own Key).
셀프 호스팅.
클라우드.
마켓플레이스.

그리고 토큰 마크업은 없습니다.

하지만 가장 놀라운 부분은 다음과 같습니다:

이것은 트래픽으로부터 학습합니다.

낭비되는 토큰을 찾아내고, 캐시 미스를 포착하며, 더 나은 모델을 추천하고, 비동기/배치로 실행되어야 할 워크로드를 식별하며, 사용자가 소유한 전문화된 모델 훈련에 도움을 줄 수 있습니다.

따라서 이것은 단순히:

"어떤 AI 모델이든 사용하세요."가 아닙니다.

점차 다음과 같이 변하고 있습니다:

"이 특정 작업을 위해 올바른 AI 모델을 사용하세요."

여기에 AI 인프라가 정말 흥미로워지는 지점이 있습니다.