무료 모델 사용량 할당은 아키텍처가 아니다

# gateway.py — 스케치일 뿐; 아직 라이브 엔드포인트에 대해 실행되지 않음
from __future__ import annotations

...

def build_provider(mode: str) -> Provider:
    if mode == 

## 훈련 과정: 한 시간 안에 전환할 수 있음을 증명하라

분기별로 한 번 실행하십시오. 그 결과를 리포지토리 README에 작성하세요.

1. 주(primary) 엔드포인트에서 실제 프롬프트 10개를 기록합니다. 카세트(cassettes)를 git에 저장합니다.
2. 네트워킹을 비활성화한 상태로 스위트를 재생 모드(replay mode)로 실행합니다. 모든 것이 통과해야 합니다.
3. 동일한 스위트를 두 번째 엔드포인트에 지정합니다. 테스트 파일을 변경하지 마십시오.
4. 출력 결과를 비교하여 보고서를 작성합니다. 차이점을 보고하고, 아직 점수를 매기지 마십시오.
5. 전환하기 위해 변경한 라인 수를 계산합니다. 그 숫자가 당신의 결합도(coupling score)입니다.
6. 전체 과정을 측정합니다. 한 시간을 초과하는 것은 백로그 항목입니다.

솔직한 참고 사항입니다. `--record`와 `--replay` 플래그는 제가 사용하고 싶은 인터페이스이며, 실제로 실행해 본 CLI는 아닙니다. 이를 자체 러너(runner)에 연결하십시오.

## 논쟁할 수 있는 의사 결정 테이블

| 상황 | 무료 할당량 (Free allowance) | 무료 서버 옵션 (Free server option) | 유료 엔드포인트 (Paid endpoint) |
| --- | --- | --- | :--- |
| 에이전트 루프 학습 | 예 (Yes) | 예 (Yes) | 아니오 (No) |
| ... | 
읽을 때는 기본값으로, 법규로 읽지 마십시오. 요점은

무료 서버 옵션은 다른 격차를 메웁니다. 녹화 프록시와 카세트 스토어를 그곳에서 실행하여, 결정하는 동안 드릴 비용이 들지 않게 합니다.

## 제한 사항

-   재생(Replay)은 재현성(reproducibility)을 증명할 뿐, 품질을 증명하지는 않습니다. 카세트는 무슨 일이 일어났는지 말해줄 뿐, 무엇이 올바른지는 말해주지 않습니다.
-   카세트는 정확한 프롬프트에 묶입니다. 프롬프트를 수정하면 다시 녹화해야 합니다.
-   당신의 스위트(suite)를 통과하는 두 번째 엔드포인트가 해당 엔드포인트들이 동등하다는 것을 의미하지는 않습니다.
-   무료 인프라는 벤치마크 대상이 아닙니다. 여기서 얻은 지연 시간(latency) 수치를 발표하지 마십시오.
-   이 드릴은 결합(coupling)을 감지합니다. 하지만 이미 배포된 결합까지 제거해주지는 않습니다.

## 사용해서는 안 되는 경우

제공업체 변경이 계약상 금지되어 있다면 이 드릴을 건너뛰세요. 단일 엔드포인트만 있고 이동할 그럴듯한 이유가 없다면 건너뛰세요. 프롬프트가 이미 버전 관리되고 테스트되었다면도 건너뛰세요. 왜냐하면 당신은 이 문제를 해결했기 때문입니다.

또한, 무료 티어가 영구적인 플랜이 되기를 원한다면 건너뛰세요. 무료 티어는 영구적이지 않습니다. 이것이 바로 이 글이 존재하는 전체 이유입니다.

## 마무리

먼저 퇴장 계획(exit plan)을 작성하고, 그 후에 할당량을 사용하십시오. 어댑터를 무료 엔드포인트에 겨누고 드릴을 한 번 실행하세요. 만약 전환하는 데 오후가 걸린다면, 당신은 저렴한 비용으로 무언가를 배웠다는 뜻입니다.