AI Tech Connect에 처음 게시되었습니다.

여러분이 알아야 할 점은 DSPy가 프롬프팅(prompting)을 컴파일(compilation) 문제로 만든다는 것입니다. 여러분은 타입이 지정된 시그니처(Signatures)로 원하는 것을 선언하고 모듈(Modules)을 구성합니다. 그러면 DSPy의 옵티마이저(optimisers)가 데이터와 메트릭(metric)을 바탕으로 검색을 통해 구체적인 지침(instructions)과 퓨샷 예시(few-shot examples)와 같은 '방법'을 찾아냅니다. 슬로건은 "프롬프팅이 아닌 프로그래밍(programming, not prompting)"입니다. 옵티마이저가 여러분이 수동으로 했을 튜닝을 대신 수행합니다. BootstrapFewShot은 여러분의 데이터로부터 데모(demonstrations)를 부트스트래핑(bootstraps)하며, MIPROv2는 지침(instructions)과 데모(demonstrations)를 공동으로 최적화(optimises)합니다. 여러분은 훈련 세트(training set)와 메트릭(metric)을 제공하기만 하면 됩니다. 성능 향상은 실질적이지만 작업(task)에 따라 다릅니다. 수동 프롬프팅 대비 보고된 개선 사항은 약 10~40% 수준이지만, 이는 벤치마크(benchmark)에 따라 다르며 반드시 여러분의 평가 세트(eval set)에서 측정되어야 합니다. 확실한 이점은 재현성(reproducibility)과 고통 없는 모델 교체(model-swapping)입니다. 이는 ...와 결합됩니다.

AI Tech Connect에서 전체 기사 읽기 →