Promptify: Pydantic 구조화 출력을 지원하는 태스크 기반 NLP 엔진

<div align="center"> <img width="110px" src="https://raw.githubusercontent.com/promptslab/Promptify/main/assets/logo.png"><h1 class="">Promptify</h1></div>  <p align="center"> <p align="center">Pydantic 구조화 출력을 갖춘 태스크 기반 NLP 엔진으로, 내장 평가 기능과 범용 LLM 백엔드인 LiteLLM을 지원합니다. "scikit-learn for LLM-powered NLP"로 생각할 수 있습니다.</p> </p> <h4 align="center"> <a href="https://github.com/promptslab/Promptify/blob/main/LICENSE"> <img src="https://img.shields.io/badge/License-Apache_2.0-blue.svg" alt="Promptify는 Apache 2.0 라이선스 하에 배포됩니다." /> </a> <a href="https://pypi.org/project/promptify/"> <img src="https://badge.fury.io/py/Promptify.svg" alt="PyPI 버전" /> </a> <a href="http://makeapullrequest.com"> <img src="https://img.shields.io/badge/PRs-welcome-brightgreen.svg?style=flat-square" alt="http://makeapullrequest.com" /> </a> <a href="https://discord.gg/m88xfYMbK6"> <img src="https://img.shields.io/badge/Discord-Community-orange" alt="커뮤니티" /> </a> <a href="#"> <img src="https://colab.research.google.com/assets/colab-badge.svg" alt="colab" /> </a> </h4 <img width="910px" src="https://raw.githubusercontent.com/promptslab/Promptify/main/assets/dark.png">

설치 (Installation)

pip 사용 시 (With pip)

Python 3.9 이상 필요.

pip install promptify

또는

pip install git+https://github.com/promptslab/Promptify.git

평가 지표 지원을 위해서는:

pip install promptify[eval]

빠른 사용법 (Quick Tour)

3줄 NER

from promptify import NER

er = NER(model="gpt-4o-mini", domain="medical")
...

출력 (Output):

NERResult(entities=[ 
    Entity(text="93-year-old", label="AGE"),
    Entity(text="chronic right hip pain", label="CONDITION"),
...

분류 (Classification)

from promptify import Classify

clf = Classify(model="gpt-4o-mini", labels=["positive", "negative", "neutral"])
...

질문 답변 (Question Answering)

from promptify import QA

qa = QA(model="gpt-4o-mini")
...

Pydantic 스키마를 사용한 사용자 정의 태스크

from promptify import Task
from pydantic import BaseModel

...

어떤 제공업체든 가능 - 모델 문자열만 변경

net_openai = NER(model="gpt-4o-mini")
net_claude = NER(model="claude-sonnet-4-20250514")
net_local  = NER(model="ollama/llama3")

배치 처리 (Batch Processing)

results = ner.batch(["text1", "text2", "text3"], max_concurrent=10)

비동기 지원 (Async Support)

result = await ner.acall("Patient has diabetes")

내장 평가 기능 (Built-in Evaluation)

from promptify.eval import evaluate

scores = evaluate(task=ner, dataset=labeled_data, metrics=["precision", "recall", "f1"])
...

주요 기능 (Features)

어떤 NLP 태스크든 2~3줄의 코드로 구현 가능 - 학습 데이터 불필요
Pydantic 구조화 출력: 원시 문자열이 아닌 타입 안전(type-safe)한 결과 제공
LiteLLM을 통한 모든 LLM 제공업체 지원: OpenAI, Anthropic, Google, Ollama, Azure 및 100개 이상의 서비스 지원
내장 태스크: 개체명 인식 (NER), 분류 (Classification, 이진/다중 클래스/다중 레이블), 질의응답 (QA), 요약 (Summarization), 관계 추출 (Relation Extraction), SQL 생성 등
사용자 정의 태스크: 원하는 구조화 출력을 위해 자체 Pydantic 스키마를 가져올 수 있음
퓨샷 예제 (Few-shot examples): 정확도를 높이기 위해 쉽게 예제를 추가할 수 있음
도메인 특화 (Domain specialization): 컨텍스트 인식 프롬프트를 위해 domain="medical" 또는 다른 도메인을 전달할 수 있음
배치 처리: 내부적으로 비동기 동시성(async concurrency)을 활용하여 여러 텍스트를 처리
비동기 지원: acall()을 사용한 네이티브 await 지원
평가 프레임워크: 정밀도 (precision), 재현율 (recall), F1, 정확도 (accuracy), 정확히 일치하는 값 (exact match), ROUGE 지표 등 제공
안전 파서 (Safe parser): 네이티브 구조화 출력이 없는 제공업체를 위한 폴백 JSON 완성 기능 ( eval() 불필요)
비용 추적: get_cost_summary()를 통해 내장 토큰 사용량 및 비용 모니터링

지원되는 NLP 태스크

태스크	클래스	출력 스키마
개체명 인식 (Named Entity Recognition)	`NER`	`NERResult` (list of `Entity`)
...

커뮤니티

<div align="center"> 만약 Prompt-Engineering, LLMs, 그리고 NLP에 관심이 있다면, <a href="https://discord.gg/m88xfYMbK6">PromptsLab</a> 가입을 고려해 주세요.</div> <div align="center"> <img alt="Discord에서 참여하세요" src="https://img.shields.io/discord/1069129502472556587?color=5865F2&logo=discord&logoColor=white"> </div>


@misc{Promptify2022,
  title = {Promptify: LLM의 구조화된 출력}
...

💁 기여하기

새로운 기능, 인프라 개선, 그리고 더욱 포괄적인 문서화를 포함하여 저희 오픈 소스 프로젝트에 대한 모든 기여를 환영합니다. 기여 가이드라인을 참고해 주세요.