통합 모델 접근을 활용하여 AI 워크플로우 구축하기

AI 애플리케이션은 종종 단일 모델 호출로 시작합니다.

개발자는 프롬프트를 보내고 응답을 받아 첫 번째 작동하는 기능을 만듭니다. 이는 빠르게 프로토타이핑하는 올바른 방법입니다.

하지만 실제 상용화된 AI 제품들은 보통 그렇게 단순하지 않습니다.

챗봇은 빠른 응답이 필요할 수 있습니다. RAG 시스템은 문서에 대한 더 강력한 추론 능력이 필요할 수 있습니다. AI 에이전트는 신뢰할 수 있는 도구 사용이 필요할 수 있습니다. 개발자 도구는 더 나은 코딩 동작이 필요할 수 있습니다. 자동화 워크플로우는 예측 가능한 구조적 출력이 필요할 수 있습니다.

이러한 워크플로우들은 각기 다른 요구사항을 가집니다.

그렇기 때문에 개발자는 모델 접근을 조직화하는 더 나은 방법이 필요합니다.

워크플로우부터 시작하기

모델을 선택하기 전에, 워크플로우를 정의하는 것이 도움이 됩니다.

예를 들어, AI 제품에는 다음 기능들이 포함될 수 있습니다:

• 채팅 지원(support chat)
• 문서 Q&A
• 콘텐츠 생성
• 코드 지원
• 에이전트 계획(agent planning)
• 구조적 추출(structured extraction)
• 워크플로우 자동화(workflow automation)

각 워크플로우는 다른 모델 동작을 필요로 할 수 있습니다.

지원 채팅 워크플로우는 지연 시간(latency)을 우선시할 수 있습니다. 문서 Q&A 워크플로우는 추론(reasoning)을 우선시할 수 있습니다. 자동화 워크플로우는 구조적 출력(structured output)을 우선시할 수 있습니다. 개발자 도구는 코드 품질을 우선시할 수 있습니다.

애플리케이션은 모든 AI 요청을 동일한 유형의 작업으로 취급해서는 안 됩니다.

모델 접근 계층 만들기

실용적인 패턴은 제품과 모델 제공자 사이에 모델 접근 계층(model access layer)을 배치하는 것입니다.

모든 기능에서 모델을 직접 호출하는 대신, 애플리케이션은 내부 AI 계층을 호출합니다.

예를 들어:

js
const result = await ai.run({
...
```} ]}{