azure-ai-foundry-agentic-workshop

⚠️

이 프로젝트는 현재 활발히 개발 중이며, 중대한 변경 사항(breaking changes)이 포함될 수 있습니다.

업데이트와 수정이 빈번하게 이루어지고 있어 안정성이나 기능에 영향을 미칠 수 있습니다. 이 공지는 개발이 완료되고 프로젝트가 안정적인 릴리스 단계에 도달하면 제거될 예정입니다.

이 **Azure AI Foundry 워크숍 (Workshop)**은 참가자들에게 Azure AI Foundry, Azure AI Search, Azure AI Agent Service, LangGraph 및 Semantic Kernel Agent Framework를 사용하여 검색 증강 생성 (RAG, Retrieval-Augmented Generation) 및 에이전틱 AI (Agentic AI) 솔루션을 구축하고 배포하는 실무적인 직접 경험을 제공합니다.

참가자들은 단순히 응답하는 것을 넘어 행동을 취하는 지능형 에이전트를 만드는 방법을 배우게 됩니다. OpenAPI 엔드포인트를 통합하고 여러 에이전트에 걸쳐 워크플로를 오케스트레이션함으로써, 동적이고 문맥을 인식하며 프로덕션 준비가 된 솔루션을 구축하게 될 것입니다.

워크숍이 끝날 때쯤 여러분은 다음을 수행할 수 있게 됩니다:

• Azure AI Foundry를 사용하여 완전히 기능하는 AI 워크숍 환경을 배포합니다.

• Azure AI Search 및 **문서 임베딩 (document embeddings)**을 사용하여 RAG 파이프라인을 구축합니다.

• LangGraph 및 Semantic Kernel을 사용하여 **에이전틱 패턴 (agentic patterns)**인 단일 에이전트(single-agent), 감독 에이전트(supervisor-agent), 네트워크 에이전트(networked agents)를 탐구합니다.

• OpenAPI 및 GraphQL 엔드포인트를 통해 구조화된 외부 데이터를 통합하여, 에이전트가 실시간 데이터를 쿼리하고 외부 시스템을 통해 행동을 취할 수 있는 능력을 부여합니다.

• Python 코드를 사용하여 지능형 에이전트를 구축하는 동시에, LLM 오케스트레이션 및 에이전트 구현을 위한 로우코드(low-code) 도구를 탐구합니다.

• **모델 컨텍스트 프로토콜 (MCP, Model Context Protocol)**을 활용하여 도구를 한 번 정의하고 이를 균일하게 노출함으로써, MCP 서버 전반에 걸쳐 도구를 그룹화하여 확장 가능하고 모듈화된 아키텍처를 지원합니다.

Azure AI Search를 활용한 벡터 검색 (Vector Search) 및 RAG

문서를 인덱싱하고, 임베딩을 생성하며, 사용자의 데이터에 기반한 LLM 기반 답변을 지원하기 위해 시맨틱 검색 (semantic retrieval)을 구현하는 방법을 배웁니다. -
LangGraph, Azure AI Agent Service 및 Semantic Kernel을 활용한 에이전틱 AI (Agentic AI)

사전 구축된 에이전트(prebuilt agents)와 커스텀 에이전트(custom agents)를 사용하여 작업을 위임하고, 의사결정을 내리며, API와 상호작용하세요. 단일 에이전트 흐름(single-agent flows), 감독 모델(supervisor models), 분산형 네트워크(decentralized networks)를 포함한 오케스트레이션 패턴(orchestration patterns)을 실험해 보세요. -
OpenAPI, GraphQL 및 MCP를 활용한 실세계 통합

에이전트를 외부 서비스에 연결하여 실시간 데이터 검색, 워크플로 트리거, 앱 및 시스템과의 상호작용과 같은 실세계 작업을 수행하세요. 이때 Model Context Protocol (MCP)을 활용하면 도구를 한 번만 정의하여 확장 가능하고 모듈화된 아키텍처 전반에 걸쳐 일관되게 노출할 수 있습니다.

워크숍을 성공적으로 구현하고 배포하려면 다음의 주요 단계를 따르세요:

워크숍 환경을 위해 Azure AI Foundry 및 필요한 모든 서비스를 배포하기 위한 단계별 지침은 다음과 같습니다:

Azure AI Foundry 구성 요소: AI Service, AI Hub, Projects 및 Compute
지식 검색 및 벡터 기반 검색을 위한 Azure AI Search
문서 저장 및 데이터 수집을 위한 Azure Storage Account
이벤트 기반 문서 청킹(chunking), 임베딩(embedding) 생성 및 인덱싱을 위한 Azure Functions
OpenAPI 및 GraphQL 통합을 통해 에이전트 상호작용을 활성화하는 Azure Web App
NGINX로 라우팅되는 Model Context Protocol (MCP) 컨테이너를 호스팅하여 날씨 데이터, OpenAPI 액세스 및 Azure AI 하이브리드 검색을 위한 에이전트 도구를 제공하는 Azure Container Apps

Azure AI Search를 사용하여 문서 데이터를 벡터화하고, Azure AI Foundry의 내장된 Chat Playground를 사용하여 데이터를 빠르게 활용하는 단계별 지침입니다.

• 문서 처리, 청킹, Ada-002를 사용한 임베딩 생성 및 Azure AI Search로의 인덱싱
• Azure AI Foundry Chat Playground를 사용하여 의미론적 검색(semantic retrieval)을 위해 인덱싱된 데이터와 상호작용

지능적이고 작업 중심적인 에이전트를 구축하는 과정을 안내하는 대화형 노트북(Notebooks)과 가이드를 확인해 보세요. 이 큐레이션된 리소스들은 다음 내용을 다룹니다:

• Azure AI Search를 활용한 시맨틱 검색 (Semantic retrieval) 및 벡터 검색 (Vector search)
• LangGraph, Azure AI Agent Service, 그리고 Semantic Kernel Agent Framework를 통한 멀티 에이전트 워크플로우 (Multi-agent workflows) 오케스트레이션 (Orchestrating)
• 확장 가능하고 모듈화된 에이전트 도구 호출 (Agent tool invocation)을 위해 **Model Context Protocol (MCP)**을 통한 외부 도구 및 서비스 연결
• OpenAPI 및 GraphQL을 통한 실시간 외부 시스템 및 API와의 통합으로 에이전트가 동적이고 구조화된 데이터 소스와 상호 작용할 수 있도록 지원
• 근거성 (Groundedness), 일관성 (Coherence) 및 전반적인 성능을 측정하기 위한 Azure AI Evaluation SDK를 사용한 내장형 에이전트 평가
• 워크플로우 전반에서 에이전트 동작을 모니터링, 디버깅 및 최적화하기 위한 Azure AI Inference Tracer를 통한 트레이싱 (Tracing) 및 진단

이 솔루션은 Azure AI Foundry, LangGraph, 그리고 Azure AI Agents Service의 강력한 기능을 결합하여 고급스럽고 모듈화된 AI 오케스트레이션 프레임워크 (Orchestration framework)를 구축합니다. 이는 실시간 추론 (Reasoning), 검색 및 구조화된 데이터 통합이 필요한 확장 가능하고 지능적인 애플리케이션을 위해 설계된 프로덕션 준비 완료 (Production-ready) 아키텍처를 보여줍니다.

높은 수준(High level)에서, 아키텍처는 다음과 같은 주요 구성 요소로 이루어져 있습니다:

배포에는 생성형 AI 애플리케이션을 개발하고 실행하기 위한 안전하고 관리된 환경을 제공하는 Azure AI Foundry의 풀 스택인 AI Hub, AI Services, AI Projects 및 Compute Instances가 포함됩니다. Compute Instances는 **Visual Studio Code (web)**를 지원하도록 사전 구성되어 있어, Foundry 환경 내에서 샘플 노트북을 직접 실행하고 수정할 수 있는 브라우저 기반의 개발 경험을 제공합니다.

PDF와 같은 비정형 데이터는 문서를 청킹 (Chunking)하고, OpenAI의 Ada-002 모델을 사용하여 벡터 임베딩 (Vector embeddings)을 생성하며, 이를 Azure AI Search에 인덱싱하는 Azure Function을 통해 전처리됩니다. 이를 통해 사용자 정의 지식 베이스를 기반으로 응답을 생성하는 검색 증강 생성 (Retrieval-Augmented Generation, RAG) 기능을 구현할 수 있습니다.

에이전트(Agents)는 노드 기반 로직을 통해 복잡한 워크플로우를 가능하게 하는 프레임워크인 LangGraph를 사용하여 오케스트레이션(Orchestration)됩니다. Supervisor Agent는 여러 개의 특화된 에이전트들을 조정하며, 이를 통해 역할 기반의 위임(delegation), 문맥 인식형(context-aware) 작업 실행, 그리고 적응형 추론(adaptive reasoning)이 가능해집니다.

에이전트가 구조화된 외부 데이터 소스와 상호작용할 수 있도록, 이 솔루션은 OpenAPI (RESTful API용) 및 GraphQL (스키마 기반 쿼리 인터페이스용)을 통해 도구(tools)를 통합합니다. 이러한 도구들은 에이전트의 역량을 확장하여, 대화 중에 외부 시스템으로부터 데이터를 가져오거나(fetch), 쿼리하거나(query), 또는 동적으로 기록(write)할 수 있게 합니다.

문서 처리(Document processing)는 완전히 이벤트 기반(event-driven)으로 이루어집니다. PDF가 지정된 스토리지 컨테이너에 업로드되면, Azure Function이 트리거되어 청킹(chunking)부터 인덱싱(indexing)까지 문서를 엔드 투 엔드(end-to-end)로 처리하며, 이를 통해 검색 인덱스(search index)가 항상 최신 상태로 유지되도록 보장합니다.

워크숍을 완료하고 테스트한 후에는 추가 비용 발생을 방지하기 위해 사용하지 않는 모든 Azure 리소스를 삭제하거나 리소스 그룹(Resource Group) 전체를 제거해야 합니다.

이 프로젝트는 MIT 라이선스(MIT License)에 따라 라이선스가 부여되며, 적절한 출처 표기 시 상업적 및 비상업적 사용이 허용됩니다.

본 워크숍과 데모 애플리케이션은 교육 및 시연 목적으로 제작되었습니다. 이는 어떠한 보증 없이 "있는 그대로(as-is)\