에이전트가 결정하고, 컨테이너가 실행한다: 에이전틱 워크로드 구축

한국 시간(KST) 10월 20일 오전 4시에 Agentic Azure Insights의 첫 라이브 이벤트에서 발표할 예정입니다. 행사가 열리는 영국 시간으로는 10월 19일 오후 8시가 될 것입니다.

저는 Peter De Tender와 함께 이 이벤트에 참여하며, 제 세션 제목은 "Agents Decide, Containers Execute: Building Agentic Workloads with Azure Container Apps Jobs"입니다.

이 세션에는 하나의 질문이 담겨 있습니다.

어떻게 하면 에이전트가 잘못된 데이터를 사용하거나 의도 범위를 벗어나 행동하는 것을 막을 수 있을까요?

에이전트가 무엇을 할지 결정하고 작업을 직접 실행하도록 하는 것은 쉽습니다. 하지만 에이전트가 자신 외부에서 코드를 실행하거나 무언가를 변경할 수 있게 되면, 저는 그 판단과 실제로 작업을 수행하는 환경 사이에 더 명확한 경계가 필요합니다.

제가 준비하는 구조는 상당히 간단합니다. 에이전트가 어떤 검사가 필요한지 결정하고, 컨테이너가 별도의 실행 환경에서 해당 검사를 수행합니다.

Foundry Routines는 특정 시간, 반복 스케줄 또는 이벤트 발생 시 에이전트를 시작합니다. Microsoft Foundry Agent Service에서 실행되는 에이전트는 필요한 작업을 선택합니다. Python 도구가 입력을 검증하고 승인된 작업을 Azure Queue Storage에 배치합니다. Azure Container Apps job은 해당 작업을 읽고, 검사를 수행하며, 보고서를 Azure Blob Storage에 저장합니다.

데모에서는 동일한 작업이 온디맨드(on demand), 스케줄링(schedule), 또는 큐 이벤트로부터 시작될 수 있는 방법도 보여줄 것입니다.

Flow from Foundry Routines and Agent Service to a Python validation tool, Azure Queue Storage, Azure Container Apps Jobs, and Blob Storage

슬라이드는 이 흐름을 깔끔하게 보이게 만듭니다. 라이브 데모 중에 전체 경로가 작동하도록 만드는 것은 별개의 문제입니다.

주최 측에서 세션 녹화 옵션을 주었지만, 이번 세션은 완전히 라이브로 진행됩니다. 한국 시간으로 새벽 4시에 시작하는 것이 조금 부담스럽긴 하지만, 첫 라이브 행사에 참여하게 되어 기쁩니다.

다음 주에는 LG Uplus Power Automate 과정도 있습니다. 코스 준비와 슬라이드 제작, 데모 시연을 동시에 하다 보니 지난 며칠이 바빴습니다.

아키텍처와 데모는 아직 다듬는 중입니다. 에이전트의 판단과 안전한 실행 사이의 경계에 대한 완벽한 답을 아직 가지고 있지는 않다고 생각합니다. 이번 세션에서는 그 경계를 눈에 보이고 테스트할 수 있는 하나의 실용적인 방법을 보여드리고자 합니다.

현재로서는 데모가 다이어그램의 마지막 박스까지 아무런 문제 없이 도달하도록 만드는 작업에 집중하고 있습니다.