현재 Azure AI에서 주목할 만한 기술 동향 (MVP 준비 과정의 기록)
요약
본 기사는 Azure AI 스택의 최신 기술 동향을 정리하며, 특히 ARM 기반 VM인 Azure Cobalt 200과 AMD EPYC 'Turin' 칩 같은 하드웨어 발전이 주목됩니다. 또한, Azure AI Foundry가 에이전트 워크플로우를 강화하고 로컬 모델 실행 기능을 제공하는 등 소프트웨어 측면에서도 큰 변화를 보여주고 있습니다.
핵심 포인트
- Azure Cobalt 200은 ARM 기반으로 에이전트형 AI 워크로드에 최적화되어 비용 절감 효과가 기대됩니다.
- Azure AI Foundry는 데이터 소스 연결을 용이하게 하고, 로컬 모델 실행(Foundry Local) 기능을 강화했습니다.
- 로컬 모델 접근 방식의 강조는 '더 큰 모델' 중심의 패러다임 변화를 시사합니다.
- 음성 에이전트 분야에서 프롬프트 기반 지침 제어 및 다국어 음성 출력이 업그레이드되었습니다.
요즘 제가 몇 주 동안 Azure 문서를 파고들었는데요. 부분적으로는 Microsoft MVP 신청을 준비하는 것이기도 하고, 또 진심으로 Azure AI 스택이 얼마나 빠르게 변화하고 있는지 따라가기 힘들어서입니다. 한 탭을 닫을 때마다 세 개의 새로운 '새로운 기능' 페이지가 나타납니다.
그래서 이 모든 메모들을 나중에 다시는 열어보지 못할 임의의 OneNote 페이지에 모으기보다는, 그냥 여기에 쏟아내기로 했습니다. 이건 보도 자료라기보다는 제가 실제로 흥미롭게 찾은 것들의 목록이라고 생각해주세요. 군더더기나 '오늘날 빠르게 진화하는 디지털 환경에서' 같은 말장난은 없습니다.
- Azure Cobalt 200 — 모두가 조용히 기대하는 ARM 기반 칩
인프라와 DevOps에 관심이 많은 저에게는 이 부분이 주목할 만합니다. Microsoft는 자체 ARM 기반 VM인 Azure Cobalt 200의 얼리 액세스 프리뷰를 출시했는데, 주장은 이전 세대 대비 50% 성능 향상이며 특히 Linux에서 실행되는 에이전트형 AI(agentic AI) 워크로드에 최적화되었다는 것입니다. 이와 함께 AMD EPYC 'Turin' 칩 기반의 Lasv5/Laosv5 VM 프리뷰도 있습니다. 이것이 단순히 스펙 시트를 자랑하는 것 이상의 의미가 있는 이유는 무엇일까요? 바로 '에이전트형 AI' 워크로드가 일반적인 웹 애플리케이션과는 근본적으로 다르기 때문입니다. 즉, 작고 대화가 많은 호출(small, chatty calls), 오케스트레이션 오버헤드, 왔다 갔다 하는 도구 호출 등이 많습니다. 만약 Cobalt 200이 이 약속을 지킨다면, 이는 마케팅 슬라이드가 아니라 에이전트 파이프라인을 대규모로 운영하는 모든 사람에게 실제 비용 절감 효과를 가져다줄 것입니다. 아직 저는 이것에 접근하지 못했습니다(아직 대기 목록에 있습니다. 제 인생 이야기입니다만), 하지만 이 글을 읽는 분들 중 접근 권한을 가진 분이 있다면, 실제 에이전트 오케스트레이션 부하에서 어떻게 작동하는지 정말 궁금합니다. - Foundry가 실제 컨트롤 플레인으로 변모하고 있다
Azure AI Foundry가 AI 라이프사이클의 더 많은 부분을 흡수하고 있습니다. 그리고 두 가지 추가된 부분이 눈에 띄었습니다:
Foundry IQ와 Fabric IQ는 기본적으로 에이전트 워크플로우를 위해 다양한 데이터 소스와 시스템을 연결하는 과정을 덜 고통스럽게 만듭니다. 만약 실제 비즈니스 데이터를 기반으로 질문에 답하도록 하려면 다섯 개의 다른 커넥터를 연결하려고 시도해 본 적이 있다면, 이 기능들이 매우 유용할 것입니다.
Foundry Local은 항상 호스팅된 엔드포인트에 접속하는 대신 작고 효율적인 모델을 로컬에서 실행합니다. Azure Local과 결합하여 이는 클라우드로 모든 것을 전송할 수 없거나(또는 원하지 않는) 시나리오, 즉 규제 산업, 엣지 디바이스 또는 지연 시간과 토큰 비용에 질린 사람들을 겨냥한 것이 분명합니다.
솔직히 말해서, 로컬 모델 관련 접근 방식이 제가 가장 관심 있는 부분입니다. 왜냐하면 이는 대화의 중심을 차지해 온 '그냥 더 큰 모델을 투입하라'는 접근 방식에 대한 좋은 반론이기 때문입니다.
- 음성 에이전트가 실질적인 업그레이드를 거쳤습니다. Azure Speech에서 조용히 큰 순간을 맞았습니다. 이제 프롬프트 수준의 지침 제어(따라서 말할 내용뿐만 아니라 목소리가 어떻게 들려야 하는지 실제로 지정할 수 있음) 기능을 갖춘 Neural HD V3 음성이 공개 미리 보기로 제공되며, 10개 이상의 언어를 지원하는 MAI-Voice 2.0도 있습니다. 음성 대 음성(speech-to-speech) 측면에서는 자연스러운 다국어 음성 출력을 목표로 하는 GPT-Realtime 1.5와 새로운 Azure-Realtime 모델이 공개 미리 보기 단계에 있습니다. 또한, 이제 제대로 된 Voice Live Evaluation Harness가 생겨서, 대부분의 사람들이 해왔던 QA를 감으로 통과하는 대신 13가지 다른 Foundry 평가 도구(evaluator)를 사용하여 음성 에이전트를 점수화할 수 있게 되었습니다.
- Microsoft Discovery가 GA 단계에 진입했습니다. 이 기능은 다소 눈에 띄지 않았지만, 에이전트형 AI 워크플로우를 구축하고 거버넌스하는 플랫폼인 Microsoft Discovery가 일반적으로 사용 가능(GA) 상태가 되었습니다. 만약 귀하의 조직이 사일로(silos) 내에서 에이전트를 실험해 왔고 이제 누가 무엇을 만들지에 대한 실제적인 거버넌스가 필요하다면, 이 기능을 살펴보아야 합니다.
- 인증 체계가 우리 발밑에서 다시 변화하고 있습니다. 저와 함께 시험 준비나 MVP 지명에 대비하는 다른 분들에게 알려드립니다. 주의하세요.
DP-100 (Azure Data Scientist Associate)이 공식적으로 폐지되고, 대신 머신러닝 운영 엔지니어 어소시에이트 자격증인 AI-300으로 대체되었습니다. 또한 에이전트 구축 기술 격차를 해소하기 위해 새로운 AB-100 (Agentic AI Business Solutions Architect)과 AB-620 (AI Agent Builder Associate)도 출시되고 있습니다. 기본적으로, 만약 여러분의 학습 계획이 이전 ML/데이터 과학 자격증 경로를 중심으로 짜여 있었다면, 이제 읽을 목록을 업데이트할 때입니다. 저는 DP-100 준비 노트 두 챕터가 지금은... 장식품이 되어버렸습니다.
제가 이걸 쓰는 이유
솔직히 말해서요? 무언가를 공개적으로 글로 적는 것이 제가 실제로 기억하는 방법입니다. '새로운 소식' 페이지를 읽고 저녁 식사 전까지 잊어버리는 것은 학습이 아니라, 추가 단계가 있는 스크롤링일 뿐입니다. 만약 이것이 누군가의 리스 노트 검색 시간을 한 시간이라도 절약해 준다면 더 좋겠습니다.
지금 Azure/Cloud/DevOps 분야 깊숙한 곳에 계신 분들은 댓글로 어떤 것을 파고보고 있는지 알려주세요. 어차피 저는 새벽 1시쯤에는 그것들에 대해 읽게 될 것 같습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기