Cloudflare Agents Week 8월 에디션의 2일 차에 오신 것을 환영합니다! 오늘은 ADLC (Agent Development Lifecycle, 에이전트 개발 생명주기)에 관한 내용입니다:

🔁 Cloudflare CI/CD
💳 Cloudflare Wallet
🤖 모든 AI Agent를 위한 Agent Tracing
📈 wrangler dev에서의 Otel Traces
🧬 Cloudflare에서의 ADLC
🏭 Software Factory 구축
✅ Cloudflare에서의 AI 표준 강제 적용

바로 시작해 보겠습니다!

🔁 Cloudflare CI/CD 🔁

오늘부터 사용 가능한 Cloudflare의 새로운 CI 패키지를 통해 여러분(그리고 여러분의 고객들!)은 Cloudflare Workflows, Artifacts 및 Sandboxes를 기반으로 자체 CI/CD 파이프라인을 정의하고 실행할 수 있습니다.

GitHub에 푸시(push)를 하면 GitHub Action이 트리거되는 것과 동일한 방식으로, Artifacts 리포지토리에 푸시할 때 CI/CD 파이프라인을 트리거하는 것이 이제 가능해졌습니다.

가장 좋은 점은 무엇일까요? Cloudflare Workflows, 따라서 Cloudflare CI는 TypeScript로 정의된다는 것입니다. 이는 YAML과 씨름하는 것에 비해 거의 무한한 유연성과 단순성을 제공합니다.

린트(lint) 기능, 종속성 캐싱(cache dependencies), 단위 테스트(unit tests) 실행, 그리고 당연히 배포(deploy) 기능을 포함하여 여러분이 기대하는 기능들이 현재 존재합니다.

💳 Cloudflare Wallet 💳

AI가 점점 더 많은 작업 목록을 자동화하는 세상에서, 종종 한 가지 장애물이 앞을 가로막습니다. 바로 상품과 서비스에 대한 결제입니다.

하지만 인간은 여전히 그 지출을 제어해야 하며, 바로 이 지점에서 Cloudflare Wallet이 등장합니다. Cloudflare Wallet을 사용하면 지갑을 생성하고, 자금을 추가하며, AI 에이전트가 사용할 수 있도록 해당 자금을 분배할 수 있습니다. 각 지갑은 고유한 stable id를 가지고 있어, 가맹점이 해당 지갑에 정기적으로 비용을 청구할 수 있습니다.

당연히 제어 장치도 마련되어 있습니다. 자금은 사용자의 계정이 소유한 지갑에 저장되며, 여기에서 AI 에이전트에게 할당할 수 있는 가상 지갑(virtual wallets)을 생성할 수 있습니다. 이때 권한과 지출 한도(spending caps)를 설정할 수 있습니다.

마찬가지로, 기업은 모든 직원이 사용할 수 있는 가상 지갑을 생성할 수 있습니다. 블로그 포스트에 많은 세부 사항과 깊이 있는 내용이 담겨 있으므로 읽어보시길 권장합니다. 저는 이것이 언젠가 웹에서 트랜잭션이 처리되는 미래의 방식이 될 것이라고 생각합니다.

🤖 모든 AI Agent를 위한 Agent Tracing 🤖

소프트웨어 엔지니어링에서 AI의 가장 뛰어난 용도 중 하나는 디버깅 (debugging)입니다. 버그이든 성능 문제이든, AI는 이러한 유형의 문제를 조사하고 그럴듯한 해결책 (remediations)을 제공하는 데 매우 탁월합니다.

이러한 잠재력을 극대화하려면 AI 에이전트 (AI agents)에게 문제에 대한 통찰력을 제공할 수 있어야 합니다. 이를 수행하는 방법 중 하나는 트레이스 (traces)를 사용하는 것으로, 각 AI 에이전트 세션에 대한 정확한 실행 순서를 AI 에이전트에게 보여주는 것입니다.

트레이스는 각 스팬 (span)이 얼마나 걸렸는지와 함께 토큰 사용량 (token usage), 호출된 도구 (tools called) 등의 정보를 보여줍니다. 심지어 세션 리플레이 (session replay) 기능도 있어 대화가 진행된 과정을 그대로 볼 수 있습니다.

현재 Think, Flue 및 AI SDK에 대해 에이전트 트레이싱 (agent tracing)을 즉시 사용할 수 있는 지원이 제공됩니다. 다른 프레임워크들도 Otel (OpenTelemetry)을 기반으로 하는 커스텀 스팬 (custom spans) API를 사용하여 계측 (instrumented)할 수 있습니다.

즉, Cloudflare 기반 프레임워크든 제3자 프레임워크든 상관없이 모든 AI 에이전트를 계측할 수 있으며, 이 모든 것은 Cloudflare 대시보드 (dash)에서 확인할 수 있습니다. 가까운 미래에 Cloudflare는 Workers에서 OpenTelemetry API를 직접 지원하도록 작업 중이며, 이는 더 이상 커스텀 어댑터 (custom adapters)가 필요하지 않음을 의미합니다.

📈 wrangler dev에서의 Otel Traces 📈

트레이스를 좋아하신다면 오늘이 행운의 날입니다. Cloudflare에서 더 많은 트레이스를 사용할 수 있게 되었기 때문입니다. 이번에는 wrangler dev 또는 vite dev를 사용하는 로컬 개발 환경에서의 지원입니다.

Cloudflare의 툴링 (tooling)이 에이전트 세션을 감지하면, 에이전트를 Local Explorer API로 안내합니다. 이는 에이전트가 해당 트레이스를 쿼리 (query)할 수 있는 로컬 디버깅 API입니다.

물론 이는 사람에게도 사용 가능하며, 수동 단계나 설치해야 할 의존성 (dependencies)도 없습니다. 에이전트는 로컬에 노출된 엔드포인트 (endpoint)를 쿼리하여 트레이스를 검색할 수 있고, 사람은 브라우저에서 트레이스에 접근할 수 있습니다.

최신 버전의 Wrangler를 설치하여 직접 확인해 보세요!

🧬 Cloudflare의 ADLC 🧬

오늘의 Agents Week 주제는 에이전트 개발 라이프사이클 (Agent Development Lifecycle, ADLC)이므로, 이를 위해 전체 블로그를 할애하는 것이 마땅합니다.

소프트웨어 엔지니어링의 병목 현상이 구현(코드 작성)에서 리뷰, 배포 및 기타 단계로 크게 변화함에 따라, 우리는 이러한 딜레마를 해결하기 위한 새로운 접근 방식과 도구가 필요합니다.

오늘날의 모든 변화는 ADLC의 일부를 간소화하는 것을 목표로 하고 있으며, 앞으로 더 많은 작업이 예정되어 있지만, Cloudflare의 개발자 플랫폼에서 에이전트(agents)의 역량을 강화할 수 있는 도구는 이미 매우 많습니다:

• 모든 것이 로컬 개발 (local dev)에서 실행됩니다.
• 현재 로컬 트레이스 (local traces)를 지원합니다.
• 프로덕션 동작을 재현하기 위한 원격 바인딩 (Remote bindings)
• 모든 변경 사항에 대한 프리뷰 URL (Preview URLs)
• 에이전트가 변경 사항을 테스트할 수 있도록 브라우저를 제공하는 브라우저 실행 (Browser run)
• 변경 사항을 제어하기 위한 플래그십 및 점진적 배포 (Flagship and Gradual Deployments)
• 프로덕션 동작 관찰 및 버그 해결을 위한 로그 (Logs), 트레이스 (traces), MCP 서버 및 기타 도구

에이전트가 소프트웨어를 구축하기에 Cloudflare보다 더 나은 장소는 진정으로 없으며, 우리는 이제 막 시작했을 뿐입니다.

🏭 Astro를 위한 소프트웨어 팩토리(Software Factory) 구축 🏭

AI 에이전트를 조립하여 (대체로) 자율적으로 작동하는 소프트웨어를 생산할 수 있다는 이상향인 소프트웨어 팩토리 (software factories)에 대한 논의가 많이 이루어지고 있습니다.

모든 프로덕션 시스템은 예외와 버그를 발생시키므로, 소프트웨어 팩토리를 사용하여 이를 분류(triaging)하고 수정하는 것이 전형적인 유스케이스 (use case)가 될 수 있습니다. 간단해 보이지만, 실제 결과와 영향력은 매우 다양합니다.

이 블로그 포스트는 Cloudflare 내의 Astro 팀이 오픈 소스 에이전트 프레임워크인 Flue 에이전트의 지원을 받아 어떻게 소프트웨어 팩토리를 구현했는지 살펴봅니다.

이는 성공적임이 입증되었습니다. 오픈 이슈 (Open issues)가 200개에서 30개로 감소했으며, 가까운 미래에 0개에 도달할 것으로 예상됩니다. 이는 이 프로젝트에서 처음으로 일어나는 일입니다.

성공적인 소프트웨어 팩토리를 구축하는 방법에 대해 자세히 알고 싶다면, 이 포스트가 바로 여러분을 위한 것입니다!

✅ Cloudflare에서의 AI 표준 강제 적용 ✅

저는 이전에 Cloudflare의 내부 AI 리뷰어 (internal AI reviewer)를 얼마나 가치 있게 생각하는지 공유한 바 있습니다. 이 리뷰어는 이슈를 포착하고, 코드 품질에 대한 우려를 제기하며, 리뷰에서 기대할 수 있는 다른 사항들을 처리하는 데 매우 뛰어납니다.

제가 이전에 사용했던 AI 리뷰 도구들이 제기하는 내용의 90%가 노이즈(noise)였던 것과 달리, Cloudflare의 AI 리뷰어는 정반대입니다. 제기되는 내용의 90%가 보통 매우 유용합니다.

대부분의 AI와 마찬가지로 이것이 매우 도움이 되는 이유 중 하나는 AI가 사용하는 정보에 있습니다. Cloudflare에는 우리가 준수해야 할 규칙과 원칙을 문서화한 내부 코덱스(internal codex)가 있습니다.

SPEC 리뷰어(SPEC reviewers)나 인시던트 리뷰어(incident reviewers)를 포함하여, 표준(standards)에 관한 AI 도구들이 점점 늘어나고 있습니다.

제 생각에 많은 AI는 너무 일반적(generic)입니다. 한 회사에 효과적인 것이 다른 회사에는 효과적이지 않을 것입니다. AI의 가치는 각 사용 사례(use case)에 대해 지식을 갖추게 함으로써 가치를 창출하는 데 있습니다. 이것이 바로 제가 Cloudflare의 도구들이 그토록 유용하다고 믿는 이유입니다.

만약 여러분만의 내부 AI 도구, 또는 일반적인 AI 도구를 구축하고자 한다면, 이곳은 어디서부터 시작해야 할지, 그리고 피해야 할 함정(pitfalls)은 무엇인지에 대한 가이드를 얻기에 아주 좋은 시작점입니다.

이것으로 2일 차 일정을 마칩니다. 오늘 발표된 내용 중 가장 좋았던 발표는 무엇인가요? 또는 오늘 발표된 내용에 대해 궁금한 점이 있으신가요?