Edge-to-Cloud Swarm Coordination for Precision Oncology

체화된 에이전트 피드백 루프를 활용한 정밀 종양학 임상 워크플로우의 엣지-클라우드 스웜 협응

서론: 분산 추론에 대한 심야 발견

그것은 주말 동안 의도하지 않았던 실험을 하던 새벽 2시에 시작되었습니다. 저는 소형 로봇 시뮬레이터를 위한 다중 에이전트 강화학습 (RL) 설정을 프로토타입으로 만들고 있었습니다. 임상적인 것은 전혀 아니었고, 단지 가벼운 에이전트들의 스웜(swarm)이 이기종 컴퓨팅 노드 전반에 걸쳐 추론을 어떻게 협응할 수 있는지에 대한 호기심이었습니다. 제 책상 위에는 Jetson Orin Nano가 놓여 있었고, 클라우드에서는 임대한 A100 GPU가 있었으며, 지연 시간 예산(latency budgets)에 따라 비전 트랜스포머(vision transformer)의 포워드 패스를 이 둘에 분할하는 반쯤 완성된 아이디어가 있었습니다.

이 에이전트들이 파이프라인의 어떤 부분을 실행할지 협상하는 방법을 탐구하던 중, 저는 예상치 못한 무언가를 발견했습니다. 각 에이전트에게 자신만의 컴퓨팅, 열(thermal), 메모리 상태에 대한 국소적인 관찰인 작은 '체화된' 피드백 신호를 제공했을 때, 그 협응 정책은 순수하게 중앙 집중식 스케줄러보다 거의 세 배 빠르게 수렴했습니다. 이 발견은 몇 주 동안 저를 괴롭혔습니다.

그러던 중 전산 병리학(computational pathology) 분야의 동료가 문제를 언급했고, 제 장난감 같은 실험이 갑자기 시급하게 느껴지게 만들었습니다. 최신 디지털 병리 스캐너에서 얻는 단일 전체 슬라이드 이미지 (WSI)는 100,000 × 100,000 픽셀을 초과할 수 있습니다. 이는 기가바이트 단위의 데이터입니다. 환자가 아직 침대에 누워 있는 상황에서 현장(point of care)에서 이 데이터를 기반 모델 추론(foundation-model inference)을 실행하는 것은 정말 어려운 엣지-클라우드 문제입니다. 그리고 이것은 병리학에만 국한되지 않습니다. 유전체 변이 호출 (Genomic variant calling), 실시간 방사체학 (real-time radiomics), 수술 중 이미징, 적응형 방사선 치료 계획 등 모든 것이 단일 계층(single tier)이 혼자 제공할 수 없는 '지연 시간 제한적, 프라이버시 보존, 내결함성' 컴퓨팅을 요구합니다.

이러한 과정에서 저는 엣지-클라우드 스웜 협응을 진지하게 받아들이기 시작했습니다. 이는 분산 시스템의 호기심 차원이 아니라, 정밀 종양학이 실제로 필요로 하는 아키텍처 패턴으로 말입니다. 이 글은 이후 몇 달 동안 프로토타입을 구축하고 파괴하면서 제가 배운 것들을 종합한 것입니다. 즉, 체화된 에이전트(embodied agents), 계층적 협응(hierarchical coordination), 그리고 하이브리드 양자-고전 최적화(hybrid quantum-classical optimization)를 안전성이나 감사 가능성을 희생하지 않으면서 임상 워크플로우에 어떻게 엮어 넣을 수 있는지에 대한 내용입니다.

정밀 종양학이 분산 컴퓨팅 문제인 이유

아키텍처로 깊이 들어가기 전에, 많은 종양학 워크플로우에서 왜 중앙 집중식 클라우드 추론(cloud inference)이 실패하는지에 대해 정확히 아는 것이 중요합니다.

데이터 중력 및 지연 시간. 40배율의 WSI(Whole Slide Image) 하나는 압축해도 대략 2~4 GB에 달합니다. 이것을 병원의 혼잡한 업링크를 통해 클라우드 엔드포인트로 업로드하는 데는 몇 분이 걸릴 수 있으며, 이는 수술 중 냉동 절편 결정에 필요한 초 단위 예산을 훨씬 초과합니다. 엣지 컴퓨팅은 픽셀을 로컬에 유지시킵니다.

개인 정보 보호 및 규제 제약. HIPAA, GDPR, 그리고 기관 IRB(Institutional Review Boards)는 원본 환자 데이터가 현장을 떠나는 것을 종종 금지합니다. 연합 학습(Federated learning)이나 분할 학습(split-learning) 접근 방식은 이미지 대신 '그래디언트(gradients)'나 '임베딩(embeddings)'을 전송할 수 있게 해주지만, 이는 또 다른 협응 복잡성을 도입합니다.

이질성(Heterogeneity). 병원은 병리 실험실에 몇 대의 GPU를, 방사선과에는 CPU 클러스터를 보유하고 있을 수 있으며, 버스트 기능이 가능한 클라우드 리전에 접근할 수도 있습니다. 이 노드들은 메모리, 정밀도 지원(FP16, BF16, INT8), 그리고 상호 연결 대역폭에서 엄청나게 다릅니다.

변동성(Burstiness). 종양 위원회 검토, 수술 중 컨설팅, 스크리닝 캠페인은 급격한 수요 급증을 만듭니다. 정적 프로비저닝은 한가할 때는 돈을 낭비하고 피크 시점에는 실패합니다.

실험을 통해 얻은 핵심 통찰은 다음과 같습니다. 이러한 제약 조건들은 독립적이지 않으며, 이를 개별적으로 다루면 취약한 시스템을 초래합니다. 지연 시간(latency)을 최적화하는 스케줄러는 개인 정보 보호를 무시하고; 데이터를 격리하는 개인 정보 보호 계층은 버스트 용량(burst capacity)을 무시합니다. 스웜 협응(Swarm coordination)이 매력적인 이유는 이 모든 제약 조건을 에이전트가 로컬에서 해결하고 글로벌하게 조정할 수 있는 단일 다중 목표 최적화(multi-objective optimization)로 표현할 수 있게 해주기 때문입니다.

아키텍처 청사진: 세 계층, 하나의 스웜

제가 만든 프로토타입에서는 임상 현실에 깔끔하게 매핑되는 3계층 토폴로지(three-tier topology)를 확립했습니다.

┌─────────────────────────────────────────────────────────┐
│  TIER 3: 클라우드 (버스트 용량, 파운데이션 모델,       │
│          연합 집계, 양자 최적화)    │
...

Tier 1의 각 **체화된 에이전트(embodied agent)**는 물리적 장치와 로컬 관측 벡터를 소유합니다. 이 벡터에는 컴퓨팅 활용률, 열 여유 공간(thermal headroom), 배터리(웨어러블용), Tier 2까지의 네트워크 RTT, 그리고 임상 컨텍스트 신호(예:

‘체화된 에이전트 피드백 루프(embodied agent feedback loops)’라는 구절 자체가 여기서 실제적인 역할을 합니다. 이는 각 에이전트가 물리적 상태와 의사 결정 정책 사이에 폐쇄 루프(closed loop)를 가지며, 이것이 지속적으로 업데이트됨을 의미합니다.

저는 이를 각 노드에서 실행되는 경량 액터-크리틱 루프(actor-critic loop)로 모델링했습니다:

import torch
import torch.nn as nn

...

실험을 진행하면서 흥미롭게 발견한 점은, 각 에이전트의 보상에 지역적 물리 비용(열 스로틀링(thermal throttling), 배터리 소모)이 포함되기 때문에, 학습된 정책들이 단순한 스케줄러가 겪는 ‘모두가 공격적으로 입찰하여 클러스터가 과열되는’ 병리적인 평형 상태를 자연스럽게 회피한다는 것입니다. 즉, 체화(embodiment)는 장식이 아니라 정규화자(regularizer) 역할을 합니다.

스웜 전반의 모델 분할(Model Sharding Across the Swarm)

협응은 절반에 불과합니다. 일단 작업이 할당되면, _계산 자체_가 종종 여러 계층을 거쳐야 하기 때문입니다. 대규모 병리 기초 모델(pathology foundation models)의 경우, 저는 초기 레이어는 엣지 GPU에서 실행하고 후기 레이어(또는 분류 헤드)는 포그 또는 클라우드에서 실행하는 분할 추론 패턴(split-inference pattern)을 사용했습니다.

class SplitInferencePipeline:
    def __init__(self, edge_model, cloud_model, cut_layer):
        self.edge = edge_model.layers[:cut_layer]
...

양자화(quantization) 단계가 엄청나게 중요합니다. 제 벤치마크에서 중간 활성화 값(intermediate activation)을 전송 전에 INT8로 양자화하자, 종양 탐지 작업의 다운스트림 AUC(Area Under the Curve) 하락이 0.3% 미만으로 유지되면서 대역폭(bandwidth)이 약 4배 감소했습니다. 이것이야말로 적당한 업링크를 가진 병원에서 엣지-클라우드 연동을 가능하게 하는 종류의 트레이드오프입니다.

양자 최적화가 들어가는 곳(Where Quantum Optimization Fits)

솔직히 말하자면, 저는 처음으로 스케줄링에 대한 양자 어닐링(quantum annealing)을 제안하는 논문들을 읽었을 때는 회의적이었습니다. 대부분의 장난감 문제(toy problems)는 좋은 클래식 솔버가 이기는 만큼 충분히 작기 때문입니다. 하지만 정밀 종양학 스케줄링은 본질적으로 양자 및 양자 영감을 받은 방법론에 적합한 구조를 가지고 있습니다. 즉, 많은 근접 퇴화 해(near-degenerate solutions)를 가진 **제약 조건이 있는 이차 할당 문제(constrained quadratic assignment problem)**이며, 임상 상황이 변함에 따라 몇 초마다 재해결되어야 합니다.

제가 사용한 공식화는 작업 대 노드 할당을 QUBO로 매핑합니다:

문제 크기가 약 40개의 작업 × 8개의 노드까지인 경우, D-Wave 어닐러(annealer)를 사용하여 밀리초 단위로 좋은 해답을 얻었습니다. 더 큰 인스턴스의 경우에는 포그 티어(fog tier)에서 실행되는 GPU 가속 시뮬레이션 어닐러(simulated annealer)로 되돌아갔습니다. 실험을 통해 얻은 실용적인 교훈은 이렇습니다: 양자 컴퓨팅(quantum)을 종교가 아니라 포트폴리오 내의 하나의 솔버로 취급하라. 스웜(swarm)은 할당이 QAOA에서 왔는지 타부 탐색(tabu search)에서 왔는지는 신경 쓰지 않습니다. 단지 그 할당이 프라이버시를 준수하고 지연 시간(latency)을 충족하는지에만 관심을 가집니다.

임상 워크플로우 통합

임상 현실을 무시하는 아키텍처는 장난감에 불과합니다. 제가 스웜을 두 가지 구체적인 워크플로우에 어떻게 매핑했는지 알려드리겠습니다.

수술 중 냉동 절편(Intraoperative frozen section). 병리학자가 수술 중에 슬라이드를 스캔합니다. 스캐너의 엣지 에이전트가 이미지를 감지하고, 하드웨어적으로 8초라는 예산으로

유전체 종양 위원회 (Genomic tumor boards). 변이 호출(Variant calling)은 영역별로 독립적으로 병렬화될 수 있지만, 해석은 그렇지 않습니다. 저는 계층적 스웜 구조를 사용했는데, 여기서 각 영역 에이전트가 임베딩을 생성하고, 포그 레벨 집계기(fog-level aggregator)가 이를 융합하며, 클라우드 레벨 에이전트가 기초 모델(foundation model)에 임상 해석을 질의합니다. 연합 평균화(Federated averaging)를 통해 원본 염기서열은 온프레미스(on-prem)에 유지됩니다.

겪었던 어려움과 해결 방법 (Challenges I Ran Into and How I Worked Around Them)

비정상성 (Non-stationarity). 병원 네트워크는 변동합니다. 어제 RTT 분포를 기반으로 학습된 정책은 오늘 성능이 저하됩니다. 저는 각 에이전트별로 작은 리플레이 버퍼(replay buffer)와 보수적인 학습률을 사용하여 온라인 정책 업데이트로 이를 해결했습니다. 화려하지는 않지만, 효과적이었습니다.

비잔틴 에이전트 (Byzantine agents). 오작동하는 엣지 노드는 조정 과정에 독성을 퍼뜨릴 수 있습니다. 저는 경량의 평판 점수(reputation score)를 추가했습니다: 입찰가(bid)가 실현된 결과와 지속적으로 벗어나는 에이전트는 가중치가 낮아집니다. 이는 본질적으로 신뢰 계층이며, 임상 배포에서는 필수적이라고 생각합니다.

감사 가능성 (Auditability). 임상의와 규제 기관은 어떤 작업이 어디로 갔는지 왜 그런지 알아야 합니다. 모든 입찰, 할당(award), 정책 업데이트는 추가 전용 원장(append-only ledger)에 기록됩니다. 스웜의 결정은 입찰 함수가 명시적이기 때문에 설명 가능합니다 — 블랙박스 스케줄러와 달리 말입니다.

안전 범위 (Safety envelopes). 어떤 자율 에이전트도 아무리 좋은 입찰가를 제시하더라도, 개인정보 보호 정책을 위반하는 노드로 환자 데이터를 라우팅해서는 안 됩니다. 저는 학습된 정책 _외부_의 전송 계층(transport layer)에 개인정보 마스크를 하드코딩했습니다. 방어 심화 (Defense in depth) 전략입니다.

콜드 스타트 (Cold start). 새로운 스웜은 입찰 기록이 없습니다. 저는 처음 N개의 작업을 위해 규칙 기반 스케줄러로 부트스트랩(bootstrap)한 다음, 학습으로 전환합니다. 이는 제가 어떤 임상 AI가 행동하기를 바라는 방식과 유사합니다: 증명될 때까지 보수적으로 작동하는 것입니다.

향후 방향 (Future Directions)

제가 적극적으로 탐구하고 있는 몇 가지 주제들입니다:

• 양자 지원 연합 집계 (Quantum-assisted federated aggregation). 양자 영감 텐서 네트워크(quantum-inspired tensor networks)를 사용하여 계층 간 그래디언트 업데이트를 압축함으로써 통신량을 또 다른 자릿수만큼 절감할 수 있습니다.
• 엣지에서의 파운데이션 모델 증류 (Foundation-model distillation at the edge). 병리학 및 영상의학 파운데이션 모델을 엣지 크기의 학생 모델로 증류하여 스웜이 에스컬레이션(escalate)하는 능력을 유지합니다.
• 협응 정책의 형식 검증 (Formal verification of coordination policies). 만약 에이전트가 환자 치료에 영향을 미치는 라우팅 결정을 내린다면, 최악의 경우 지연 시간과 개인 정보 보호에 대한 증명(proof) — 또는 적어도 강력한 통계적 보장 — 이 필요합니다.
• 다기관 스웜 (Multi-hospital swarms). 계약 네트워크 프로토콜(contract-net protocol)을 기관 전반으로 확장하여, 예를 들어 시골 클리닉이 원본 데이터를 이동하지 않고도 지역 센터로부터 버스트 용량(burst capacity)을 빌릴 수 있게 합니다.
• 휴먼-인-더-루프 에이전트 (Human-in-the-loop agents). 병리학자나 종양학자를 스웜 내의 일급 에이전트로 취급하며, 주의력, 피로도, 전문 지식에 기반한 자체 입찰 함수(bid function)를 갖게 합니다.

결론: 제가 배운 것

2시의 장난감 실험에서 임상 아키텍처 제안까지의 여정은 저에게 계속 돌아오게 만드는 세 가지 교훈을 주었습니다.

첫째, 구현(embodiment)은 트릭이 아닙니다. 에이전트에게 자신의 상태에 대한 물리적이고 로컬한 시야를 제공하는 것이 협응을 안정적이고 자체 수정 가능하게 만듭니다. 손실된 입찰로부터 오는 반사실적 피드백(counterfactual feedback)은 놀라울 정도로 강력한 학습 신호입니다.