💌
안녕하세요, SigNoz의 Elizabeth입니다!
이 글은 6일 5시간에 걸쳐 완성되었으니, 부디 도움이 되기를 바랍니다.
요즘 기술계에는 두 가지 인기 있는 예언이 떠돌고 있습니다.
첫 번째는 SRE가 모든 소프트웨어 엔지니어링의 미래라는 주장입니다. AI가 코드를 점점 더 많이 작성함에 따라, 남아있는 인간들은 시스템을 유지하는 역할을 맡게 될 것이라는 내용입니다. 두 번째는 AI가 SRE를 포함한 모든 기술 직업을 집어삼킬 것이라는 주장입니다. 하지만 이 두 가지 모두 2027년에 자신이 어떤 하루하루를 보내야 할지 고민하는 SRE에게는 그다지 유용하지 않습니다.
현재 일어나고 있는 일들을 살펴보며 좀 더 현실적인 질문을 던져봅시다: AI가 인시던트 대응(incident response)의 95%를 처리한다면, 실제로 중요한 나머지 5%를 다루는 능력이 떨어지지 않을까요?
우리 대부분은 이미 일상 업무에서 AI를 사용하고 있습니다 (뇌가 약간 과부하 상태일 정도죠!), SRE들도 마찬가지입니다. 오늘 논의할 의제는 AI가 SRE를 대체하는지 여부가 아니라, AI가 조용히 SRE들의 역량을 떨어뜨리고 있는지, 그리고 다음 새로운 대규모 장애(novel outage)가 발생하기 전에 누군가 그 변화를 알아차릴 수 있을지에 관한 것입니다. 이 전체 논쟁의 기초적인 틀은 1983년의 연구 논문에서 비롯되었으며, 이는 섬뜩할 정도로 예견적입니다.
자동화의 아이러니: 파트-I
저자의 메모: 아래 내용은 '자동화의 역사(History of Automation)'의 짧은 전주곡이므로, 역사와 문화에 관심이 있다면 (저처럼요 😉) 즐기실 수 있을 것입니다.
1983년, Lisanne Bainbridge라는 인지 심리학자가 Ironies of Automation이라는 논문을 발표했습니다. 이 논문은 인간 공학 연구(human factors research)에서 가장 많이 인용된 논문 중 하나가 되었으며, 그 핵심 주장은 오늘날 거의 불편할 정도로 관련성이 높습니다.
Bainbridge는 공장과 산업 시스템이 블루칼라 작업자의 업무를 자동화했을 때 무슨 일이 일어났는지 연구했습니다. 그 결과는 역설적이었는데, 프로세스를 자동화할수록 인간 작업자가 자동화가 실패하는 드문 순간에 더 중요해지지만, 실습 기회가 줄어들고 오히려 그러한 개입(intervention)에 취약해진다는 사실을 밝혀냈습니다. 본질적으로 인간을 루프에서 제거하도록 설계된 자동화는 그들에게 최악의 직업, 즉 장시간의 수동 모니터링과 드물지만 높은 위험이 따르는 위기 상황들로 채워졌으며, 작업자들은 이러한 상황에 점점 더 대비하지 못하게 되었습니다.
혹시 비슷한 느낌을 받으신 적 있나요? 🙂
기본적으로 저는 AI 혁명과 산업 자동화 사이에 유사점을 찾고 있습니다. 산업 자동화는 일상적인 물리적 작업을 대신하면서 블루칼라 업무를 재편했고, 남아있는 작업자들은 자신이 근육 기억(muscle memory)을 잃어버린 예외 상황들을 처리해야 했습니다. AI 역시 지식 노동자들에게 같은 일을 하고 있습니다. 즉, 루틴한 인지 작업, 패턴 매칭, 트리아지(triage), 알려진 문제 해결 등을 대신하고 인간에게는 드물고 복잡하며 모호한 문제들만을 남겨두는 것입니다.
깊은 *전문성(expertise)*이 필요한 바로 그 문제들, 실습을 멈추면 퇴화하는 바로 그 전문성 말입니다.
이제 우리는 AI 에이전트를 통해 이 패턴을 재현하고 있으며, 소프트웨어 시스템에서의 위험 부담(stakes)은 계속 커지고 있습니다.
SRE 분야의 현재 AI 현황
사이트 신뢰성 엔지니어링(Site Reliability Engineering, SRE) 분야에서 오늘날 상황이 어떤지 살펴보겠습니다.
이미 자동화되었거나 AI 지원을 많이 받는 영역은 무엇인가요?
알림 노이즈 감소 및 지능형 그룹핑, 알려진 문제에 대한 런북(runbook) 실행, 로그 패턴 감지 및 이상 징후 플래깅(anomaly flagging), 그리고 과거 인시던트 데이터 기반의 기본적인 근본 원인 분석 제안(root-cause suggestion), 그리고 충돌한 파드 재시작이나 과부하 서비스 스케일 업과 같이 잘 이해되는 장애 모드에 대한 자동 복구(auto-remediation) 등은 현재 상당히 자동화되어 있습니다.
앞으로 다가올 것은 무엇인가요?
즉각적인 목표로는 지표(metrics), 로그(logs), 트레이스(traces) 전반에 걸친 다중 신호 상관관계 분석, 부분적으로 이해된 장애에 대한 자율적 근본 원인 분석, 사용자에게 영향을 미치기 전에 발생하는 예측 인시던트 감지, AI 기반 변경 위험 평가 및 자동 롤백 등이 있습니다.
PagerDuty는 이를 계층형 모델로 제시합니다.
- Tier 1 인시던트: 알려진 문제에 대해 알려진 해결책이 완전히 자동화됩니다.
- Tier 2 인시던트: 부분적으로 이해된 문제는 인간의 검증을 거쳐 AI 추천을 받습니다.
- Tier 3 인시던트: 새롭고 복잡하며 연쇄적인 장애는 여전히 사람이 주도하며, AI가 지원 컨텍스트를 제공합니다.
하지만 여기 함정이 있습니다.
만약 인간 SRE들이 (좋아요, 이제 '인간' 같은 형용사를 써야 하네요 🥹) Tier 3 인시던트, 즉 새롭고 이전에 본 적 없는 장애에만 관여한다면, 그들은 그것들을 처리하는 데 필요한 *직관(intuition)*을 어디서 쌓게 될까요? 직관은 보통 수년간의 실전 인시던트 대응, 반복을 통해 구축된 패턴 인식, 그리고 시스템이 다운되게 만든 버그를 해결하기 위해 늦은 시간에 고통스럽게 잠에서 깨어나는 경험을 통해서만 얻을 수 있는 일종의 본능적인 이해력으로 개발됩니다.
기술 퇴화(Deskilling)의 위기
여기서 그림이 흐릿해지기 시작합니다. 여러 분야에 걸친 AI로 인한 기술 퇴화에 관한 새로운 연구들을 살펴보면, 일관되고 우려스러운 그림이 그려집니다.
의학 분야에서 최근 한 연구는 폴립 검진을 위해 AI 도움을 사용한 내시경 전문의들이 AI 사용 기간 이후 비보조 탐지율이 28%에서 22%로 떨어지는 것을 발견했습니다. 그들은 이론을 잊어서가 아니라, 그 기술을 사용하는 것 자체를 중단했기 때문에 전문가여야 할 분야에서 실력이 저하된 것입니다.
항공 분야에서는 연구 결과에 따르면 자동 조종 장치(autopilot) 시스템에 크게 의존하는 장거리 비행 파일럿들이 상황 인식 및 수동 비행 능력의 측정 가능한 저하를 경험한다는 것이 밝혀졌습니다. 이 문제가 심각해지자 FAA는 그 영향을 상쇄하기 위해 더 많은 수동 비행 시간을 의무화했습니다.
지난 1년여 동안 AI는 제가 가끔 찾는 도구에서, 항상 가장 먼저 손이 가는 것이 되었습니다. 이제 저의 본능은 가능한 한 많은 것을 외부화하고, 제 자신의 사고 과정은 절대적으로 피할 수 없는 곳에만 적용하는 것입니다. 문제는 이러한 순간들이 제 뇌가 운동을 하는 유일한 시간이 되어가고 있고, 저는 녹이 슬어가는 것을 느낀다는 점입니다.
여기서 하나의 패턴을 도출할 수 있습니다. 시스템에 맡길수록 스스로 처리하는 능력이 떨어지며, 가장 위험한 부분은 그것을 인지하지 못한다는 것입니다. 이는 초(超)생산성으로 위장됩니다. 인지 연구에 따르면 AI 도구들이 작업을 더 쉽게 느끼게 하고 눈에 보이는 성능을 향상시키기 때문에, 사용자들은 자신의 실제 기술 상태를 정확하게 판단하기 어렵습니다. 자신은 유능하다고 느끼고, 대시보드는 녹색 신호를 보내지만, 수요일에 AI가 본 적 없는 새로운 유형의 장애(incident)가 발생하면, 근육이 위축되었음을 깨닫게 됩니다.
SRE에게 이는 구체적인 방식으로 나타납니다. 예를 들어, AI가 로그 스트림을 요약해주기 때문에 원본 로그를 읽는 것을 멈추고, AI가 근본 원인을 제안하기 때문에 장애 발생 시 가설을 세우는 것을 멈추며, AI가 종속성을 매핑해주기 때문에 시스템 아키텍처에 대한 정신적 모델(mental model) 구축을 멈춥니다. 이 각각의 행위는 개별적으로 생산성 향상처럼 보입니다. 하지만 종합적으로 볼 때, 이는 아무도 예상치 못한 방식으로 문제가 발생했을 때 SRE를 효과적으로 만드는 핵심 전문 지식 자체를 속이게 만듭니다.
하지만 직무 능력 저하(deskilling)보다 더 우려되는 것이 있는데, 연구자들은 이를 *비(非)습득화(never-skilling)*라고 부르기 시작했습니다. 직무 능력 저하는 한때 가지고 있던 능력을 잃는 것을 의미합니다. 반면 비(非)습득화는 애초에 그 능력을 개발하지 못했다는 것을 의미합니다. AI가 대부분의 장애 대응 워크플로우를 처리하는 환경에서 오늘날 이 분야에 진입하는 주니어 SRE들에게, 실질적인 경험을 통해 기초적인 직관과 근육을 구축할 기회 자체가 사라지고 있습니다.
훈련 파이프라인 자체는 고장 났으며 *자가 치유(self-healing)*되지 못하고 있습니다.
SRE들은 자신의 기술이 퇴화하고 있음을 깨닫고 이를 보상하기 위해 AI에 더 의존하게 되며, 이는 다시 그들의 기술을 더욱 퇴화시켜 벗어나기 어려운 악순환을 만듭니다.
우리는 무엇을 할 수 있을까?
우리는 AI 도구를 거부하는 것이 아닙니다. 이것이 유일한 전진 방식이기 때문에, 오히려 그 어느 때보다 강력하게 채택하고 통합하고 있습니다.
고려해 볼 만한 몇 가지 접근 방식:
의도적인 비효율성 (Deliberate inefficiency). 자동 조종 장치(autopilot)가 완벽하게 작동할 때조차 FAA(미국 연방항공청)가 수동 비행 시간을 의무화하는 것과 마찬가지로, SRE 팀은 AI가 처리할 수 있는 인시던트라 할지라도 일부를 인간 실습 기회로 지정할 수 있습니다. 이는 숙련도를 유지하기 위한 장기적인 투자로 간주될 수 있지만, 초고속 솔루션의 비용을 치러야 할 수도 있습니다.
인간-반복 루프(human-in-the-loop)를 위해 구축하고, 인간-측면(human-on-the-side)에 두지 마십시오. 사람이 AI의 추천을 승인하는 시스템과, 사람이 AI와 함께 문제에 적극적으로 참여하는 시스템 사이에는 의미 있는 차이가 있습니다. 전자는 베인브리지(Bainbridge, 약 40년 전에 그 연구 논문을 작성한 여성)가 보여주었듯이 감시 태만(vigilance decay)으로 이어지는 감독 역할에 인간을 머무르게 하는 반면, 후자는 인간을 인지적으로 참여하게 유지합니다.
이제 시야를 넓혀 더 큰 그림을 살펴보겠습니다.
더 큰 그림 (The Bigger Picture)
여기서 논의된 모든 것들—자동화의 역설, 기술 퇴화(deskilling) 위험, 숙련도 저하 문제(never-skilling problem)—은 SRE를 훨씬 넘어 광범위하게 적용됩니다. 소프트웨어 엔지니어링 전체가 동일한 긴장감을 헤쳐나가고 있습니다. AI가 더 많은 코드를 작성하고, 더 많은 PR(Pull Request)을 검토하며, 더 많은 디버깅을 처리함에 따라, 같은 질문들이 적용됩니다.
우리가 SRE에 대해 특별히 이야기하는 이유는 바로 SigNoz에서 살고 있는 세상이 그렇기 때문입니다. 우리는 오픈 소스 관측 가능성(observability) 플랫폼을 구축하며, 이 도구는 SRE가 자신의 시스템을 깊이 이해하는 데 필요한 메트릭(metrics), 트레이스(traces), 로그(logs)를 제공합니다. 저희에게 있어 이 기술 퇴화 문제는 수사학적인 유행이 아니며, 제품에 AI를 통합하는 방식 자체를 직접적으로 형성하고 있습니다.
우리의 접근 방식은 사람이 확실하게 통제권을 유지하는 상태에서 SRE가 LLM(대규모 언어 모델)의 힘을 활용하도록 돕는 AI 비서부터 시작하는 것입니다. 궁극적으로는 더 많은 자율성을 가능하게 하겠지만, 명확한 가드레일(guardrails) 내에서, 그리고 신뢰를 얻음에 따라서만 그렇게 할 것입니다.
이 분야에서 우리가 가진 하나의 장점은, 관측 가능성 플랫폼(observability platform)으로서, SRE가 의존하는 데이터 자체, 즉 메트릭(metrics), 트레이스(traces), 로그(logs) 위에 자리 잡고 있다는 점입니다. 오늘날 대부분의 AI SRE 제품들은 API를 통해 관측 가능성 도구와 통합되는데, 이는 시스템에 대한 제한적이고 간접적인 시각으로 작업하고 있다는 것을 의미합니다. 저희가 데이터 계층(data layer)을 소유하고 있기 때문에, 숙련된 SRE가 시스템을 이해하는 방식처럼 훨씬 더 깊고, 상황 인지적인(context-aware) AI 기능을 구축할 수 있습니다.
그리고 여러분의 마음속에 있는 뜨거운 질문에 답하자면, 저희의 목표는 SRE를 대체하는 AI가 아닙니다. SRE를 초강력으로 만드는(supercharge) AI입니다. 지속되는 전설(lore)과는 달리, 저희는 인간이 가장 중요한 결정, 특히 프로덕션 인프라에 영향을 미치는 결정에서 필수적일 것이라고 믿습니다.
SRE의 미래는 인간이 가장 날카롭고, 몰입하며, 정말 중요한 5%에 대비할 수 있도록 의도적으로 설계된 AI를 '가지고 있는' 것입니다.
이것을 작성하는 데 영감을 준, 저희 창립자가 며칠 전 올린 LinkedIn 게시물입니다.
