공격자도 AI를 사용하는 시대: 의료기기 네트워크의 위협 모델을 어떻게 업데이트할 것인가

지금까지는 '유출'로 판단하기 전에 해야 할 일에 대해 다루었습니다. 정보 유출 대응은 먼저 '범위 특정'부터 시작하며, '시스템이 멈췄을 때' 의료기기는 어떻게 계속 작동해야 하는지에 대한 글 두 편을 작성했습니다. 모두 '유출된 후', '멈춘 후' 방어 측이 어떻게 대응할 것인가에 대한 내용이었습니다.

이번에는 전제를 조금 바꾼 이야기를 하고자 합니다. Anthropic이 2026년 9월에 공개한 위협 인텔리전스 리포트 「Detecting and countering misuse of AI」는 2025년 12월부터 2026년 8월까지 탐지 및 저지한 여러 사례를 보고하고 있습니다. 여기서 제시된 것은 공격자의 기량이 아니라, 공격자가 사용하는 도구 자체가 변했다는 구도였습니다.

어느 러시아계 공격 그룹(리포트 내에서 GTG-20006으로 호칭)은 악성코드 개발·인프라 구축·피싱·침입 후 활동·데이터 유출까지를 AI 워크플로우로 결합하여, 탐지된 악성코드를 AI 에이전트가 자동으로 수정하여 탐지를 회피하고 있었다고 보고되었습니다. 또 다른 사례에서는 13개의 에이전트가 수작업을 거치지 않고 취약점 조사와 익스플로잇 개발을 병렬적으로 지속했다고 하며, 한 침해 사고에서는 약 34시간 만에 40개 이상의 테넌트로부터 정보를 확보한 경우도 소개되었습니다. 리포트 자체도 '인간이 공격자의 기량을 판단 자료로 삼기 어려워졌다'고 언급하고 있습니다(Anthropic, "Detecting and countering misuse of AI: September 2026"). Google Cloud의 「Cybersecurity Forecast 2026」 역시 유사하게, 공격자에게 AI 활용이 예외가 아니라 표준이 되어갈 것이라는 전망을 제시하고 있습니다.

1. 논점 - '공격자의 전제'가 바뀌면 무엇이 달라지는가

지금까지의 정보 유출 대응 및 사업 연속성 논의는 대부분 '인간 공격자'를 전제로 하고 있었습니다. 공격에는 준비 기간이 있고, 동시에 노릴 수 있는 대상의 수에는 한계가 있으며, 탐지를 회피하기 위한 수정에도 시간이 걸리는 등—이러한 전제 위에 조사·보고·복구 프로세스가 구성되어 왔습니다.

하지만 위 리포트가 보여주는 것은 이 전제 자체가 무너지고 있다는 점입니다. 공격자 측이 여러 에이전트를 병렬로 가동시키고, 탐지될 때마다 자동으로 수정하며, 인간은 대상 선정과 결과 확인만 담당하는 상황이라면, 방어 측이 '발견한 후 수정이 들어올 때까지의 시간'으로 예상했던 여유가 이전보다 줄어듭니다. 정보 유출 대응의 '범위 특정'도, 시스템 장애 시의 '현장 연속성'도 모두 어느 정도 시간적 여유를 전제로 한 대응 기반이었습니다. 공격자 측의 전제가 바뀌었을 때, 그 여유 자체를 어떻게 재검토할지는 아직 충분히 논의되지 않은 논점이라고 생각합니다.

2. 차별화의 핵심 - 의료기기 네트워크의 '보수 위탁사 관리' 관점에서

임상공학기술자로서 의료기기의 보수 및 운영에 관여해 온 입장에서, 이러한 전제 변화를 번역한다면 초점은 개별 공격 기법이 아니라 취약점 관리 사이클 전체의 속도와 그 책임 소재라고 생각합니다.

많은 의료기관은 네트워크에 연결되는 장비나 서버의 보안 업데이트를 전담 정보보안 담당자가 아닌 보수 위탁사에 맡기고 있습니다. 보건복지부 「의료정보시스템 안전관리 관련 가이드라인」은 2026년에 제7.0판으로 개정되어, 새로 보수 위탁기관 편이 마련되었습니다. 이는 서버 보안 업데이트 대응을 모두 사업자에게 위탁하고 있는 의료기관 등을 대상으로, 그 책임 분담을 계약서·약관·서비스 수준 합의서 상에서 명확히 하도록 요구하는 편입니다. 대상 여부는 병상 수나 시설 규모가 아니라, '책임 분담이 문서상 어떻게 작성되어 있는지'로 판단된다는 점이 특징입니다.

이는 취약점이 발견된 후 패치가 적용되기까지의 '발견→검증→적용' 사이클을, 원내 담당자·보수 위탁사·기기 벤더 사이에 어떻게 분담하고 어느 정도의 속도로 돌릴 수 있는가에 대한 설계 문제로 볼 수 있습니다. 공격자의 탐지 회피나 정찰이 사람을 거치지 않고 자동으로 돌아가는 시대에는, 이 분담이 모호한 채 '위탁했으니 괜찮다'로 멈춰 있다면, 어디에도 실질적인 대응의 출발점이 존재하지 않는 상태가 될 수 있습니다. 제7.0판이 '누가 안전관리책임을 맡을 것인가'를 문서상 명확히 하도록 요구하는 것은, 취약점 관리 사이클에 반드시 인간의 시작점을 두라는 의미로 해석되며, 이는 공격자의 자동화 및 고속화에 대한 하나의 대응 방식이라고 생각합니다.

3. 데이터 거버넌스 한마디

본 기사에서 참고한 자료는 Anthropic의 공개 위협 인텔리전스 리포트, Google Cloud의 공개 위협 예측, 후생노동성 '의료정보시스템 안전관리 관련 가이드라인 제7.0판'에 관한 공개 자료 및 해설 기사, 그리고 본인이 공개했던 Qiita・note・Zenn 기사들뿐입니다. 특정 의료기관이나 유지보수 위탁처의 명칭, 네트워크 구성, 계약 내용 등의 세부 사항은 일절 포함하고 있지 않습니다.

요약

'유출된 후', '멈춘 후'에 이어 이번에는 공격하는 측의 전제 자체가 바뀌었다는 이야기를 했습니다. 공격자가 AI를 이용해 정찰(偵察)・침입・탐지 회피를 자동화하기 시작한 이상, 방어하는 측도 '위탁했으니 괜찮다'라는 모호한 분담만으로는 따라잡을 수 없습니다. 취약점 관리 사이클에 누가 책임을 지고 어느 정도의 속도로 돌릴지를 사전에 명문화해 두는 것—의료정보시스템 안전관리 가이드라인 제7.0판의 유지보수 위탁기관 편은 그 구체적인 한 걸음이라고 느낍니다. 같은 문제 의식을 가진 분들과 꼭 논의하고 싶습니다.

⚠️ 면책

본 기사는 필자의 현시점 개인적 견해이며, 법률 자문이 아닙니다. 의료기기의 운영・네트워크 구성・유지보수 위탁 계약・관련 법규에 대한 판단이 필요한 경우에는 반드시 소속 조직의 책임자・의료정보시스템 안전관리 책임자・정보 보안 부서・전문가와 상담 후 판단해 주십시오. 필자는 본 기사의 이용으로 인해 발생하는 손해에 대해 책임을 지지 않습니다.

임상공학기술사 × AI 엔지니어. 11년간 병원의 의료기기 현장에 몸담아 왔습니다.

현재는 AI 엔지니어로 활동하면서, 낙농학원대학교의 연구생으로서 논문 박사 취득을 목표로 유전자 의료의 미래를 연구 주제로 하고 있습니다.

토론