Microsoft는 어제 작은 샌프란시스코 행사에서 두 가지 새로운 보안 제품을 발표했습니다. 바로 회사의 최초 사이버 보안 전문 AI 모델인 MAI-Cyber-1-Flash와, AI 에이전트 팀을 배치하여 취약점을 찾아내고 수정하는 에이전틱(agentic) 보안 플랫폼인 Perception입니다.

프리뷰는 11월 3일에 공개됩니다. 이것이 중요한 시점입니다.

두 제품의 기능
MAI-Cyber-1-Flash는 복잡한 코드베이스에서 취약점을 찾는 데 특화되어 구축되었습니다. 이는 Microsoft가 소프트웨어 취약점 식별 및 수정에 사용하는 도구인 MDASH를 구동합니다.

Perception은 플랫폼 계층입니다. 이 플랫폼은 세 가지 유형의 에이전트를 실행합니다: 공격을 시뮬레이션하고 예상되는 익스플로잇 경로를 매핑하는 레드팀(red teams), 기존 취약점을 탐지하고 분류하는 블루팀(blue teams), 그리고 수정 사항을 적용하는 그린팀(green teams)입니다.

Perception의 수석 엔지니어인 Dave Weston은 보안 조직 전반에 걸쳐 여러 전문 인력들이 '몇 시간 동안 수동으로 작업하던' 과정이, 이제는 몇 분 만에

그 마지막 부분은 미래의 이야기가 아닙니다. 대규모의 AI 지원 공격 (AI-assisted attacks)은 이미 일어나고 있습니다.

SaaS 애플리케이션을 운영 중이라면 이것이 의미하는 바
이 모델들이 찾아내는 취약점은 오늘날 인간 테스터들이 찾아내는 것과 동일합니다: 권한 부여 격차 (authorization gaps), 테넌트 격리 실패 (tenant isolation failures), 비즈니스 로직 결함 (business logic flaws), BOLA 취약점, AI 통합 기능에서의 프롬프트 인젝션 (prompt injection). 변하는 것은 속도와 규모입니다.

미들웨어 (middleware)를 통해 권한 부여 체인을 추적하고 테넌트 필터가 누락된 곳을 식별할 수 있는 모델은 일주일이라는 시간이 필요하지 않습니다. 해당 API가 원래 무엇을 위해 설계되었는지 물어볼 필요도 없습니다. 코드를 읽고 체계적으로 경로를 파악합니다.

이는 어떤 버그가 존재하는가가 아니라, 버그가 발견되는 시점이 변하는 것입니다. 만약 귀하의 권한 부여 모델에 격차가 있다면, 그것은 이미 존재하고 있는 것입니다. 어떤 AI 모델이 그것을 만든 것이 아닙니다.

11월 전까지 메워야 할 격차
권한 부여 테스트 (Authorization testing)는 현재 대부분의 SaaS 애플리케이션에 있어 가장 중요한 카테고리입니다. AI 보안 모델이 가장 잘 찾아내는 버그들인 BOLA, 테넌트 격리 실패, 인증 (authentication) 후 권한 부여 확인 누락 등은 자동화된 스캐너가 놓칠 만큼 미묘하지만, 코드 추론 (code reasoning) 능력을 갖춘 모델이 체계적으로 파악할 수 있을 만큼은 체계적입니다.

이러한 버그들은 대부분의 프로덕션 코드베이스 (production codebases)에 존재합니다. 이는 부주의의 결과가 아닙니다. 빠르게 구축하고, 프론트엔드 (frontend)가 무엇을 요청할지에 대해 합리적인 가정을 하며, 암시적 컨텍스트 (implicit context)가 미들웨어를 통해 올바르게 전파될 것이라고 신뢰한 결과입니다. 이를 테스트한다는 것은 귀하의 권한 부여 모델을 매핑하고, 모든 데이터 액세스 경로에서 명시적인 테넌트 컨텍스트를 확인하며, 각 엔드포인트 (endpoint)에서 인증과 권한 부여가 모두 존재하는지 확인하는 것을 의미합니다.

11월 3일은 Microsoft가 누구에게 강요하는 마감일이 아닙니다. 이 날짜는 이러한 종류의 툴링 (tooling)이 벤치마크 결과로 머무는 것을 멈추고, 처음에는 Microsoft 자체 보안 팀과 같은 팀 내부에서, 그리고 더 긴 시간 흐름 속에서는 유사한 역량을 확보하기가 더 쉬워진 공격자가 구축한 환경 내부에서 프로덕션 (production) 환경에서 실행되기 시작하는 날짜입니다. 그 날짜 이전에는 여러분의 권한 부여 모델 (authorization model)에 있는 격차를 여러분이 통제하는 보고서를 통해 여러분의 조건에 맞춰 찾아낼 수 있습니다. 하지만 그 이후에는 다른 누군가가 그것을 먼저 발견할 확률이 높아집니다.

인간 테스터들이 이 작업을 수행합니다. AI 모델은 이를 더 빠르게 수행할 것입니다. 문제는 누가 먼저 도달하느냐입니다.

Faultline Security에서 우리는 유럽의 B2B SaaS 기업들을 위해 침투 테스트 (penetration testing) 및 AI 레드팀 (red teaming)을 수행합니다. 우리는 자동화된 도구나 더 잘 갖춰진 공격자가 찾아내기 전에 권한 부여 결함 (authorization flaws)과 테넌트 격리 실패 (tenant isolation failures)를 찾아냅니다. 11월이 되기 전에 여러분의 노출 정도를 이해하고 싶다면, **hello@faultlinesec.com**으로 연락해 주세요.