AI Security Gate라는 개념 ~AI 에이전트 시대의 개발에 필요한 새로운 보안 레이어~

이 기사는 새로운 보안 도구를 소개하는 것이 아닙니다. 또한, Secret Scanner나 SAST를 대체하는 것을 제안하는 것도 아닙니다.

제가 제안하고 싶은 것은, AI 에이전트 시대의 개발 프로세스에서 이러한 기술들을 어떤 역할로 통합해야 하는가라는 아키텍처상의 관점입니다.

저는 이 역할을 AI Security Gate라고 부르고 있습니다.

생성형 AI는 코드 보완 도구에서 자율적으로 개발을 진행하는 에이전트로 진화하고 있습니다.

이미 AI는,

• 요구사항으로부터 코드를 생성한다
• 테스트를 작성한다
• 리팩터링(Refactoring)한다
• Pull Request를 작성한다
• 코드 리뷰를 수행한다

와 같은 일련의 작업을 실행할 수 있습니다.

가까운 미래에 많은 소프트웨어 개발은,

AI가 구현하고, AI가 리뷰하며, AI가 수정하는

라는 워크플로우가 될 것입니다.

이때 개발 프로세스에서 인간이 완전히 사라진다는 뜻은 아닙니다. 하지만 인간에 의한 리뷰를 보안의 최후의 보루로 설계하는 것은 어려워집니다.

AI가 생성한 성과물을 AI가 평가하는 세상에서는, AI의 판단과는 독립적으로 반드시 실행되는 기계적인 보안 제어가 필요합니다.

제가 생각하는 AI Security Gate의 정의는 다음과 같습니다.

AI Security Gate란, AI가 생성한 성과물을 개발 프로세스에 받아들이기 전에, 결정론적(Deterministic)인 규칙에 기반하여 검증하는 보안 제어 레이어(Layer)이다.

여기서 중요한 것은 '성과물'과 '결정론적'이라는 두 가지 단어입니다.

성과물이란 소스 코드만을 의미하지 않습니다.

• 소스 코드
• Infrastructure as Code (IaC)
• Dockerfile
• Kubernetes 매니페스트
• SQL
• GitHub Actions
• API 사양서

등, AI가 생성하는 모든 성과물이 대상이 됩니다.

또한, AI Security Gate는 추론을 수행하지 않습니다.

AI Reviewer가

"이 설계가 더 유지보수하기 쉽다"

라고 판단하는 것과 달리, AI Security Gate는

"API 키가 포함되어 있다"
"조직 정책을 위반하고 있다"

와 같은 사실만을 규칙에 기반하여 판정합니다.

AI Security Gate는 다음 4가지 성질을 가져야 한다고 생각합니다.

1. AI가 아닌 규칙에 의해 판정할 것.
   누가 실행하든, 몇 번을 실행하든 동일한 결과가 나오는 것이 중요합니다.

2. 조직의 보안 정책을 기계적으로 적용할 수 있을 것.
   사람이나 AI의 판단이 아닌, 규칙으로서 강제되어야 합니다.

3. 성과물이 리포지토리나 CI/CD 파이프라인에 포함되기 전에 실행될 것.
   문제가 있다면 그 시점에 처리를 중단할 수 있는 것이 중요합니다.

4. AI가 생성한 성과물이든 인간이 작성한 성과물이든 반드시 통과할 것.
   '필요하면 실행한다'가 아니라, 개발 프로세스에 포함되어 있는 것이 전제입니다.

"그것은 Secret Scanner가 아닌가"라고 생각하실지도 모릅니다. Secret Scanner는 비밀 정보를 탐지하기 위한 도구입니다.

반면, AI Security Gate는 개발 프로세스에서의 역할을 나타내는 개념입니다.

예를 들어, 웹 애플리케이션에는,

• 인증 (Authentication)
• 인가 (Authorization)
• 로깅 (Logging)

이라는 역할이 있습니다.

구현 방식은 여러 가지가 존재해도 '인증'이라는 역할은 공통입니다.

AI Security Gate도 마찬가지입니다.

Secret Scanner나 IaC Scanner, 라이선스 체커 등은 각각 AI Security Gate를 구성하는 구현체가 될 수 있습니다.

즉, AI Security Gate는 도구 이름이 아니라, AI가 생성한 성과물을 받아들이기 전에 적용되는 보안 레이어를 나타내는 아키텍처상의 개념입니다.

앞으로의 개발 프로세스는 다음과 같은 구성으로 변화해 갈 것이라고 생각합니다.

AI Agent
↓
AI Security Gate
...

여기서 중요한 것은 AI Reviewer보다 앞단에 AI Security Gate를 배치하고 있다는 점입니다. AI Reviewer는 추론을 통해 품질을 평가합니다.

반면, AI Security Gate는 추론을 거치지 않고 조직의 규칙을 반드시 적용합니다. 이 역할은 AI가 아무리 진화해도 변하지 않습니다.

저는 이러한 사고방식을 구현한 OSS(Open Source Software)로서 KeyGate를 개발하고 있습니다. KeyGate는 비밀 정보(Secret) 탐지에 특화된 AI Security Gate의 구현체입니다.

앞으로 AI Security Gate라는 카테고리 안에는,

• Secret Protection (비밀 정보 보호)
• License Compliance (라이선스 준수)
• IaC Security (IaC 보안)
• Policy Enforcement (정책 강제)
• Compliance Validation (컴플라이언스 검증)

등 다양한 구현이 등장할 것입니다.

KeyGate는 그중에서 "Secret Protection"을 담당하는 하나의 구현체입니다.

AI 에이전트(AI Agent)는 소프트웨어 개발의 주체가 되려 하고 있습니다. 이러한 변화에 맞춰 개발 프로세스의 설계 또한 재검토할 필요가 있습니다. 저는 AI 시대에 새롭게 필요해지는 것은 "AI가 판단하는 메커니즘"이 아니라, "AI의 판단과는 독립적으로 조직의 규칙을 반드시 적용하는 메커니즘"이라고 생각합니다.

그 역할을 나타내는 개념이 바로 AI Security Gate입니다.

몇 년 후, "AI Agent", "AI Reviewer"와 마찬가지로 "AI Security Gate"가 개발 프로세스를 설명할 때 사용하는 공통 용어가 된다면, AI 시대의 소프트웨어 엔지니어링은 한 단계 더 성숙했다고 말할 수 있지 않을까요?