우리는 흥미로운 소프트웨어 개발 시대를 맞이했습니다.
이제 AI 도구를 사용하면 몇 시간 만에 풀스택 애플리케이션(full-stack application)을 구축할 수 있습니다. 인증(Authentication), 데이터베이스 통합, 결제 처리, API 엔드포인트, 관리자 대시보드는 물론 완전한 SaaS 플랫폼까지도 몇 가지 프롬프트만으로 생성할 수 있습니다.
ChatGPT, Claude, Cursor, GitHub Copilot 같은 도구들은 개발자들이 소프트웨어를 구축하는 방식을 극적으로 변화시켰습니다.
솔직히 말해서, 이것은 놀라운 일입니다.
하지만 우리가 충분히 이야기하지 않는 문제가 하나 있습니다:
우리는 애플리케이션을 더 빠르게 만드는 데 능숙해지고 있지만, 그것들을 안전하게 보호하는 것에도 능숙해지고 있을까요?
AI가 생성한 코드의 함정
이 상황을 상상해 보세요:
당신이 AI 코딩 어시스턴트에게 인증 시스템 구축을 요청합니다.
그러면 다음과 같은 것이 생성됩니다:
- 로그인 및 회원가입 엔드포인트(Login and registration endpoints).
- 비밀번호 해싱(Password hashing).
- JWT 인증(JWT authentication).
- 보호된 경로(Protected routes).
- 비밀번호 재설정 기능(Password reset functionality).
모든 것이 작동합니다.
당신은 테스트를 하고, 모든 것이 좋아 보이며, 배포합니다.
하지만 다음 사항들을 확인했나요?
- 비밀번호가 안전한 알고리즘으로 해싱되었는지?
- JWT 토큰이 올바르게 검증되는지?
- 사용자가 다른 사용자의 리소스에 접근할 수 있는지?
- 비밀번호 재설정 토큰이 만료되는지?
- 로그인 엔드포인트가 무차별 대입 공격(brute-force attacks)으로부터 보호되는지?
- 민감한 정보가 API 응답에서 노출되지는 않는지?
애플리케이션은 작동합니다. 하지만 안전하게 작동할까요?
이것이 기능하는 코드와 안전한 코드의 차이점입니다.
AI는 프롬프트를 만족시키는 코드를 생성하는 데 매우 능숙합니다. 하지만 생성된 코드가 자동으로 보안 요구 사항을 충족한다는 의미는 아닙니다.
보안은 프로덕션 전에 추가하는 것이 아니다
개발자들이 저지르는 가장 큰 실수 중 하나는 보안을 최종 체크리스트로 취급하는 것입니다.
애플리케이션을 먼저 구축합니다.
기능(Feature)을 추가하고.
버그를 수정합니다.
배포합니다.
그리고 나서, 어쩌면 보안에 대해 생각할지도 모릅니다.
이것은 순서가 거꾸로입니다.
보안은 개발 과정의 처음부터 일부여야 합니다.
다음과 같은 일반적인 시나리오들을 고려해 보세요:
1. 접근 제어 오류(Broken access control)
사용자의 애플리케이션에는 다음과 같은 엔드포인트가 있습니다:
GET /api/users/123/profile
로그인한 사용자가 123을 124로 변경하여 갑자기 다른 사용자의 프로필에 접근합니다.
이 엔드포인트는 완벽하게 작동합니다.
문제는 인증(Authentication)은 구현되었지만, 권한 부여(Authorization)가 아니었다는 것입니다.
로그인했다는 것이 모든 것에 대한 접근 권한을 가진다는 의미는 아닙니다.
항상 인증된 사용자가 요청된 리소스에 접근할 권한이 있는지 확인해야 합니다.
2. 노출되는 비밀 정보(Exposed secrets)
AI가 생성한 애플리케이션에는 실수로 노출하기 쉬운 설정들이 포함될 수 있습니다:
- 데이터베이스 자격 증명(Database credentials).
- API 키(API keys).
- JWT 서명 비밀 값(JWT signing secrets).
- 제3자 서비스 토큰(Third-party service tokens).
- 내부 환경 변수(Internal environment variables).
비밀 정보를 소스 코드에 하드코딩하지 마십시오.
환경 변수 또는 적절한 시크릿 관리자(secrets manager)를 사용하고, 민감한 파일이 버전 제어 시스템(version control)에서 제외되었는지 확인하십시오.
또한 기억해야 할 점은 프론트엔드 환경 변수가 반드시 비밀 정보는 아니라는 것입니다. 브라우저 코드로 번들링되는 모든 것은 공개된 것으로 간주되어야 합니다.
3. SQL 인젝션 및 안전하지 않은 데이터베이스 쿼리
AI는 작동하지만 반드시 안전한 것은 아닌 데이터베이스 쿼리를 생성할 수 있습니다.
사용자 입력을 절대적으로 신뢰해서는 안 됩니다.
매개변수화된 쿼리(parameterized queries), 준비된 구문(prepared statements) 및 안전한 ORM 관행을 사용하십시오.
입력 값 검증(Input validation)은 중요하지만, 이것이 안전한 데이터베이스 접근의 대체재는 아닙니다.
4. 안전하지 않은 파일 업로드
AI에게 프로필 이미지 업로드 기능을 구현하도록 요청했다고 가정해 봅시다.
AI는 업로드 엔드포인트를 만들고, 파일을 받아 저장합니다.
훌륭합니다!
하지만 누군가 다음을 업로드한다면 어떻게 될까요:
- 실행 가능한 파일(An executable file)?
- 오해를 불러일으키는 확장자를 가진 파일(A file with a misleading extension)?
- 저장 공간을 고갈시키도록 설계된 거대한 파일(A huge file designed to exhaust storage)?
- 애플리케이션에서 서비스되는 악성 파일(A malicious file that gets served from your application)?
파일 업로드에는 엄격한 검증, 크기 제한, 안전한 저장소 및 적절한 접근 제어가 필요합니다.
확장자가 올바르게 보이는 단지 그 이유만으로 파일을 안전하다고 가정해서는 안 됩니다.
5. 지나치게 광범위한 API 권한 부여(Overly permissive API permissions)
AI가 생성하는 흔한 실수는 권한 부여를 너무 광범위하게 구현하는 것입니다.
예를 들어, 애플리케이션이 관리자만 편집할 수 있어야 하는 필드를 인증된 모든 사용자에게 업데이트할 수 있도록 허용할 수 있습니다.
항상 서버 측에서 권한을 검증하고, 각 사용자 역할(user role)이 어떤 필드를 수정할 수 있는지 명시적으로 정의해야 합니다.
인증 메커니즘으로 프런트엔드(frontend)에서 버튼을 숨기는 것에 절대 의존해서는 안 됩니다.
AI가 생성한 코드를 신뢰할 수 있는 코드로 취급하는 것을 멈추세요 (Stop treating AI-generated code as trusted code)
이것이 아마도 이 글에서 가장 중요한 지점일 것입니다.
AI가 코드를 생성할 때는, 당신이 검토하지 않은 개발자가 작성한 코드처럼 취급해야 합니다.
다음 이유만으로 안전하다고 가정해서는 안 됩니다:
- 컴파일되기 때문에 (It compiles).
- 기본 테스트를 통과했기 때문에 (It passes basic tests).
- AI가 프로덕션 준비가 되었다고 말하기 때문에 (The AI says it's production-ready).
- 구현이 깔끔해 보이기 때문에 (The implementation looks clean).
- 애플리케이션이 예상대로 작동하기 때문에 (The application works as expected).
기능적 정확성(Functional correctness)과 보안은 두 가지 다른 문제입니다.
AI가 코드를 작성하는 데 도움을 줄 수는 있지만, 최종적으로 배포하는 것이 무엇인지 이해할 책임은 여전히 사용자에게 있습니다.
AI로 구축된 애플리케이션을 배포하기 전 실용적인 보안 체크리스트 (A practical security checklist before deploying an AI-built application)
다음 AI 지원 프로젝트를 배포하기 전에, 이 영역들을 검토하는 시간을 가지십시오.
인증 및 권한 부여 (Authentication and authorization)
API 보안 (API security)
데이터베이스 보안 (Database security)
• [] 쿼리는 파라미터화된 구문(parameterized statements) 또는 안전한 ORM 메서드를 사용합니다.
• [] 데이터베이스 자격 증명은 최소 필수 권한을 가집니다.
• [] 민감 정보는 적절하게 보호됩니다.
• [] 데이터베이스 접근이 승인되지 않은 클라이언트에게 직접 노출되지 않습니다.
애플리케이션 보안 (Application security)
• [] 비밀 정보(Secrets)는 Git에 커밋되지 않습니다.
• [] 파일 업로드는 검증되고 제한됩니다.
• [] 종속성(Dependencies)은 알려진 취약점을 확인합니다.
• [] 프로덕션 오류는 스택 트레이스(stack traces)나 민감한 세부 정보를 노출하지 않습니다.
• [] 보안 헤더(Security headers)와 HTTPS가 적절하게 구성됩니다.
• [] 로그에는 비밀번호, 접근 토큰(access tokens), 또는 기타 민감한 데이터가 포함되지 않습니다.
배포 및 인프라 (Deployment and infrastructure)
• [] 디버그 모드는 프로덕션 환경에서 비활성화됩니다.
• [] 프로덕션 환경 변수는 안전하게 구성됩니다.
• [] 백업은 보호되며 복구(recovery)가 테스트됩니다.
• [] 종속성 및 인프라 구성 요소는 보안 업데이트를 받습니다.
• [] 프로덕션 시스템에 대한 접근이 제한됩니다.
기능을 생성하는 것뿐만 아니라 보안을 개선하기 위해 AI를 사용하세요
모든 개발자에게 시도해 보라고 권장하고 싶은 내용입니다.
단순히 AI에게 다음과 같이 요청하는 대신:
"인증 시스템을 만들어 줘."
다음과 같이 요청해 보세요:
"이 인증 구현을 보안 관점에서 검토해 주세요. 인증 우회(authentication bypasses), 접근 제어 오류(broken access control), 불안전한 세션 관리(insecure session management), 취약한 비밀번호 처리(weak password handling), 토큰 유효성 검사 문제(token validation problems), 정보 노출(information disclosure)을 찾아주세요. 각 발견 사항, 잠재적 영향, 그리고 해결 방법을 설명해 주세요."
다음과 같이 요청할 수도 있습니다:
"이 API 엔드포인트들을 OWASP Top 10 위험에 대해 검토해 주세요. 특히 접근 제어 오류(broken access control), 주입(injection), 보안 구성 오류(security misconfiguration), 인증 취약점(authentication weaknesses)에 주의를 기울여 주세요."
또는 다음과 같이 요청할 수 있습니다:
"보안 검토자 역할을 수행해 주세요. 이 코드에서 잘못되었을 수 있는 보안 가정을 식별해 주세요. 단순히 개선 사항을 제안하는 것에 그치지 말고, 현실적인 공격 시나리오를 설명하고 안전한 복구 지침(remediation guidance)을 제공해 주세요."
하지만 기억해야 할 점은, AI 보안 검토는 침투 테스트(penetration test)가 아니며, 취약점을 놓치거나 오탐지(false positive)를 보고할 수 있다는 것입니다.
자동화 도구도 사용하세요:
- OWASP ZAP: 웹 애플리케이션 보안 테스트.
- Semgrep: 정적 코드 분석(Static code analysis).
- Snyk: 의존성 취약점 스캐닝(Dependency vulnerability scanning).
- GitHub Dependabot: 의존성 업데이트 및 보안 경고.
- OWASP ASVS: 유용한 보안 검증 표준(Security verification standard).
AI 지원을 코드 리뷰, 자동화 테스트, 그리고 보안 전문 지식과 결합하세요.
OWASP Top 10 학습하기
웹 애플리케이션을 구축한다면, OWASP Top 10에 익숙해야 합니다.
여기에는 다음을 포함하여 가장 중요한 웹 애플리케이션 보안 위험 요소들이 다루어집니다:
- Broken Access Control (취약한 접근 제어).
- Security Misconfiguration (보안 설정 오류).
- Software Supply Chain Failures (소프트웨어 공급망 실패).
- Cryptographic Failures (암호화 실패).
- Injection (주입 공격).
- Insecure Design (안전하지 않은 설계).
- Authentication Failures (인증 실패).
더 안전한 애플리케이션을 작성하기 위해 침투 테스터(penetration tester)가 될 필요는 없습니다.
하지만 애플리케이션이 실패하는 일반적인 방식과 그러한 실패를 방지하는 방법을 이해해야 합니다.
여기서 시작하세요: [https://owasp.org/www-project-top-ten/]
Node.js 애플리케이션을 위한 실용적인 보안 도구 키트가 필요하신가요?
보안 위험 요소를 이해하는 것이 첫 번째 단계입니다. 다음 단계는 이를 해결하는 데 도움이 되는 도구가 무엇인지 아는 것입니다.
만약 Node.js와 TypeScript를 사용하여 애플리케이션을 구축하고 있다면, 개발자가 현대적인 애플리케이션에 보안을 통합하도록 돕기 위해 설계된 오픈 소스 보안 도구 키트인 Mitigator를 확인해 보시는 것을 추천합니다.
Mitigator는 다음을 포함하여 여러 보안 중심 유틸리티들을 하나의 모듈식 라이브러리에 모아 제공합니다:
- XSS 방지: HTML 이스케이핑(escaping), 산티타이징(sanitization) 및 DOM 클로버링(clobbering) 방지.
- Prototype 오염 방지: 더 안전한 JSON 파싱 및 객체 병합 기능.
- 안전한 파일 작업: 경로 탐색(Path traversal) 보호 및 파일 유형 검증.
- 적응형 속도 제한 (Rate Limiting): 의심스러운 트래픽에 대한 추가적인 방어막 제공.
- 인증 및 암호화: JWT 검증, WebAuthn, CSRF 방지, 그리고 안전한 암호화 유틸리티.
- 보안 헤더: CSP(Content Security Policy), HSTS(HTTP Strict Transport Security) 구현 및 민감 데이터 보호 기능.
- 자동 보안 감사: 잠재적으로 위험할 수 있는 코드 패턴을 스캔하는 CLI 도구.
또한 Express, Fastify, NestJS, 그리고 Next.js를 위한 통합 프리셋(integration presets)도 제공합니다.
핵심 아이디어는 간단합니다. 개발자들이 모든 프로젝트에서 보안 유틸리티를 처음부터 다시 구축할 필요 없이, 재사용 가능한 툴킷을 사용하여 방어 심층(defense-in-depth) 원칙을 구현하는 데 도움을 받을 수 있다는 것입니다.
더 자세히 알아보고 싶다면, 다음 원본 소개 글을 확인해 보세요:
Mitigator 소개: Node.js 애플리케이션을 위한 보안 우선 타입스크립트 라이브러리
중요한 상기 사항: 어떤 보안 라이브러리도 애플리케이션을 자동으로 안전하게 만들지 않습니다. 통합하는 모듈을 이해하고, 구현 내용을 검토하며, 설정을 테스트하고, 보안을 개발 프로세스의 일부로 유지해야 합니다.
실제 책임은 변하지 않았다
AI는 우리가 소프트웨어를 작성하는 방식을 변화시켰습니다.
하지만 우리가 배포하는 소프트웨어에 대한 책임자가 누구인지는 바꾸지 않았습니다.
사용자들이 계정을 만들거나, 개인 정보를 업로드하거나, 결제를 하거나, 애플리케이션에 비즈니스 데이터를 저장할 때, 그들은 당신을 중요한 것을 맡기는 것입니다.
그들은 취약점이 다음 중 무엇으로 인해 발생했는지 신경 쓰지 않습니다:
- 주니어 개발자.
- 시니어 개발자.
- AI 코딩 어시스턴트(AI coding assistant).
- 서드파티 라이브러리(third-party library).
- 성급한 배포(rushed deployment).
그들은 단지 그 결과만을 경험할 뿐입니다.
우리는 혁신을 늦추거나 AI 도구 사용을 중단해서는 안 됩니다. 그것이 요점이 아닙니다.
핵심은 보안을 희생하지 않으면서 빠르게 구축할 수 있는 개발자가 되는 것입니다.
코드를 생성하는 데 AI를 사용하십시오. 코드를 검토하는 데 AI를 사용하십시오. 보안을 학습하는 데 AI를 사용하십시오.
하지만 배포하는 것이 무엇인지 이해해야 할 책임을 결코 외주 주어서는 안 됩니다.
빠르게 구축하고(Build fast). 스마트하게 출시하며(Ship smart). 모든 것을 안전하게 지키십시오(Secure everything).
여러분은 어떻게 생각하십니까?
개발자들이 보안 영향을 이해하지 못한 채 AI가 생성한 코드에 너무 의존하게 되고 있습니까?
AI 코딩 어시스턴트가 생성한 코드에서 보안 취약점을 발견해 본 적이 있습니까?
댓글을 통해 여러분의 경험과 생각을 들려주시면 감사하겠습니다.