OWASP LLM Top 10 학습을 위한 오픈 소스 실습장 구축

지난 몇 달 동안 저는 대규모 언어 모델(Large Language Models) 주변의 보안 문제들을 탐구해 왔습니다. 프롬프트 인젝션, 시스템 프롬프트 누출, 안전하지 않은 도구 사용 등 다양한 LLM 취약점에 대해 설명하는 기사들이 많지만, 저는 계속해서 한 가지 질문을 던졌습니다:

실제로 누가 이러한 취약점을 악용해 볼 수 있는 곳은 어디일까?

이것이 저를 LLMVault 개발로 이끌었습니다.

LLMVault는 오픈 소스이며, 의도적으로 취약하게 설계된 플랫폼으로, 개발자와 보안 전문가들이 이론 대신 실습을 통해 **OWASP Top 10 for LLM Applications (2025)**을 학습할 수 있도록 돕습니다.

각 실습은 실제 세계의 LLM 공격 시나리오에서 영감을 받은 취약한 AI 애플리케이션을 시뮬레이션합니다. 프롬프트 인젝션에 대해 읽는 대신, 직접 이를 악용하고 플래그를 획득하며, 왜 그것이 작동했는지 이해하고, 추천되는 완화 방안(mitigation)까지 검토하게 됩니다. 목표는 이론과 실제 AI 보안 사이의 간극을 메우는 것입니다.

LLMVault를 구축한 이유

웹 보안을 학습할 때 DVWA, WebGoat, Juice Shop 같은 플랫폼들이 실습적인 학습을 가능하게 했습니다.

하지만 AI 보안의 경우, 다음과 같은 특징을 가진 유사한 프로젝트를 찾을 수 없었습니다:

• 오픈 소스
• 셀프 호스팅(Self-hosted) 가능
• 사용료 무료
• OWASP LLM Top 10을 중심으로 설계됨
• 실습 학습 환경으로 구축됨

그래서 저는 직접 하나를 만들기로 결정했습니다.

LLMVault란 무엇인가?

LLMVault는 의도적으로 취약하게 만든 AI 애플리케이션이며, 모든 도전 과제(challenge)가 실제 세계의 LLM 보안 문제를 보여줍니다.

단순히 프롬프트 인젝션이나 시스템 프롬프트 누출에 대해 읽는 대신, 사용자는 취약한 AI 어시스턴트를 악용하고 플래그를 획득하며 공격이 왜 작동하는지 배웁니다.

각 도전 과제에는 또한 방어 지침(defensive guidance)이 포함되어 있어 프로덕션 환경에서 동일한 문제를 어떻게 예방할 수 있는지 이해하도록 돕습니다.

기능

기능

• 🛡️ OWASP LLM 애플리케이션 Top 10 (2025)
• 💥 CTF 스타일의 도전 과제(challenges)
• 🔍 현실적인 AI 공격 시나리오
• 📚 방어적 설명(Defensive explanations)
• 🐳 Docker 지원
• 🔑 API 키 불필요
• 💻 완전한 오프라인 환경(Fully offline)
• 🧩 확장 가능한 도전 과제 프레임워크(Extensible challenge framework)

시작하기

저장소 복제(Clone the repository):

git clone https://github.com/CyberSunil/LLMVault.git
cd LLMVault

Docker를 사용하여 실행:

docker compose up

또는 수동으로 설치:

pip install -r requirements.txt
python app.py

프로젝트 저장소

👉 GitHub

https://github.com/CyberSunil/LLMVault

LLMVault는 누구를 위한 것인가?

• 보안 엔지니어(Security Engineers)
• 모의 침투 테스터(Penetration Testers)
• AI 보안 연구원(AI Security Researchers)
• LLM 애플리케이션을 개발하는 개발자(Developers building LLM applications)
• AI 보안을 학습하는 학생들
• CTF 참가자(CTF players)

문서화

GitHub 저장소에서 설치 지침, 도전 과제 문서, 스크린샷 및 기여 가이드라인을 찾을 수 있습니다.

AI 보안에 관심이 있으시다면, 피드백이나 향후 도전 과제 아이디어를 들려주시면 감사하겠습니다.