Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
NuGuard는 AI 애플리케이션의 안전성과 보안을 위한 오픈 소스 툴킷입니다. 이 도구는 AI 소프트웨어 구성 명세서(AI-SBOM)를 생성하고, AI 스택과 인프라의 구조적 위험을 정적으로 분석합니다. 또한 프롬프트 주입 등 100가지 이상의 적대적 시나리오를 이용해 자동화된 레드팀 테스트를 수행하여 취약점을 발견하도록 돕습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub AI Tools의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기NuGuard는 오픈 소스 AI 애플리케이션 안전성 및 보안 툴킷입니다. 이 도구는 에이전트형(agentic) 애플리케이션에 대한 AI 소프트웨어 구성 명세서(AI-SBOM)를 생성하고, AI 스택과 소프트웨어 인프라의 구조적 위험을 정적으로 분석합니다. 이후 샌드박스 환경에서 100가지 이상의 적대적 시나리오(adversarial scenarios)—프롬프트 주입(prompt injection), 도구 오용(tool abuse), 데이터 유출(data exfiltration) 등—카탈로그를 이용해 레드팀 테스트를 수행합니다. 이를 통해 공격자가 문제를 발견하기 전에 사용자가 취약점을 찾을 수 있도록 돕습니다. 자동화된 심판관(automated judge)이 발견된 문제점들을 영향도에 기반하여 평가하고, 실행 가능한 개선 지침(remediation guidance)을 제공합니다.
실제 금융 기술(fintech) 에이전트인 Pinnacle Bank Assistant를 스캔하여 NuGuard의 다섯 가지 단계—AI-SBOM, 인지 정책(Cognitive Policy), 정적 분석(Static Analysis), 동작 테스트(Behavior), 그리고 레드팀(Red-Team)—모두를 거치는 과정을 보여줍니다. 모의 시연이나 슬라이드가 아닌 실제 발견 사항들로, 일상적인 질문에 응대하는 과정에서 에이전트가 다른 고객의 플래그 지정된 사기 거래 내역을 유출한 라이브 녹취록까지 포함되어 있습니다.
<p align="center"> <a href="../documentation/docs/pinnacle-bank-demo.html"> <img src="https://raw.githubusercontent.com/NuGuardAI/nuguard/documentation/docs/assets/pinnacle-bank-demo.gif" alt="Pinnacle Bank Assistant에 대한 NuGuard 파이프라인 애니메이션 워크스루: SBOM 발견 (159개 노드), 인지 정책 (19개 제어, 4개 시행 격차), 정적 분석 (621개 발견 사항), 동작 테스트 (위험 점수 59.8/100), 그리고 레드팀 (위험 점수 40.3/100, 교차 계정 데이터 유출을 포함한 37개 발견 사항)." width="1000"> </a> </p>→ 대화형 데모 시작하기 — 전체 워크스루를 직접 스크롤하며 확인해 보세요.
NuGuard는 프레임워크 인식 어댑터(framework-aware adapters)와 구조화된 구성 파서(structured configuration parsers)를 사용하여 AI 애플리케이션 스택을 증거 기반의 AI-SBOM으로 매핑합니다.
| 영역 | 높은 수준의 커버리지 |
|---|---|
| 언어 (Languages) | Python, TypeScript/JavaScript, Go, C#, Java 및 구조화된 구성 및 인프라 형식 |
| ... | |
| 자세한 언어, 프레임워크, SDK, 플랫폼, Kubernetes, 데이터 저장소 매트릭스는 지원 기술 문서(Supported Technologies documentation)를 참조하세요. |
설치한 다음, SBOM을 생성하고, 정적으로 분석하며, 라이브 타겟에 대해 레드팀 공격을 수행하세요:
pip install nuguard
nuguard init --target <your-app-url>
...
설치 방법, 전체 CLI 인터페이스, 구성 참조 자료를 하나의 가이드에서 확인하세요.
NuGuard 플러그인을 설치하고 Claude Code 또는 Claude Desktop에서 SBOM, 분석, 동작(behavior), 레드팀 스캔을 직접 실행할 수 있습니다.
NuGuard는 Smithery Skill로 제공됩니다 — 한 번 설치하면 모든 MCP 호환 클라이언트(Claude Desktop, Claude Code, Cursor 등)에서 사용할 수 있습니다.
# 옵션 A — pip (권장)
pip install "nuguard[mcp]"
python -m nuguard.mcp # stdio를 통해 MCP 서버 시작
...
또는 smithery.ai에서 nuguard를 검색하고 설치(Install)를 클릭하세요 — Smithery가 사용자의 MCP 클라이언트를 자동으로 구성하며, LITELLM_API_KEY 및 기타 옵션을 요청합니다.
Nuclei 기반의 제한적(bounded) 일반적인 침투 테스트 — 명시적인 승인(authorization)이 필요합니다.
Read the Cloud Pentesting Guide
<table align="center"> <tr ><td align="center" width="120"> <img src="https://raw.githubusercontent.com/NuGuardAI/nuguard/documentation/docs/assets/logo-sm.png" alt="NuGuard.ai" width="72"> </td> <td >조직 규모에서 NuGuard를 운영하시나요? 관리형 SaaS는 이 저장소의 모든 것 위에 CISO 또는 VP Engineering이 필요로 하는 기능을 추가합니다 — 인프라 구축이나 유지 관리가 필요 없습니다.
무료 체험 가능 — 신용카드 필요 없음.
</td> </tr> </table>개발 환경 설정(Dev setup), 테스트 실행 및 린트(lint) 작업, 그리고 풀 리퀘스트(pull request) 과정은 '기여 가이드(Contributing guide)'에 설명되어 있습니다.
릴리스 발행은 저장소 관리자(repository maintainers)가 담당합니다. 소유권 및 거버넌스를 참조하고, 유지 관리 절차는 릴리스 런북을 참고하십시오.
tests/apps/ 아래에 예제 애플리케이션이 포함되어 있습니다.이 저장소의 관계자들에게 문의하고 싶은 것이 있는데, 어떻게 연락해야 하나요?
[email protected]로 연락할 수 있습니다.
버그 보고는 GitHub의 issues 페이지를 사용하십시오.
보안 평가를 위해 라이브 앱이 필요한가요?
아닙니다. nuguard sbom + nuguard analyze는 SBOM(소프트웨어 구성 명세서)을 기반으로 구조적 및 공급망 위험을 파악할 수 있습니다 (소스 코드나 실행 중인 애플리케이션 불필요). 다만, nuguard behavior와 nuguard redteam은 일반적으로 샌드박스 내에서 실행되는 대상(target)이 필요합니다.
LLM 지원 기능을 위해 어떤 LLM 공급자가 지원되나요?
nuguard.yaml의 llm 섹션에 구성하며, 공급자 자격 증명은 환경 변수에서 읽어옵니다. Lite LLM을 사용하여 모든 llm 공급자를 추상화합니다. 레드팀 시나리오의 경우, 공격 페이로드(attack payloads)를 효과적으로 생성하기 위해 적대적 콘텐츠 허용 범위(adversarial content tolerance)를 가진 LLM이 필요합니다. nuguard의 SaaS 버전은 이 목적을 위해 사전 구성된 LLM을 제공하여 일관되고 신뢰할 수 있는 레드팀 평가를 보장합니다.
모든 레드팀 시나리오를 실행하고 싶지 않은 경우 어떻게 하나요?
프로필(CI, Standard, Full)별로 필터링하고 파괴적(destructive) 또는 비파괴적(non-destructive) 시나리오를 구성할 수 있습니다. 또는 nuguard redteam catalog-export으로 내보낸 카탈로그에서 시나리오별로 enabled: false를 설정할 수 있습니다.
Apache 2.0](../LICENSE).
문서(Docs):