Molayo

© 2026 Molayo

Zenn헤드라인2026. 06. 28. 09:27

코드 경험이 거의 없는 PMO가 AI 주도 개발로 'AI에게 맡기기 전 안전 체크 CLI'를 만든 이야기

요약

AI 코딩 에이전트에게 작업을 맡기기 전, 리포지토리 내의 위험한 설정이나 지시사항을 정적으로 스캔하는 CLI 도구인 AgentRisk를 소개합니다. 코드 실행 없이 MCP 서버 접속이나 의존성 설치 없이도 보안 위협을 검출할 수 있습니다.

핵심 포인트

  • AI 에이전트용 공급망 보안을 위한 정적 스캔 도구 개발
  • 원격 코드 실행, 권한 있는 Docker, 시크릿 유출 등 위험 패턴 검출
  • 코드 실행 없이 안전하게 리포지토리 및 npm 패키지 스캔 가능
  • 비개발자(PMO)도 AI를 활용해 OSS를 개발할 수 있음을 증명

서론

AI 코딩 에이전트 (AI Coding Agent)를 사용하면, 리포지토리 (Repository)를 읽게 하거나, 툴을 실행시키거나, 설정 파일에 따라 작업하게 할 수 있습니다.

매우 편리한 한편으로, 조금 무섭다고 생각되는 부분도 있었습니다.

예를 들어, 모르는 리포지토리 안에,

  • 외부 스크립트를 다운로드하여 실행하는 설정
  • secret이나 .env를 읽게 하는 지시
  • 승인을 무시하게 만드는 명령
  • 위험한 MCP 서버 실행 설정

이 섞여 있다면 어떻게 될까 하는 불안함입니다.

그래서 AI에게 작업을 맡기기 전에 위험한 설정을 확인하는 CLI인 「AgentRisk」를 만들었습니다.

나의 백그라운드

저는 IT 기업에서 일하고 있지만, 지금까지의 업무는 PMO 계열이 중심이었고 코드를 작성하는 경험은 거의 없었습니다.

반면, AI 툴이나 AI 주도 개발 (AI-Driven Development)에는 강한 관심을 가지고 있어, 최근에는 AI를 사용하여 다양한 앱이나 툴을 만들고 있습니다.

AgentRisk도 그 흐름 속에서 만든 OSS (Open Source Software)입니다.

제 스스로에게 있어 「코드를 짤 수 있는 사람만이 OSS를 만들 수 있다」라는 감각이 상당히 변하게 된 프로젝트였습니다.

AgentRisk란

AgentRisk는 AI에게 리포지토리나 패키지를 열게 하기 전에, 위험한 설정이나 지시가 없는지 확인하는 CLI입니다.

말하자면, AI 시대의 「열기 전 스캔」입니다.

대상은 예를 들어 다음과 같습니다.

.mcp.json
AGENTS.md
SKILL.md

  • Cursor rules
  • Copilot instructions
    package.json

특징은 대상 코드를 실행하지 않는다는 점입니다.

MCP 서버에는 접속하지 않습니다. package script도 실행하지 않습니다. 대상 의존성 (Dependency)도 설치하지 않습니다.

사용법

npm으로 공개되어 있으므로, 설치하지 않고 사용할 수 있습니다.

npx agentrisk scan .

GitHub 리포지토리를 직접 스캔할 수도 있습니다.

npx agentrisk scan https://github.com/owner/repo

npm 패키지도 확인할 수 있습니다.

npx agentrisk scan npm:some-package@1.2.3

위험한 설정이 발견되면, 예를 들어 다음과 같이 BLOCK으로 표시됩니다.

Verdict: BLOCK
CRITICAL
mcp-remote-fetch-exec
...

무엇을 검출하는가

현재는 다음과 같은 패턴을 검출합니다.

  • curl | sh와 같은 원격 코드 실행 (Remote Code Execution)
  • 권한이 부여된 Docker container (Privileged Docker container)
  • shell wrapper를 경유한 MCP 실행
  • unpinned된 npx / dlx 실행
  • secret으로 보이는 환경 변수의 전달
  • secret을 읽게 하는 지시
  • 승인이나 리뷰를 회피하게 하는 지시
  • package.json의 postinstall에 의한 원격 실행

왜 만들었는가

AI 에이전트는 단순히 코드를 생성할 뿐만 아니라, 리포지토리 내의 지시를 읽고, 툴을 실행하며, 로컬 환경에 영향을 주는 조작을 수행하도록 되어 있습니다.

즉, AGENTS.md나 .mcp.json 같은 파일은 AI 시대의 공급망 (Supply Chain)의 일부가 되고 있다고 생각합니다.

그렇기에 AI에게 읽히기 전, 실행시키기 전에, 한 번 정적으로 확인하는 도구가 필요하다고 생각했습니다.

AI 주도 개발에서 느낀 점

저는 원래 엔지니어로서 코드를 작성해 온 것은 아닙니다.

그럼에도 AI와 대화하며 설계하고, 구현하고, 테스트하고, README 작성 및 npm 공개까지 진행할 수 있었습니다.

물론 AI에게 전부 맡기는 것이 아니라, 무엇을 만들 것인지, 무엇을 안전하다고 할 것인지, 어떻게 설명할 것인지를 인간 측에서 결정해야 합니다.

하지만 PMO 계열의 경험밖에 없는 저라도 AI를 사용하면 OSS를 형상화할 수 있다는 실감을 얻었습니다.

앞으로 하고 싶은 일

  • 검출 규칙 확충
  • 실례 기반의 corpus 추가
  • false positive (오탐) 개선
  • GitHub Actions에서의 사용 편의성 개선
  • MCP/AI 에이전트 주변의 리스크 정리

마치며

AgentRisk는 AI 에이전트를 안전하게 사용하기 위한 작은 게이트입니다.

아직 초기 버전이지만, AI에게 미지의 리포지토리를 읽히기 전의 확인 용도로 사용해 주신다면 기쁘겠습니다.

Discussion

AI 자동 생성 콘텐츠

본 콘텐츠는 Zenn AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0