AI 에이전트 안전 도구의 이름을 변경하고 팀 대시보드를 추가했습니다 — 이러한 결정의 배경

몇 달 전, 저는 AI 코딩 에이전트(AI coding agents)를 위한 파일 와처(file watcher)를 구축하는 것에 대해 글을 썼습니다. 제가 해결하려 했던 문제는 다음과 같았습니다: Claude Code나 Codex를 원격으로 실행할 때, 에이전트가 예상치 못한 파일을 수정하고, 사용자가 이를 알아차렸을 때는 이미 변경이 완료된 상태라는 점이었습니다.

그 이후로 몇 가지 변화가 있었습니다.

상황이 바뀌었습니다
저는 하루 중 대부분의 시간을 컴퓨터 앞을 떠나 있어야 하는 계약직 업무를 하고 있습니다. 여전히 저만의 프로젝트들 — 비치 플래그 대시보드(beach flag dashboard), 몇 가지 내부 도구들 — 를 유지하고 싶지만, 몇 시간 동안 터미널 앞에 앉아 있을 수는 없습니다. 그래서 저는 AI 에이전트를 더 자율적으로 실행하고, 원격으로 확인하며, 직접 코드를 짜는 개발자보다는 가벼운 PM(Project Manager)처럼 에이전트를 관리하는 실험을 해왔습니다.

이러한 변화는 도구에 요구하는 사항을 바꾸어 놓았습니다. 단순히 "위험한 일이 발생하면 알려줘"가 아니라, "내가 자리를 비운 동안 여러 프로젝트에 걸쳐 에이전트가 무엇을 했는지 휴대폰으로 확인하고 싶다"로 바뀌었습니다.

그 이후 구축한 것들
이제 이 도구는 macOS의 launchd를 통해 실행되는 지속적인 백그라운드 데몬(daemon)을 갖추고 있습니다. 이 데몬은 로그인 시 시작되어 활성 세션 동안뿐만 아니라 설정된 디렉터리를 영구적으로 감시합니다. 민감한 내용(.env, 키, CI 설정, CLAUDE.md와 같은 에이전트 메모리 파일)이 변경되면 이벤트를 기록하고, Keep/Rollback(유지/롤백) 버튼이 포함된 Telegram 메시지를 전송합니다.

더 큰 추가 사항은 팀 대시보드(team dashboard)였습니다. 데몬이 실행 중인 모든 기기의 이벤트가 중앙 서버로 동기화됩니다 — 저는 제 서버를 Railway에 배포했습니다. 브라우저를 열고 토큰을 입력하면 각 기기가 무엇을 감지했는지 프로젝트와 시간 범위별로 필터링하여 볼 수 있습니다. 두 대의 기기로 테스트해 보았으며 제가 희망했던 대로 작동합니다.

또한 메모리 파일 스캐너(memory file scanner)를 추가했습니다. CLAUDE.md 또는 .cursorrules가 변경되면, 콘텐츠를 스캔하여 "이전 지침을 무시하라(ignore previous instructions)"와 같은 프롬프트 인젝션(prompt injection) 패턴이나 의심스러운 base64 문자열을 찾아냅니다. 만약 무언가를 발견하면 경고 수준을 CRITICAL(심각)로 격상합니다. 제 워크플로우에서 에이전트 메모리 파일을 더 많이 사용하기 시작하면서 이 기능이 중요하다고 느꼈습니다.

이름 변경
이 도구의 이름은 AgentGuard였습니다.

GoPlus Security라는 회사에서도 스킬/플러그인 보안에 집중하는 AgentGuard라는 제품을 보유하고 있습니다. 관점은 다르지만, 이름이 겹치는 것은 혼란을 줄 수 있었습니다. 더 나은 이름을 찾기 위해 시간을 들인 끝에 Ilum이라는 이름에 도달했습니다. 이는 Star Wars에서 kyber crystals (카이버 크리스탈)이 형성되어 Jedi (제다이)를 기다리는 행성 이름입니다. 무언가 잘못되지 않는 한 조용히 지켜보며 간섭하지 않는 무언가에 어울리는 이름이라고 느꼈습니다.

pm package (npm 패키지)는 ozilum입니다.

현재 상태
이 프로젝트는 오픈 소스(open source)이며, 초기 단계이고, 제가 주요 사용자입니다. 팀 대시보드(team dashboard)는 작동하지만 기본적인 수준입니다. 메모리 스캐너(memory scanner)는 명백한 패턴은 잡아내지만 정교하지는 않습니다. 저는 AI 에이전트(AI agents)를 정기적으로 실행하며 에이전트가 무엇을 하고 있는지에 대한 가시성(visibility)을 원하는 개인 개발자와 소규모 팀을 찾고 있습니다.

만약 여러분이 AI-native (AI 네이티브)한 무언가를 구축하고 있으며 어느 정도의 자율성(autonomy)을 가진 에이전트를 실행하고 있다면, 무엇이 부족한지, 무엇이 잘못되었는지, 무엇이 불필요한지에 대해 진심 어린 피드백을 주시면 감사하겠습니다.

npm install -g ozilum
GitHub: github.com/Osva2023/AgentGuard