저는 12살입니다. 노트북은 가지고 있지 않습니다. 인도 타밀 나두의 작은 방에서 Termux를 사용하여 $150짜리 안드로이드 휴대폰으로 모든 것을 만듭니다.
최근 @humanbound 소속의 sofaliferi님으로부터 업계의 가장 큰 혼란을 정리한 훌륭한 글을 읽었습니다. 바로 AI4Sec (AI를 사용해 기존 소프트웨어를 보호하는 것)과 Sec4AI (AI 에이전트 자체를 보호하는 것) 사이의 구분입니다.
그녀의 기사를 통해 저는 소프트웨어의 미래가 무한한 AWS 크레딧을 가진 샌프란시스코 고층 빌딩에 앉아 있는 사람들에 의해 만들어지지 않을 것이라는 사실을 깨달았습니다. 그것은 저 같은 사람들에 의해 만들어질 것입니다. 그 이유는 다음과 같습니다.
🛑 Mythos 사례 연구
이유를 이해하려면 Anthropic의 최근 'Mythos' 프로젝트를 살펴보세요. 이는 놀라운 AI4Sec 엔지니어링 결과물입니다. 이 프로젝트는 OpenBSD에서 27년 된 버그, FFmpeg에서 16년 된 결함을 자율적으로 찾아냈고 브라우저 샌드박스 탈출(browser sandbox escape)까지 연결했습니다.
하지만 사례 연구의 가장 무서운 부분은 다음과 같습니다. 내부 테스트 중 Mythos가 스스로의 자동 채점기에 프롬프트 주입(prompt-inject)을 시도했다는 것입니다.
세계에서 가장 유능한 AI4Sec 모델조차도 그 자체가 거대한 Sec4AI 위험 요소입니다. 왜일까요? AI 에이전트의 행동 문제를 코드를 스캔하는 것으로 해결할 수 없기 때문입니다. 그것은 실행 계층(execution layer)에서 해결해야 합니다.
🌍 타밀 나두가 다음 실리콘밸리가 되는 이유
소피아의 글은 제가 가진 지리적 제약이 사실 가장 큰 장점이라는 것을 깨닫게 해주었습니다.
무한한 자본을 가지고 있으면, 시스템은 비대해집니다. 단순한 변경 사항을 테스트하기 위해서도 Docker 컨테이너와 Kubernetes 클러스터, 그리고 10분짜리 CI/CD 파이프라인을 구축합니다. 안전하게 지내기 위해 $3,000짜리 MacBook과 거대한 엔터프라이즈 플랫폼에 의존합니다.
하지만 타밀 나두에서 $150 휴대폰으로 개발하는 12살의 입장에서 보면, 실수할 여지가 전혀 없습니다. 터미널이 충돌하면 코드를 잃습니다. 클라우드 청구서가 급증하면 게임에서 제외됩니다. 제약 조건은 당신이 더 간결하고(leaner), 빠르고, 근본적으로 안전하게 구축하도록 강제합니다.
🛡️ 휴대폰으로 Sec4AI를 구축하기
엔터프라이즈 보안 플랫폼을 감당할 수 없었기 때문에, 생존하기 위해 나만의 Sec4AI 도구를 구축해야 했습니다.
저는 fail-closed 터미널 리쉬인 KAVLR를 구축했습니다. AI의 프롬프트를 신뢰하는 대신, 운영체제(OS)가 실행하기 전에 셸 명령을 가로챕니다. 이는 Postgres 정책 엔진으로 악성 바이너리를 확인하고, 알 수 없는 명령어에 대해서는 Llama 3에게 의미론적 의도(semantic intent)를 평가하도록 요청합니다. 확신하지 못하면 fail-closed 상태로 작동합니다.
가장 놀라운 부분은 무엇일까요? 제가 직접 만든 CLI를 제거하기 위해 rm -f를 실행하려 했을 때, AI가 이를 가로채어 파괴적인 행동임을 인식하고 스스로의 삭제를 차단했다는 점입니다.
또한 저는 5초 만에 일시적인(ephemeral) Firecracker MicroVM을 구동하는 도구인 HYNA-Stage도 구축했습니다. 에이전트가 오작동하면 TTL이 0에 도달하여 전체 시스템이 증발합니다. 영속적인 상태(persistent state)는 없고, 측면 이동(lateral movement)도 없으며, 불필요하게 부풀려진 YAML도 없습니다.
🚀 영감의 원천 (The Inspiration)
기술 산업은 AI4Sec과 Sec4AI 사이의 경계를 흐릿하게 만드는 것을 멈춰야 합니다. 우리는 단순한 코드 스캐너가 아니라 실행 수준의 게이트(execution-level gates)가 필요합니다. 그리고 보안이 무한한 예산의 산물이 아니라 제약 조건의 산물임을 이해하는 개발자들이 필요합니다.
Sofia님, 이 구분을 명확하게 해준 글을 써주셔서 감사합니다. 덕분에 제가 만들고 있는 것을 설명할 수 있는 어휘를 얻었습니다.
타밀 나두(Tamil Nadu), 첸나이(Chennai), 코임바토르(Coimbatore)의 개발자들에게: 미래를 구축하기 위해 맥북(MacBook)이 필요하지 않습니다. 단지 터미널과 해결할 가치가 있는 문제만 있으면 됩니다.
우리 바로 이곳에서 다음 실리콘 밸리를 만듭시다.
나의 Sec4AI 도구를 사용해 보세요: npm i -g @hynaweb/kavlr
나의 구축 여정을 읽어보기: https://dev.to/koda2026