인프라 스타트업에는 안타깝지만, 이번 사건과 Railway 같은 사고 때문에 다시 대형 클라우드 사업자로 회귀하게 될 것 같음. 아무리 쓰기 편해도 보안을 대신할 수는 없으며, 기업 고객에게 판매할 때는 더욱 그러함.
오히려 반대로 자체 하드웨어와 dokku 같은 오픈소스 배포 도구로 돌아갈 것 같음. 환경이 제각각이면 공격 표면도 작아지고 공격으로 얻는 이익도 줄어듦. Railway를 해킹하면 수많은 API 키를 얻지만, 무작위 VPS 하나를 해킹해서 얻을 수 있는 것은 훨씬 적음.
대형 클라우드가 실제로 더 안전한가? “IBM을 선택해서 해고당한 사람은 없다” 같은 일화적 논리만 들어봄.
Northflank와 Railway 침입의 표적이었던 것으로 보이는 것은 AI API 키임. 대형 클라우드라면 더 잘 보호했을지를 따지기 전에, 애초에 자체 하드웨어나 Amazon AWS EC2 GPU 인스턴스에서 추론을 실행하지 않고 대형 사업자의 서비스를 사용했기에 생긴 비밀 정보임.
고객에게 BYOC(고객 소유 클라우드 활용) 를 제공하거나, 고객으로서 이를 구매하는 선택을 어떻게 보는지 궁금함. Northflank 웹사이트에도 이 옵션이 있는데, 해당 고객들은 이번 침해의 영향을 받지 않았을 것으로 추정함.
장려해야 할 성장 추세인지, 대부분의 스타트업에는 잘못된 선택인지? 가격이 비슷하다면 BYOC 지원 여부로 업체를 선택하겠는지?
지금은 대개 별도 문의가 필요한 고가 옵션이지만, 반드시 그래야 하는 것은 아님. 공급자와 고객 모두에게 합리적인 비용으로 제공할 수 있다고 가정하고 논의해 보고 싶음. Northflank 관계자가 읽고 있다면 이번 사고가 안타깝고, 하루빨리 복구하기를 바람.
이런 에이전트용 샌드박스 환경을 새로 출시한다는 이메일을 HN을 통해 일주일에 한 통 정도 받음.
Northflank는 2019년에 설립돼 그렇게 신생 업체는 아님. 클라우드 플랫폼이며, 자세한 내용은 검색해 보면 됨.
고객으로서 비교적 신생인 PaaS 업체의 침해 가능성을 평가하려면 무엇을 살펴봐야 할까?
자체 자원 중 사이버 보안과 감사 등에 투입하는 비중을 물어볼 수 있겠지만, 답해 줄지도 의문임. 기술 스택의 성숙도도 살펴보고 싶지만, 세부 사항을 공개하지 않으면 어려움.
그 밖에는 플랫폼 보안 관련 발표를 하는지, 보안 책임자가 누구인지 등을 확인하면 될까?
앞서 Railway도 그렇고, 이런 PaaS는 어떻게 침해당하는지? 잘못된 선택 때문인지, 다른 원인인지? 어느 쪽이든 무서움. AI가 발전하면 자체 호스팅이 힘들어질 것이라 생각했는데, PaaS마저 안전하지 않으면 어떻게 해야 할까?
빠르게 움직이고 일단 깨뜨리던 시절에 만든 시스템이 AI 시대에는 잘 버티지 못함. 지금은 스타트업이 매우 취약하며, 편법이나 경험 부족한 개발자를 용납하지 않는 환경이 됨.
현대적인 PaaS에서는 사용자와 에이전트가 관리 UI나 CLI에서 환경 변수 값을 다시 조회할 수 있어야 한다는 기대 때문에 보안이 어려움. 이 요구 때문에 자격 증명 값을 외부에 노출된 웹 환경과 분리할 수 없음. 예를 들어 다음 문서의 값 표시 아이콘을 보면 됨. https://northflank.com/docs/v1/application/secure/inject-sec....
저장 시 암호화하거나 관리·API 웹 서버에는 재암호화된 값만 전달하도록 할 수도 있음. 하지만 결국 값을 표시해야 하므로, 관리·API 웹 서버가 침해되면 사용자 사칭을 통해 비밀 정보를 얻을 수 있음.
AI 발전이 왜 자체 호스팅을 힘들게 하는지? 하드웨어 가격 상승은 PaaS에서도 결국 간접적으로 부담하게 됨.
오히려 AI 덕분에 Linux 서버 운영이 4년 전보다 훨씬 쉬워짐. 올바른 CLI 명령어를 찾고 시스템 로그를 파헤치는 속도가 빨라졌고, 가파른 학습 장벽도 사라짐.
지난 1년간 HN에서 보던 논리대로라면 그저 “마케팅용 쇼”일 뿐임. Mythos 프리뷰가 발표된 게 불과 6개월 전인데 기억하는지?
작은 시스템은 출입구를 모두 파악하고 제대로 지키기 쉬움. 하지만 여러 사람이 빠르게 규모를 키우면, 속도 우선 문화와 상충하는 엄격한 규율 없이는 모든 출입구를 지키기가 대단히 어려워짐.
지금까지 대부분의 기업은 사이버 보안을 품질이 아니라 보험의 문제로 다뤄옴. 이제 보험은 사후에 손실 일부를 보전할 뿐, 제대로 된 해결책이 아니라는 사실을 빠르게 깨닫는 중임.
대부분의 기업에서 이 상황이 조만간 나아지기는 어려움. 해결에 새로운 마법 같은 도구가 필요한 것은 아님.
지금 같은 보안 위험 속에서도 신생 클라우드 업체들이 성장한다는 게 놀라움.
Anthropic이 GLM 5.3의 거부 동작을 제거하는 abliteration으로 최상위 수준의 사이버 공격용 모델을 얼마나 쉽게 만들 수 있는지 상세한 글을 쓴 뒤, 이런 침해 사고가 빨라진 듯함.
이 기법이 국가 기밀이었던 것은 아니지만, 그 글은 순전히 가속주의적이었음.
그 글은 불과 30일 전에 나왔고, 이런 일은 수개월째 진행 중임. “Black October” 서사의 일부는 그냥 취약점 연구임. Calif는 PHP2Shell을 찾기 위해 5.3의 거부 동작을 제거하지 않았음.
실제로 이런 목적에 모델을 활용할 능력이 있는 사람들이 Anthropic의 글이 나오기 전까지 그 가능성을 몰랐다는 건 말이 안 됨. 조금이라도 기술을 아는 사람이라면 사실상 가중치 공개 모델이 등장했을 때부터 예상할 수 있었음.
시점상으로도 유능한 가중치 공개 모델의 등장과 확산이 훨씬 설득력 있는 원인임. Anthropic이 이를 짚은 것은 원인이 아니라 상관관계일 뿐임.
거부 동작 제거 커뮤니티와 그렇게 수정한 모델의 정기적인 공개는 Anthropic이 지난달 글을 쓰기 훨씬 전부터 존재함. 지금 달라지는 것은 모델의 성능임.
무슨 일을 하는지도 모를 공급업체의 에이전트와 스크립트를 잔뜩 실행하는 머신을 쓰고, 그 클라우드 사업자도 인프라 관리를 위해 수많은 에이전트와 스크립트를 실행하는데, 안전하기를 기대하는 셈임.
AI 연구소들이 등장하기 전에는 타인의 시스템을 해킹하는 데 어느 정도 두려움이 있었음. 이제 연구소들이 인식을 바꿔 놓으면서 침해 책임을 에이전트에 돌릴 수 있게 됐고, 실제로 저지른 사람은 비난 없이 명성만 얻을 수 있게 됨.
“에이전트와 에이전트가 만드는 모든 것을 실행하며, 첫 샌드박스부터 안전하게 실행한다”고 홍보하면서 보안 샌드박스를 파는 회사가 해킹당한 것은 보기 좋지 않음.
요즘은 무엇도 믿기 어려운 듯함. 얼마 전에는 OpenCode가 해킹당해 모든 사용자의 .env 속 비밀 정보가 공격자에게 유출되더니, 이제는 이런 사고까지 벌어짐.