저희가 사이버 보안을 위해 후처리(post-trained)한 오픈 웨이트 모델인 apex-flash-1을 방금 출시했습니다. GPU를 가동하고 실행해 보세요!
저희는 27B 파라미터부터 1T+ 파라미터에 이르는 모델들을 후처리했습니다. 사이버 보안의 독특한 점은 규모로 제로데이(zero-days)를 찾아내는 시스템을 구축할 수 있다면, 돈을 찍어낼 수 있는 기계를 만들었다는 것입니다.
여러분은 공개 버그 바운티(public bug bounties)에서 이를 테스트하고 수익을 창출할 수 있습니다. 저희는 다양한 프로그램에서 총 100만 달러의 바운티를 벌었으며, 현재 HackerOne US 비즈니스 리더보드에서 2026년 1위를 차지하고 있습니다! Apple, Anthropic, Datadog, Ripple, Coinbase 같은 회사들이 저희의 공개(disclosures)에 대해 큰돈을 지불했습니다.
작년은 하네스 엔지니어링(harness engineering)과 시간이 지남에 따라 더 지능적으로 변하는 모델의 흐름을 타고 있었습니다. 저희는 매월 수조 개의 토큰을 처리하는 공격 및 방어 보안 작업을 위한 하네스를 구축했습니다. 네, 수조 개입니다!
이 모든 작업들을 통해, 보안의 미래가 어떤 모습일지 우리에게는 명확해졌습니다.
해킹은 한때 고도의 전문 기술이었고, 하드코어 소프트웨어 엔지니어링과 비슷했습니다. 소프트웨어 엔지니어링은 현재 사무실에서 공장으로 이동하고 있습니다. 보안 역시 같은 변화를 겪을 것입니다.
지난달 Anthropic은 Claude를 오용하는 다양한 위협 행위자들을 어떻게 포착했는지에 대한 보고서를 발표했습니다. 그중 하나가 제 눈에 띄었습니다. 중국의 한 팀이 자동화된 익스플로잇 공장(exploit factory)을 구축했습니다. 이 공장은 목표 시스템의 취약점을 자율적으로 파고들어 악용합니다. 그들의 목표에는 보안 제품, 네트워크 어플라이언스, 정부 기관 등이 포함되었습니다.
저희는 그와 인접한 시스템들을 구축하는 데 충분한 시간을 보냈기 때문에 무엇이 필요한지 알고 있으며, 충격적인 부분은 경제성입니다. 우리와 제가 의존하는 기업을 뚫는 것이 얼마나 적은 비용이 드는지 말입니다.
결론적으로, 보안은 상당 부분 경제학적 문제가 되고 있습니다. 합리적으로 유능한 모델과 하네스에 충분한 컴퓨팅 파워만 있다면, 데이터를 훔치고, 평판을 손상시키고, 때로는 돈까지 빼앗아갈 방법을 찾아낼 수 있습니다. 그리고 이를 달성하는 비용은 매일 떨어지고 있습니다.
이러한 상황이 발생했을 때 던져야 할 올바른 질문은 다음과 같습니다. 비용은 얼마이며, 어떤 결과를 신뢰성 있게 달성하는 데 가장 낮은 비용을 들일 수 있을까요? 여러분은 역량(capability)과 비용의 최적 조합을 가진 스택을 찾아야 합니다. 이것을 사람들이 '파레토 효율적(Pareto-optimal)'이라고 부릅니다.
이것을 알게 되면, 모든 것은 확장(scaling)에 관한 것입니다. 매월 수조 개의 토큰으로, 그다음 주 단위로, 그리고 하루 단위로 확장하는 것이죠. 궁극적으로는 초당 수조 개의 토큰까지입니다.
이를 수행하려면 전체 스택—모델, 하네스(harness), 컨텍스트, 심지어 토큰의 흐름까지—을 소유하고 통제해야 합니다. 여기서 계산을 해보면 경제성이 상상을 초월하게 보이기 시작합니다.
이것은 어떤 모습일까요?
- 여러분과 고객이 중요하게 생각하는 사이버 작업에 대한 평가(evaluations) 구축.
- 신호가 첨부된 독특한 실제 세계 데이터의 파이프라인 구축.
- 특정 조직이나 고객을 위해 스스로 개선할 수 있는 하네스 구축.
- 이러한 학습 내용을 가져와 모델을 개선할 수 있는 후처리 루프(post-training loop) 구축. 더 좋고, 빠르고, 저렴한 모델들로 말이죠.
- 추론 파이프라인(inference pipelines)을 소유하고 토큰의 흐름을 통제하여 모든 GPU 사이클에서 생산되는 가치를 극대화하는 것.
평가에 관해서는: 고객을 위해 AI 제품을 구축하는 회사라면, 자체 평가 시스템을 구축해야 합니다. 실제 업무와 일치하는 내부 평가(internal evals)를 보유하는 것은 엄청난 알파(alpha)입니다. 저희의 경우, 이는 공격 및 방어 보안 작업에 대한 평가입니다.
많은 공개 평가 자료는 여러분이 실제로 중요하게 생각하는 작업을 측정하는 데 좋지 않습니다. 공개 평가는 일반적으로 학계나 데이터 회사에서 나옵니다.
학자들은 제한된 예산과 실제 경제적 업무를 측정할 수 있는 독점 데이터에 대한 접근성이 제한적입니다. 데이터 회사들은 평가 자료를 구축하고, 또한 여러분의 다음 모델이 점수를 '부스트(juice up)'하는 데 도움이 되는 해당 데이터(RL 짐(gyms), 트레이스(traces), 사전 학습 데이터 등)도 판매합니다.
이것이 숨겨진 비밀이며, 모델들이 공개 평가(public evals)에서는 매우 잘 작동하지만 여러분이 중요하게 생각하는 영역에서는 극도로 취약할 수 있는 이유이기도 합니다. 또한 이것이 비공개 평가(private evals)에서 엄청난 알파(alpha)를 창출하는 이유이기도 합니다. 즉, 어떤 모델들이 여러분의 사용 사례에 가장 적합한지 알 수 있다는 것입니다.
사이버 보안 분야에서 인기 있는 공개 평가로는 ExploitGym과 ExploitBench가 있습니다. 저희는 이 평가들이 고객들이 필요로 하는 실제 보안 작업과는 일치하지 않는다고 생각합니다. ExploitBench에서의 일반적인 과제는 알려진 패치가 적용된 Chrome의 자바스크립트 엔진 V8을 가져와 취약점을 악용하는 방법을 찾는 것입니다.
이는 여러분과 제가 사용하는 일상적인 애플리케이션, 그리고 저희 고객들이 구축한 애플리케이션에서 발생하는 보안 문제와는 거리가 멉니다.
저희도 이 평가들로 성능 측정(benchmaxxed)할 수 있었지만, 그렇게 하지 않았습니다. 그리고 이러한 평가들을 사용하여 모델이나 하드웨어(harnesses)를 광고하는 사람들에게 경계심을 가져야 합니다. 직접 측정하여 그것들이 여러분의 사용 사례에 어떻게 적용되는지 확인하십시오.
미래: Opus는 많은 사람들이 신뢰할 수 있는 워크호스(workhorse)라고 생각한 모델입니다. 저에게 있어 Opus 4.1은 기능적이었고 업무를 처리할 수 있었던 최초의 모델이었습니다.
요즘 Qwen, DeepSeek, MiMo, GLM의 flash 모델들도 워크호스로 분류될 수 있습니다. 여기에 후처리(post-training) 루프를 소유하는 것이 결합되면 경제성이 엄청나게 보이기 시작합니다. Opus 가격의 아주 작은 비율로 특정 도메인에서 최첨단 성능을 얻을 수 있는 것입니다.
올바른 데이터 파이프라인과 후처리 루프만 있다면, 여러분의 산업 분야(vertical)에서 지속적으로 개선하고 최신 상태를 유지할 수 있는 지속 가능한 전략을 갖게 됩니다.
그것이 바로 glm-5.3-flash의 후처리 버전인 apex-flash-1에 담긴 베팅이며, 저희는 이미 더 긴 훈련 실행을 준비하고 있습니다.