Consus는 ITAR 및 CUI 규정을 준수하는 인프라를 제공하여 민감 데이터를 다루는 기업들을 위한 LLM 게이트웨이를 구축했습니다. 이 서비스는 OpenAI, Claude 등 다양한 AI 도구와 연결되어, 모든 요청이 법적 규정(FedRAMP High 등)을 충족하는 환경으로 라우팅되도록 보장합니다.
핵심 포인트
ITAR 및 CUI 준수를 위한 LLM 게이트웨이를 제공합니다.
OpenAI 호환 엔드포인트에서 정책 기반의 추론 레이어를 강제합니다.
FedRAMP High 등 미국 정부의 엄격한 보안 기준을 충족했습니다.
항공우주/국방 분야 기업들이 AI 사용에 겪는 규정 준수 문제를 해결합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 HN AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
Launch HN: Consus (YC F24) – 민감 데이터를 다루는 기업을 위한 LLM 게이트웨이
안녕하세요, Hacker News! 저는 Consus의 창립자 Eric입니다. 저희는 모든 AI 요청을 ITAR 제한 및 통제되지 않은 분류 정보(CUI)를 준수하는 인프라로 라우팅합니다. Consus 자체도 ITAR 제한을 충족하며, 최근 410 FedRAMP High 통제를 대상으로 하는 FedRAMP 동등성 감사를 완료했습니다. FedRAMP High는 민감한 비분류 데이터를 처리하는 클라우드 서비스에 대한 미국 정부의 가장 엄격한 보안 기준입니다. 이 데이터가 유출될 경우 심각하거나 치명적인 피해를 야기할 수 있습니다. CUI 정보를 처리하기 위해서는 FedRAMP 동등성 또는 승인을 획득해야 합니다.
데모:
항공우주 및 국방 분야는 급속한 성장을 경험하고 있습니다. 불행하게도, 대부분의 기업들은 필수적인 데이터 보호와 규정 준수 위험 때문에 AI를 사용하는 데 어려움을 겪고 있습니다. 이들 기업이 다른 산업들이 당연하게 여기는 AI 도구를 사용할 수만 있다면 훨씬 더 빠르게 움직일 수 있을 것입니다.
Consus 이전에는 경력 대부분을 항공우주 및 국방 분야에서 보냈습니다. 저는 SpaceX에서 국가 안보 페이로드를 발사했으며, Castelion의 초기 직원 중 한 명이었습니다. 저는 규정 준수라는 빨간 테이프가 기업들이 새로운 기술을 채택하는 것을 어렵게 만들고, 민감한 데이터에 접근하는 공급업체를 신뢰하기 어렵게 만드는 과정을 직접 목격했습니다. 예를 들어, 비민감한 작업에도 어떤 AI 도구도 허용하지 않는 위성 제조업체와 함께 일한 적이 있습니다.
AI가 지난 9~12개월 동안 매우 유용해졌음에도 불구하고, 많은 항공우주 및 국방 기업들이 이를 사용하기를 거부하는 모습에 놀랐습니다. 그들은 AI가 얼마나 도움이 될 수 있는지 알았지만, 모델 제공업체가 자신들의 데이터를 학습할까 봐, ITAR 규정을 위반할까 봐, 또는 실패한 사이버 평가 때문에 새로운 비즈니스를 잃을 위험이 있을까 봐 두려워했습니다. 이 모든 것은 합리적인 두려움입니다.
이러한 문제들 중 일부 또는 전부를 해결하는 방법은 많았지만, 우리는 모든 AI 도구나 워크플로우에 '플러그'할 수 있는 규정 준수(compliant) AI 추론 레이어 구축에 집중했습니다. OpenRouter가 대부분의 도구와 통합되는 것처럼, Consus는 ChatGPT나 Claude 같은 도구, Pi 코딩 에이전트 또는 Open WebUI를 포함한 오픈 소스 도구, 또는 개별 조직에서 구축 및 유지 관리하는 애플리케이션과 연결될 수 있습니다.
항공우주 및 국방(aerospace & defense) 회사 중 모든 주요 GovCloud(AWS, Azure, Google)에 거주하는 곳은 거의 없습니다. ITAR 및 CUI 작업을 위해 최첨단 모델이 법적으로 실행될 수 있는 위치를 매핑했을 때, 각 제공업체는 일부 하위 집합의 모델을 가지고 있었고, 각 모델은 다양한 수준의 규정 준수(compliance)를 달성했습니다. 저희 고객들은 클라우드 제공업체를 기준으로 생각하지 않습니다. 그들은 필요한 데이터 통제와 사용하려는 모델에 대해 생각합니다. 이것이 바로 우리가 규정 준수 접미사(compliance suffix)를 구축한 이유입니다. 내부적으로, 모든 요청은 단일 OpenAI 호환 엔드포인트에 도달하며, 여기서 키가 검증되고 추론에 어떤 것이 닿기 전에 정책이 강제됩니다. 모든 모델 이름에는 gpt-5.6-sol:fedramp-high 또는 claude-opus-5-5:itar와 같은 규정 준수 접미사가 포함되어야 하며, 일반적인(bare) 모델 이름은 거부됩니다. 우리는 표준 상업용 엔드포인트로 프록시하지 않습니다.
저희 고객들은 또한 모델의 허용 목록(allowlist)을 구축하고 조직 내 개별 사용자에게 지출 및 모델 제한을 할당할 수 있습니다. 이 모든 것은 팀이 지출, 키, 정책을 관리할 수 있는 Consus 포털을 통해 처리됩니다.
일반적으로 듣는 질문은 AWS GovCloud나 Azure Government를 직접 사용하지 않는 이유입니다. 소규모 팀의 경우, 이러한 플랫폼에 접근하는 것 자체가 어렵습니다. 대규모 조직의 경우, GovCloud가 민감한 데이터를 처리하는 데 필요한 모든 통제 기능을 물려주지는 못합니다. 또한, 모델들이 제공업체별로 분산되어 있습니다: GPT-5.6 Sol은 Azure Government에서만 사용 가능하며, Claude Opus 5.5는 AWS GovCloud의 Bedrock을 통해 서비스됩니다. 만약 두 가지 모두를 원한다면, 고객은 별개의 정부 클라우드 환경 두 개를 구축하고 보안해야 합니다. 저희는 이 모든 것을 하나의 엔드포인트 뒤에 배치하여 고객이 특정 클라우드를 선택할 필요가 없도록 하고, 각 환경의 규정 준수 작업을 처리합니다.
데이터 민감성을 고려하여 Consus는 어떠한 고객 데이터도 저장하지 않습니다. 모든 프롬프트와 완성본은 요청 길이 동안 메모리에만 머무르며, 절대 기록되거나 디스크에 쓰이지 않습니다. 저희 자신과 인프라/모델 제공업체 모두에게서 제로 데이터 보존(Zero data retention)이 엄격하게 적용됩니다. 청구 및 감사 목적으로 각 요청과 응답의 메타데이터는 보관합니다.
Consus는 설계상 셀프 서비스가 아닙니다. ITAR 규정은 저희가 모든 키의 상대방이 누구인지 정확히 알아야 하므로, API 키를 발급하기 전에 모든 조직을 검증하고 계약을 체결합니다. 고객에게는 월 $40/좌석부터 시작하는 규정 준수 비용과 AI 토큰 사용료(원가 기준)를 청구합니다.
저희는 현재 고객들에게 서비스를 제공하고 있으며, 보안 전문가 또는 고도로 규제되는 산업에서 근무하는 개발자/엔지니어의 피드백을 환영합니다!