Launch HN: Datafruit (YC S25) – DevOps를 위한 AI

안녕하세요 HN! 저희는 Abhi, Venkat, Tom, 그리고 Nick이며, AI DevOps 에이전트인 Datafruit (https://datafruit.dev/)를 구축하고 있습니다. 저희는 DevOps를 위한 Devin과 같습니다. Datafruit에게 클라우드 비용 지출을 확인하거나, 느슨한 보안 정책을 찾거나, IaC (Infrastructure as Code)를 수정하도록 요청할 수 있으며, 배포 표준, 설계 문서 및 DevOps 관행 전반에 걸쳐 추론할 수 있습니다.

데모 영상: https://www.youtube.com/watch?v=2FitSggI7tg.

현재 저희는 Datafruit와 상호작용하기 위한 두 가지 주요 방법을 제공합니다:

(1) 자동화된 인프라 감사 (automated infrastructure audits) — 에이전트가 주기적으로 환경을 스캔하여 비용 최적화 기회를 찾고, 인프라 드리프트 (infrastructure drift)를 감지하며, 규정 준수 요구 사항에 따라 인프라를 검증합니다.

(2) 채팅 인터페이스 (웹 UI 및 Slack을 통해 사용 가능) — 에이전트에게 질문하여 실시간 통찰력을 얻거나, 비용 이상 징후 조사, 보안 태세 검토, 또는 IaC 리소스에 변경 사항 적용과 같은 작업을 직접 할당할 수 있습니다.

FAANG 및 다양한 고성장 스타트업에서 근무하며, 저희는 인프라 작업이 전통적인 소프트웨어 엔지니어링보다 종종 더 방대한 양의 컨텍스트 (context)를 필요로 한다는 것을 깨달았습니다. 할당된 모든 작업에서 비즈니스 결정, 코드베이스, 그리고 클라우드 자체가 모두 매우 중요합니다. 에이전트의 성공을 극대화하기 위해 저희는 상당한 수준의 컨텍스트 엔지니어링 (context engineering)을 수행합니다. 환각 (hallucination)을 일으키지 않는 것이 매우 중요합니다!

저희에게 놀라울 정도로 잘 작동한 한 가지는 특정 도구 호출 (tool calls)과 해당 전문 분야에 대한 문서에 접근할 수 있는 특화된 서브 에이전트 (sub-agents)를 갖춘 멀티 에이전트 시스템 (multi-agent system)입니다. 에이전트들은 다른 에이전트가 해당 작업에 더 전문화되어 있다고 판단될 때 서로에게

인프라(Infrastructure)는 아마도 모든 소프트웨어 조직에서 가장 미션 크리티컬(mission-critical)한 부분일 것이며, 안전을 유지하기 위해 매우 강력한 가드레일(guardrails)이 필요합니다. 언어 모델(Language models)은 아직 변경 사항을 직접 수행하도록 신뢰할 수 있는 단계에 도달하지 못했습니다(저희는 Claude Code와 AWS CLI 조합이 인프라를 다운시킨 사례가 있는 스타트업 몇 곳과 이야기를 나누었습니다). 현재 Datafruit는 귀하의 인프라에 대해 읽기 전용(read-only) 액세스 권한만 받으며, 귀하의 IaC(Infrastructure as Code) 리포지토리에 대한 풀 리퀘스트(pull requests)를 통해서만 변경을 수행할 수 있습니다. 또한 에이전트는 샌드박스(sandboxed) 가상 환경에서 작동하므로, 원한다 하더라도 클라우드 CLI 명령어를 직접 작성할 수 없습니다!

LLM(Large Language Models)이 상당한 가치를 더할 수 있는 부분은 클라우드 비용을 잡아먹고 마감 기한을 늦추는 지속적인 운영 비효율성, 즉 작지만 긴급한 운영(ops) 업무를 줄이는 데 있습니다. Datafruit가 귀하의 환경을 인덱싱(index)하고 나면, 다음과 같은 요청을 할 수 있습니다:

"@User에게 24시간 동안 analytics S3 버킷에 대한 쓰기 권한을 부여해줘"
-> 임시 IAM 역할을 생성하고, 최소 권한(least-privilege) 자격 증명을 전송하며, 내일 자동으로 권한을 회수합니다.
"다운타임 없이 시크릿(secret)을 교체할 수 있도록 이 시크릿이 어디에서 사용되는지 찾아줘"
...

저희는 관리형(managed) 버전에 대해 단순한 구독 모델을 적용하고 있지만, 고객의 클라우드를 직접 사용하는 BYOC(bring-your-own-cloud) 모델도 제공합니다. 데이터가 귀하의 VPC(Virtual Private Cloud)를 벗어날 수 없는 엔터프라이즈 고객을 위해, Datafruit의 모든 기능은 Helm 차트를 사용하여 Kubernetes 상에 배포될 수 있습니다.

당분간은 저희가 고객의 클라우드에 제품을 직접 설치해 드리고 있습니다. 아직 셀프 서비스(self-serve) 형태로는 존재하지 않습니다. 결국 그 단계에 도달하겠지만, 그전까지 관심이 있으시다면 founders@datafruit.dev로 이메일을 보내주시면 감사하겠습니다.

여러분의 의견을 듣고 싶습니다! 만약 클라우드 인프라 관련 업무를 하고 계신다면, 에이전트에게 맡기고 싶은 업무가 어떤 종류인지 알려주시면 저희에게 큰 도움이 됩니다.