코딩 에이전트가 기억할 때 호출하는 기능을 두고 세 스타트업이 경쟁 중

세 개의 다른 스타트업이 코딩 에이전트가 무언가를 기억해야 할 때 호출하는 '그것'을 차지하기 위해 경쟁하고 있습니다. Supermemory가 그 자리를 놓고 싸움을 걸었습니다.

Dhravya Shah는 이번 신규 출시를 에이전트 우선(agent-first) API라고 부릅니다. 이름 공간 처리된 경로(namespaced routes), 그리고 원시 JSON 대신 마크다운으로 협상되는 출력(output negotiated as markdown)을 지원합니다. 즉, 모델이 프론트엔드를 위해 구축된 페이로드를 파싱하는 대신, 자신이 읽어 들인 메모리를 바로 사용할 수 있는 형식으로 읽는다는 의미입니다. 솔직히 작은 변화지만, 누가 실제 고객인지 보여줍니다. 채팅 앱을 만드는 개발자가 아니라, API를 호출하고 응답 자체를 파싱하는 모델 그 자체입니다.

Mem0은 이번 사이클에서 Y Combinator, Peak XV, Basis Set의 지원을 받아 시드 및 시리즈 A 단계에서 2,400만 달러를 모금했으며, Agent SDK용 AWS 독점 메모리 제공업체라고 밝히고 있습니다. 자체 수치로는 GitHub 스타가 41개, Q3에만 API 호출이 1억 8,600만 건을 기록하며 전월 대비 약 30% 증가했습니다. Mem0은 UC Berkeley의 AI 연구실에서 펠리시스(Felicis)로부터 1,000만 달러를 받아 분사했으며, 메모리가 운영체제가 RAM을 관리하는 것처럼 페이지 인/아웃되어야 한다는 MemGPT의 아이디어를 기반으로 전체 피치를 구성했습니다. Supermemory의 자체 모금액은 Susa Ventures가 주도한 시드 이전(pre seed) 라운드에서 300만 달러로 더 작았지만, 이미 고객들은 이를 통해 매주 수십억 개의 토큰을 사용하고 있습니다.

자금 조달 금액으로는 알 수 없는 것이 실제로 시스템을 망가뜨리는 부분입니다. 한 빌더는 이번 주 자신의 메모리 레이어 Cloudflare 청구서를 공개했습니다. 81명의 사용자에게 36,000달러가 청구되었는데, 이는 무한 큐 루프(infinite queue loop), 중복 Durable Object 쓰기, 그리고 모든 요청마다 실행되는 KV 리스트 스캔 때문이었습니다. 실수로 81명의 사용자가 하루에 35만 개의 API 호출을 생성했다는 것입니다. 이것이 바로 규모에서 메모리가 가진 실제 비용이며, 청구서가 나올 때까지 아무도 예산을 책정하지 않는 그 밑단 인프라입니다.

저는 시장이 여기에서 승자를 가렸다고 생각하지 않으며, 그렇게 할 필요도 없다고 생각합니다. 모델의 메모리는 이제 인프라가 되었고, 인프라 시장은 모든 것을 차지하는 단일 기업보다는 전문화된 두세 개의 플레이어로 끝나는 경향이 있기 때문입니다.