Show HN: LLM 애플리케이션용 오픈 소스 실시간 데이터 프레임워크
요약
Lightspeed에서 개발한 새로운 오픈 소스 실시간 데이터 프레임워크인 Tensorlake는 LLM 애플리케이션을 위한 강력하고 안전하며 상태 유지(stateful)가 가능한 샌드박스를 제공합니다. 이 프레임워크는 에이전트의 장기 실행 세션, 파일 시스템 접근, 복잡한 도구 사용 등 다양한 시나리오에서 격리된 컴퓨팅 환경을 제공하여 기존 플랫폼들이 강제로 트레이드오프를 만들었던 문제를 해결합니다. 특히, 샌드박스를 통해 에이전트 자체를 독립적인 운영체제처럼 실행하거나(Agent Harness), 위험도가 높은 도구 호출에만 임시로 사용함으로써(Isolated Tool Execution) 시스템의 무결성과 데이터 격리를 보장하며 최고의 성능을 자랑합니다.
핵심 포인트
- **상태 유지 컴퓨팅 (Stateful Compute):** 에이전트가 중단되었다가 나중에 정확한 상태에서 재개할 수 있도록 지원하여 장기 실행 작업에 적합합니다.
- **격리된 환경 제공:** 샌드박스를 통해 에이전트 자체, 도구 호출 등 모든 작업을 메인 애플리케이션 서버와 완전히 분리하여 시스템 무결성과 데이터 보안을 극대화합니다.
- **최고의 성능과 속도:** Vercel이나 E2B보다 빠르며, SQLite 및 파일 I/O 벤치마크에서 최고의 성능을 입증했습니다.
- **다양한 사용 사례 지원:** 에이전트 개발(Agent Harness), 코드 실행기(Code Interpreter), 브라우저 도우미 등 LLM 애플리케이션의 모든 복잡한 요구사항을 충족합니다.
Lightspeed AI 네이티브 샌드박스.
지속적인 에이전트 루프를 위한 상태 저장(Stateful) 컴퓨팅과 격리된 도구/코드 실행을 제공합니다. 실행 중간에 일시 중지했다가 나중에 정확히 그 상태에서 재개할 수 있습니다.
import { Sandbox } from "tensorlake";
async function main() {
const sbx = await Sandbox.create();
const result = await sbx.run("/bin/sh", { args: ["-c", "npm install && npm run build"] });
console.log(result.stdout);
}
main();
다른 샌드박스는 트레이드오프를 강요합니다. 우리는 그 어떤 것도 만들지 않습니다.
02 / 06
에이전트 하네스(agent harnesses) 실행용 샌드박스.
python · typescript
격리되고 상태를 유지하는 컴퓨터 내부에서 에이전트를 직접 실행합니다.
파일, bash, 패키지 및 작업 상태가 필요한 브라우징 에이전트, 리서치 하네스(research harnesses), 장기 실행 세션의 경우 샌드박스를 사용해야 하며, 앱 서버에서 실행하는 것이 아닙니다.
에이전트에게 앱 서버 런타임을 공유하는 대신 자체 파일 시스템, 셸, 패키지 및 프로세스를 제공합니다.
샌드박스는 비활성 상태일 때는 잠들고(sleeps), 호출되면 즉시 깨어납니다(wakes instantly).
VM 환경에서 Near-SSD 속도를 제공하며, Vercel보다 2배 빠르고 E2B보다 5배 빠릅니다.
코드를 컴파일하고, 데이터베이스를 실행하고, 5GB 파일을 처리할 수 있습니다. 모든 Linux 스택을 가져올 수 있습니다.
// 격리된 샌드박스 내부에서 Claude Code 에이전트 실행
import { Sandbox } from "tensorlake";
const sbx = await Sandbox.create();
await sbx.exec("npm i -g @anthropic-ai/claude-agent-sdk");
await sbx.exec(
"claude -p 'Refactor src/**/*.ts for stricter types'"
);
03 / 06
가장 빠른 샌드박스 파일 시스템.
fio · sqlite · p50
Tensorlake에서 Vercel, E2B, Daytona, Modal을 대상으로 발행한 SQLite 벤치마크(benchmark) 결과, Tensorlake가 기본(default), fsync, 대규모 데이터셋 실행 모두에서 가장 빠른 성능을 보였습니다. 벤치마크 설정: 2 vCPU / ~4 GB 샌드박스, 3회 실행.
04 / 06
도구 실행용 격리 환경(Isolated execution environments for running tools).
ephemeral · per-call
도구가 위험하거나 무거운 실행을 필요로 할 때만 격리된 샌드박스를 생성합니다.
코드 인터프리터, 브라우저 도우미, 하네스 자체 내부에 신뢰할 수 없는 코드를 실행해서는 안 되는 도구 호출 에이전트의 패턴입니다. 하네스는 외부에 두고, 호출(call)마다 샌드박스를 구동합니다.
코드, 브라우저 또는 시스템 작업을 별도의 샌드박스에서 실행하여 메인 에이전트가 절대 자신의 런타임을 공유하지 않도록 합니다.
예측 가능한 처리량(Predictable throughput)을 의미하므로, 수천 개의 세션이 작업 중간에 있더라도 새로운 세션은 즉시 구동됩니다.
모든 세션은 자체 샌드박스를 가지므로 신뢰할 수 없는 코드가 시스템 무결성(system integrity)을 건드리거나 세션 간 데이터를 유출할 수 없습니다.
호드웨어 가상화 경계가 호출마다 적용됩니다. LLM이 샌드박스에서 탈출하여 사용자의 데이터에 접근하는 것을 막습니다.
// 코드-실행용으로 Tensorlake 샌드박스를 사용하는 Claude 에이전트
AI 자동 생성 콘텐츠
본 콘텐츠는 HN Claude Code Search의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기