OpenClaw가 GitHub에서 377K 스타를 기록했지만, 아무도 이것이 내부적으로 실제로 무엇을 하는지에 대해 이야기하지 않고 있습니다.

README 파일에는 기술적인 세부 사항이 숨겨져 있기 때문에 제가 자세히 설명해 드리겠습니다:

이것은 클라우드 의존성이 없는 로컬 머신에서 실행되는 개인 AI 에이전트입니다. 아키텍처는 놀라울 정도로 깔끔합니다:

• 핵심 추론 엔진(Core inference engine)은 CUDA와 Metal을 통한 GPU 오프로딩과 함께 llama.cpp 바인딩을 사용합니다.
• 플러그인 시스템은 gRPC를 기반으로 구축되었으며, 모든 도구(웹 검색, 파일 I/O, 캘린더, 이메일)는 별도의 gRPC 서비스로 실행됩니다.
• 메모리 계층은 로컬 의미론적 검색을 위해 sqlite-vss에 저장된 벡터 임베딩과 SQLite를 사용합니다.
• 음성 모드는 Whisper.cpp를 로컬에서 실행하여 전사(transcription) 시 API 호출이 필요 없습니다.

흥미로운 기술적 선택은 바로 플러그인 시스템에 REST 대신 gRPC를 선택했다는 점입니다. 이는 밀리초 단위의 도구 호출, 스트리밍 응답, 그리고 에이전트와 그 도구 간의 양방향 통신을 의미합니다. 대부분의 오픈 소스 에이전트는 REST를 사용하며 지연 시간(latency) 비용을 치릅니다.

한계점: 377K 스타가 377K 사용자라는 것을 의미하지는 않습니다. 설정 과정 자체가 여전히 CLI 중심이며 유용하게 사용하려면 로컬 GPU가 필요합니다. 이 프로젝트에 별점을 준 대부분의 사람들은 실제로 실행해 보지 않을 것입니다.

하지만 진정으로 로컬적이고 사적인 AI 비서(assistant)를 원하는 개발자에게는, 집 밖으로 정보를 전송하지 않는다는 점에서 현재 최고의 선택입니다.