Slothly - 잠자는 동안 작동하는 밤샘 에이전트
테마: 느림의 미학 (Slow and Steady) (국제 슬로스 데이, 10월 20일)
대부분의 AI 에이전트는 빠르게 움직이도록 구축되었습니다. 알림 폭포수처럼 쏟아지고, 항상 연결된 클라우드 호출이 발생하며, 토큰당 과금이 이루어지고, 데이터가 장치 외부로 유출됩니다. 이번 주에는 슬로(sloth) 버전의 제품을 만들어 보았습니다.
제가 만든 것 (What I built)
**Slothly**는 완전히 로컬에서 작동하는 밤샘 AI 에이전트입니다.
- 잠자리에 들기 전에
inbox/ 폴더에 음성 메모나 작성된 메모를 넣습니다.
- 밤새 Slothly가 faster-whisper로 전사(transcribe)하고, (Ollama을 통해 llama3.2를 사용하여) 요약하여 간결한 두 줄짜리 아침 보고서를 만듭니다.
- 보고서를
reports/YYYY-MM-DD.md에 작성하고, 원본 파일을 보관하며, 심지어 마음을 진정시키는 슬로 테마의 하이쿠까지 추가합니다.
- Windows Task Scheduler를 통해 스케줄링되어 실행됩니다.
사용된 기술 스택 (The Stack) (모두 오픈 소스)
오픈 혁신이 중요한 이유 (Why open innovation matters)
- 인터넷 연결이 없는 노트북에서도 작동합니다 — 일회성 모델 다운로드 후에는 모든 것이 로컬에서 실행됩니다. 클라우드 API가 필요 없습니다.
- 데이터를 통제하지 않는 서버에 데이터를 남기지 않습니다 — 메모, 음성 녹음, 요약본은 절대 장치를 벗어나지 않습니다.
- 모델을 미세 조정하거나 교체하고 에이전트 동작을 변경할 수 있습니다 — 오픈 웨이트 모델을 교체하거나 에이전트 로직을 수정하는 것이 제한된 API가 아닌 일급 기능입니다.
- 실행 비용이 들지 않습니다 — 로컬 추론은 제로 API 지출을 의미합니다.
폐쇄형 방식보다 오픈 접근 방식이 더 잘 작동한 경우
폐쇄형 스택(closed stack)은 클라우드 전사(cloud transcription) + 클라우드 LLM + API 키 + 실행당 비용(per-run cost) + 타사 데이터 흐름을 의미했을 것입니다. Slothly를 사용하면 전체 루프(loop)—전사, 요약, 보고—가 오프라인으로, 온디바이스(on-device)에서, 무료로 실행됩니다. 오픈 소스 구성 요소들 덕분에 이 간단한 게으른 자동화(lazy automation)가 폐쇄형 API로는 비실용적이고(그리고 값비싼) 방식으로 가능해졌습니다.
슬로스 철학 (The Sloth Philosophy)
이 에이전트는 느리고 꾸준하게 움직이며, 에너지를 보존하고, 당신이 할 필요가 없는 작업을 대신 수행합니다. 당신은 잠을 자고, 에이전트가 작동합니다. 당신은 두 줄짜리 보고서—그리고 어쩌면 슬로스 하이쿠(haiku)—와 함께 깨어납니다.
저장소(Repo): https://github.com/MAXxDEVIL/Slothly
Hacktoberfest 3주차를 위해 오픈 소스 AI로 제작되었습니다. 🦥