LocalScribe AI: 영수증 및 청구서용 개인 로컬 우선 AI 비서

저는 LocalScribe AI를 만들었습니다. 이는 영수증과 청구서를 위한 사적이고 로컬 우선의 AI 비서입니다.

프리랜서와 소규모 사업자는 영수증과 청구서를 정리하는 데 몇 시간을 소비해서는 안 됩니다. 하지만 민감한 금융 문서를 외부 AI 서비스로 전송하는 것은 항상 바람직하지 않으며, API 비용이 쌓일 수 있습니다.

그래서 저는 로컬에서 실행되는 AI 기반 문서 정리 도구인 LocalScribe AI를 만들고 있습니다.

기능:

• 영수증 및 청구서에서 정보를 추출합니다.
• 지출을 분류합니다.
• 사용자 검토가 필요한 불확실한 필드를 표시합니다.
• 기록을 검색 가능한 표로 정리합니다.
• 검증된 데이터를 CSV로 내보냅니다.

오픈 소스 AI를 사용하는 이유:

이 모델은 단순한 사용자 인터페이스 뒤에 숨겨진 API 호출이 아니라 애플리케이션의 핵심 부분입니다. LocalScribe AI는 로컬 추론(local inference)을 사용하여 호환 가능한 오픈 웨이트(open-weight) 모델로 문서를 처리할 수 있으며, 이를 위해 외부 AI API에 의존하지 않습니다.

이는 민감한 데이터에 대한 더 큰 통제권, 요청당 AI API 비용 없음, 그리고 다양한 모델을 실험할 수 있는 유연성을 의미합니다.

물론 트레이드오프(trade-offs)는 존재합니다. 로컬 추론에는 적절한 하드웨어가 필요하며, 추출 정확도는 여전히 테스트가 필요합니다.

누구를 위한 것인가요?

금융 문서를 정리하는 더 간단한 방법을 필요로 하는 프리랜서, 컨설턴트 및 소규모 사업자입니다.

제가 테스트 중인 것:

로컬 AI 워크플로우가 누군가에게 실제로 비용을 지불할 만한 제품이 될 만큼 충분한 시간을 절약해 줄 수 있을까요?

다음 단계는 프로토타입을 실제 사용자에게 제시하여 결과를 측정하고, 그들의 피드백을 바탕으로 개선하는 것입니다.

구축에 사용된 기술: React, Python, FastAPI, Ollama, 오픈 웨이트 언어 모델, OCR, SQLite.

프로젝트가 진행됨에 따라 작동 데모, 소스 코드 및 실제 사용자 피드백을 공유하겠습니다.

개인이 자신의 도구, 데이터 및 AI 사용 경제 구조에 대한 더 많은 통제권을 가질 수 있게 할 때 오픈 혁신(Open innovation)은 중요합니다.