Show HN: Axilla – LLM 앱을 위한 오픈 소스 TypeScript 프레임워크

Axflow는 강력한 자연어 기반 애플리케이션을 구축하기 위한 모듈들의 집합체입니다. 이 모듈들은 점진적으로 채택될 수 있어, 모듈식이며 확장 가능한 솔루션을 제공합니다. 함께 사용하면 AI 애플리케이션 개발을 위한 엔드투엔드 프레임워크를 형성합니다.

@axflow/models— 강력한 자연어 애플리케이션 구축을 위한 제로 의존성(zero-dependency) 모듈식 SDK입니다. React 훅과 스트리밍 유틸리티가 포함되어 AI 애플리케이션 구축이 매우 쉽습니다.axgen— 데이터를 대규모 언어 모델(LLM)에 연결하기 위한 프레임워크입니다.axeval— LLM 출력 품질을 평가하기 위한 프레임워크입니다.

위 모듈들 외에도, 다음과 같은 모듈들을 개발하고 있습니다:

extract: 임의의 소스에서 문서를 로드, 변환 및 청크(chunking)하는 효율적인 데이터 처리 라이브러리입니다. 벡터 검색을 위해 데이터를 로드하고 전처리해야 하는 애플리케이션에 가장 유용합니다.serve: 모든 LLM 모델(OSS 또는 기타)을 실행하기 위한 서빙 프레임워크입니다. 사용자 제한(throttling), 분석, 로깅 등을 위한 미들웨어 옵션도 제공할 것입니다.finetune: 모델 파인튜닝(fine-tuning)에 중점을 둔 라이브러리입니다.

Axflow는 LLM 작업의 복잡한 패러다임을 관리 가능하고 직관적인 컴포넌트로 분해하는 것을 목표로 합니다. 저희 라이브러리는 코드 우선 접근 방식(code-first approach)을 취하며, 개발자에게 유연성과 제어의 중요성을 강조합니다. 기초 프레임워크로서 Axflow는 개발자가 더 높은 수준의 TypeScript AI 기능과 제품을 원활하게 구축할 수 있도록 힘을 실어줍니다.

여기에 저희 첫 번째 모듈인 axgen이 무엇을 할 수 있는지 보여주는 오픈 소스 UI 예시와 짧은 비디오 워크스루를 첨부합니다.