Show HN: 로컬 스크립트에 맞춰진 Llama 3.2 3B 모델
요약
이 글은 다양한 개인 프로젝트들을 소개하며, 로컬 환경에서 AI 모델과 에이전트를 활용하는 실용적인 방법을 보여줍니다. 특히 Llama 3.2 3B와 같은 소형 모델을 로컬 스크립트에 맞추거나, FastAPI/Tailscale 등을 이용해 자체 호스팅 SMS 게이트웨이를 구축한 사례가 주목됩니다.
핵심 포인트
- Llama 3.2 3B 등 소형 LLM을 로컬 환경에 최적화하여 사용 가능합니다.
- FastAPI와 Tailscale을 활용하여 안전하고 비용 효율적인 자체 SMS 게이트웨이 구축이 가능합니다.
- AI 기반 교육 플랫폼(educated.space) 및 꾸란 앱 개발 사례를 통해 실용성을 입증했습니다.
Bilawal Riaz
플랫폼 운영 엔지니어, AI 취미가, 그리고 가끔 작동하는 것들을 만드는 사람.
PetLM: 작은 언어 모델을 가상 애완동물로 가르기
25M 파라미터 모델, 엄격한 작은 DSL, 그리고 WebGPU 또는 WASM으로 로컬에서 실행되는 브라우저 장난감.
구형 Android 폰으로 구축한 자체 호스팅 SMS 게이트웨이
여유분의 Android 폰과 커스텀 FastAPI 릴레이, Tailscale을 사용하여 AI 에이전트로부터 안전하고 비용 없는 문자 메시징을 위한 자체 호스팅 SMS 게이트웨이를 구축하는 방법.
educated.space — AI 기반 교육 자료 생성
AI 기반 K-12 교육 플랫폼. 커리큘럼에 맞춰진 워크시트, 퀴즈 및 정보 시트를 생성합니다. https://educated.space 에서 라이브 중
WhisperX를 사용한 꾸란 오디오 세그먼트 타이밍 수정
WhisperX 강제 정렬(forced alignment)을 사용하여 꾸란 읽기 앱의 일관성 없는 단어 타이밍을 수정한 방법.
PetLM: 작은 언어 모델을 가상 애완동물로 가르기
25M 파라미터 모델, 엄격한 작은 DSL, 그리고 WebGPU 또는 WASM으로 로컬에서 실행되는 브라우저 장난감.
프로젝트들### 구형 Android 폰으로 구축한 자체 호스팅 SMS 게이트웨이
여유분의 Android 폰과 커스텀 FastAPI 릴레이, Tailscale을 사용하여 AI 에이전트로부터 안전하고 비용 없는 문자 메시징을 위한 자체 호스팅 SMS 게이트웨이를 구축하는 방법.
프로젝트들### educated.space — AI 기반 교육 자료 생성
AI 기반 K-12 교육 플랫폼. 커리큘럼에 맞춰진 워크시트, 퀴즈 및 정보 시트를 생성합니다. https://educated.space 에서 라이브 중
프로젝트들### WhisperX를 사용한 꾸란 오디오 세그먼트 타이밍 수정
WhisperX 강제 정렬(forced alignment)을 사용하여 꾸란 읽기 앱의 일관성 없는 단어 타이밍을 수정한 방법.
프로젝트들### QuranZen: 하이브리드 아키텍처 꾸란 앱
React 19, FastAPI 및 하이브리드 데이터베이스 설계를 사용한 풀스택 꾸란 탐색 앱 구축.
프로젝트들### Reluctant Buddha: 형편없는 통찰력을 위한 미세 조정된 LLM
1B LLM을 CPU만으로 실행되는 광기 어린 우주적 개체로 변환하기.
AI 자동 생성 콘텐츠
본 콘텐츠는 HN OpenAI Codex의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기