Llama 3.2와 Python을 사용한 오프라인 오픈 가중치 AI 사이클링 코치 구축

여러분 안녕하세요! 👋

올해의 Hacktoberfest "Touch Grass" 챌린지를 위해, 저는 기술과 야외 활동이라는 두 영역을 연결하면서도 데이터 프라이버시를 최우선으로 하는 무언가를 만들고 싶었습니다.

MeetTouch Grass: Offline AI Cycling Coach는 오픈 가중치 모델을 사용하여 인터넷 연결 없이 커스텀 트레일 경로, 장비 체크리스트 및 안전 계획을 생성하는 경량 Python 유틸리티입니다. 이 프로그램은 전적으로 로컬 기기에서 실행됩니다.

왜 오프라인 사이클링 코치를 구축했을까요?
대부분의 피트니스 및 아웃도어 앱은 클라우드 API, 지속적인 연결성, 그리고 원격 서버에 위치를 추적하는 것에 크게 의존합니다. 셀룰러 서비스가 끊기는 외진 트레일을 달리는 사이클리스트로서, 저는 다음과 같은 기능을 가진 어시스턴트를 원했습니다:

1. 인터넷 불필요: 숲 깊은 곳이나 외진 자갈길에서도 작동합니다.
2. 프라이버시 보호: 개인 경로, 목표 및 데이터를 기기 내에 엄격하게 보관합니다.
3. 현장감 고취: 끝없는 화면 시간보다는 오프라인 탐험에 초점을 맞춥니다.

기술 스택 (The Tech Stack)
빠르고 가볍고 완전히 로컬로 유지하기 위해, 저는 다음을 사용했습니다:
Python (py)을 로직 및 터미널 인터페이스용으로 사용했습니다.
Ollama를 로컬 추론 엔진으로 사용했습니다.
Llama 3.2 (3B)를 기기 내에서 로컬로 실행되는 오픈 가중치 모델로 사용했습니다.

작동 방식 (How It Works)
이 스크립트는 사용자에게 라이딩 위치와 목표를 프롬프트하고, 전문가 수준의 아웃도어 코칭 프롬프트를 구성한 다음, Ollama를 통해 로컬 Llama 3.2 인스턴시에 질의합니다.

핵심 스크립트 (coach.py)의 미리보기를 소개합니다:

import ollama

def generate_cycling_plan():  
print("TOUCH GRASS: LOCAL OFFLINE LLAMA 3.2 COACH \n")

`location = input(

어떻게 생각하시는지 알려주시고, 해커토버페스트(Hacktoberfest)에서 즐거운 코딩(그리고 잔디 만지기) 되세요!