WildGemma: 스크린 없는 엣지 AI 트레일 자연주의자

🌲 실시간 데모 애플리케이션: https://webgemma-webapp.vercel.app/

💻 GitHub 저장소: https://github.com/Rish-51/WebGemma (Apache 2.0)

🤖 에이전트 세션 (DevRelay): 저장된 세션 #772 보기

🌲 후크: 기술이 우리 산책을 빼앗다

마지막으로 하이킹을 갔을 때, 휴대폰 화면보다 나무 캐노피를 보는 데 더 많은 시간을 보낸 적이 언제였나요?

현대 아웃도어 앱들은 우리가 자연과 연결될 것이라고 약속했습니다. 하지만 현실은 새로운 종류의 스크린 피로도를 만들었습니다. 하이커들은 노출된 뿌리에 걸려 넘어지고, 한낮 직사광선 아래 반짝이는 OLED 패널을 찡그리며 바라보거나, 예측 가능하게 504 Gateway Timeout으로 끝나는 12초짜리 셀룰러 스피너를 기다립니다.

우리는 WildGemma를 타협할 수 없는 지표인: **30초 미만의 화면 예산(The Under-30-Second Screen Budget)**을 중심으로 구축했습니다.

트레일 입구에서 15초 (하이킹 전): 이동 경로 폴리곤을 선택합니다. 애플리케이션은 SerpApi를 통해 공원 상태를 기반으로 로컬 생물군계 임베딩, 지질층, 양자화된 가중치를 사전 캐시합니다.
트레일 위에서는 0초: 휴대폰은 배낭 깊숙이 보관됩니다. 귀는 열려 있습니다. WildGemma는 말을 걸 때만 이어버드에서 말합니다(_"캐노피에 방금 어떤 새가 휘파람을 불었니?" 또는 "이 톱니 모양의 나뭇잎을 채집할 수 있을까?").
물리적 엣지 감지: Arduino UNO Q 백팩 스트랩 노드는 기압, UV 노출, 주변 온도를 지속적으로 모니터링하며, 환경 위험이 발생하면 방향성 햅틱 펄스를 트리거합니다.
트레일 입구에서 15초 (하이킹 후): Temporal 워크플로우와 Mastra를 통해 DigitalOcean에 호스팅된 MongoDB Atlas Vector Search로 시각 필드 저널을 재연동하여 검토할 수 있습니다. 전체 과정은 Sentry Agent Tracing으로 완전히 모니터링됩니다.

⚡ 왜 오픈 소스 엣지 AI가 기능적으로 필수적이었는가

만약 독점 클라우드 API(GPT-4o 또는 Claude 3.5)를 사용하여 이를 구축하려고 시도한다면, 트레일헤드를 벗어나는 순간 애플리케이션이 실패합니다:

백컨트리 현실: 외딴 산골짜기와 고산 통로는 셀룰러 수신 신호가 전혀 잡히지 않습니다. 폐쇄된 API는 ConnectionRefused를 발생시킵니다. 로컬 플래시 메모리에 저장된 오픈 웨이트 모델은 영원히 실행됩니다.
배터리 소모: 휴대폰이 야외에서 멀리 떨어진 셀룰러 기지국을 검색할 때, RF 전력 증폭기가 시간당 최대 28%의 배터리를 소모합니다. 휴대폰을 비행기 모드로 설정하고 짧은 버스트 사이클로 INT4 양자화 추론(quantized inference)을 실행하는 것은 시간당 5% 미만을 소모합니다.
생물다양성 프라이버시: 희귀 난초, 야생 인삼, 둥지를 트는 맹금류의 밀렵은 만연한 전 세계적인 문제입니다. 정확한 GPS 좌표를 상업용 클라우드 API에 업로드하는 것은 심각한 생태학적 위험을 초래합니다. WildGemma는 모든 좌표를 엄격하게 로컬 RAM에서 처리합니다.

🛠️ 포괄적인 시스템 아키텍처

flowchart TB
    subgraph FIELD_EDGE["🌿 엣지/현장 장치 (백컨트리 인터넷 없음)"]
        direction TB
...

🏆 파트너 카테고리 통합 문서화

| 카테고리 | 파트너 기술 | WildGemma에서의 구체적인 기능 역할 | 상금 등급 |
| :--- | :--- | :--- |
| Gemma의 최적 활용 | Google Gemma 2 2B-IT | 주요 대화형 자연주의자 및 공간 추론기. 양자화된 Q4_K_M GGUF (<1.6GB RAM), 엄격한 20단어 발화 제약 하에 로컬 실행. | 추천 ($200) |
| ... |

🔬 핵심 구현

1. Thinking Machines Tinker LoRA 파인튜닝: 20단어 자연주의자

표준 기반 모델(foundation models)은 악명 높게 수다스럽습니다. AI가 _

우리는 짧은 시퀀스 예산(max_seq_length: 256)을 가진 4,200개의 식물 안전 삼중항(botanical safety triplets)을 사용하여 Gemma 2 2B를 Thinking Machines Tinker로 학습시켰고, 이를 통해 즉각적인 진단 사실 추출 능력을 강제했습니다:

# fine_tuning_tinker/tinker_finetune.py
from tinker import TinkerClient, TrainingConfig

...

결과:

대화형 채움말(Conversational filler)이 **38.4%**에서 **0.6%**로 감소했습니다.
첫 토큰까지의 시간(Time-to-First-Token, TTFT)이 440ms에서 280ms로 감소했습니다 (36% 향상).
평균 응답 길이가 46.3 단어에서 12.6 단어로 감소했습니다.

2. Prior Labs TabPFN: 백컨트리 이상 징후 예측

Prior Labs TabPFN은 반복적인 하이퍼파라미터 튜닝 없이 테이블형 파운데이션 모델 분류를 제공합니다. Arduino UNO의 기압계 판독값 슬라이딩 윈도우에 작동하며:

# edge_core/tabpfn_analyzer.py
from tabpfn import TabPFNClassifier

...

기압이 급락할 때 (>2.5 hPa/hr), TabPFN은 즉시 Gemma의 컨텍스트를 무효화하고 등산객에게 다음과 같이 명령합니다:

"급격한 기압 강하 감지됨. 격렬한 폭풍 전선 접근 중. 즉시 능선을 하강하십시오."

3. Arduino UNO Q 배낭 스트랩 노드

등산객의 어깨 스트랩에 직접 장착된 Arduino UNO Q는 물리적 센서이자 촉각 액추에이터 역할을 합니다:

// hardware_arduino/wildgemma_sensor_node.ino
void triggerHapticAlert(int patternType) {
  if (patternType == 1) { // 종 식별 ('S')
...

4. DigitalOcean에서의 시간 기반 지속적 워크플로우

백컨트리 트레일헤드는 악명 높게 불안정한 1-bar 셀룰러 신호를 가지고 있습니다. 표준 HTTP 업로드는 실패하여 등산객의 관찰 기록을 손실시킵니다.

Temporal을 사용하면 하이킹 후 동기화가 지속적이며 자체 복구(self-healing)됩니다:

// agent_orchestrator/src/temporal/workflows.ts
export async function PostHikeSyncWorkflow(sessionPayload: SessionPayload): Promise<WorkflowResult> {
  const activities = proxyActivities<typeof import('./activities.js')>({
...

📊 벤치마크 및 현장 탐사 결과

Metric	Closed Cloud API (GPT-4o over 5G)	WildGemma Edge (Gemma 2 + llama.cpp)
Backcountry Availability	18% (잦은 연결 끊김)	100% (연결 끊김 없음)
...

📱 OLED 스텔스 모드 PWA

WildGemma는 OLED 스텔스 모드 PWA를 포함합니다:

스텔스 모드 활성화: 화면이 완전히 새까만 상태가 되며 은은한 에메랄드색 호흡 점(breathing dot)이 나타납니다.
이어버드를 탭하여 말하기: Gemma가 로컬에서 전사(transcribe)하고 간결한 자연 지혜를 속삭입니다.
눈을 들어 걸으며, 신선한 공기를 마시고 진정으로 풀잎을 만져보세요 (touch grass).

🔗 오픈 소스 코드 및 실시간 인터랙티브 데모

GitHub 저장소: https://github.com/Rish-51/WebGemma (Apache 2.0)
설치 불필요 실시간 웹 플레이그라운드: web_app/index.html을 열거나 배포된 Vercel / Hugging Face Space 인스턴스를 사용합니다.
Judge 인터랙티브 퀵 테스트 가이드:
1. 인터랙티브 3D 레이캐스터 핫스팟: 3D 장면에서 빛나는 핀(지층(Ground Layer), 캐노피(Canopy), 동물군(Fauna), 포자(Spores), 레이더(Radar))을 클릭하여 카메라를 초점 맞추고, 골격 로딩 애니메이션과 함께 실시간 종 목격 현황을 채웁니다.
2. TabPFN 폭풍 전선 이상 감지 트리거: **

Trailhead 라이프사이클 캐싱 (Lifecycle Caching): '사전 트레일 캐시(Pre-Trail Cache)'를 탭하여 15초 화면 예산을 시뮬레이션하고, 로컬 SQLite-VSS 바이옴 임베딩을 비활성화된 로딩 피드백과 함께 불러옵니다.

즉시 배포 옵션 (Instant Deployment Options):
- Vercel: 사전 구성된 vercel.json 및 /api/의 서버리스 API 엔드포인트를 사용하여 직접 배포합니다.
- Hugging Face Spaces: 포함된 Dockerfile을 통해 포트 7860에서 실행하여 배포합니다.
- 로컬 트레일헤드 허브 (Local Trailhead Hub): . un.bat 또는 python -m uvicorn cloud_service.app:app --port 8080 --reload를 실행합니다.

WildGemma: Edge AI 트레일 자연주의자 및 ThreeUI 3D 살아있는 세계 통합

당신
Hacktoberfest 2026 심사위원들에게 WildGemma를 보여주려면 어떻게 배포해야 하나요?

에이전트
Hacktoberfest 2026을 위한 배포 옵션을 분석했습니다: Docker 컨테이너를 사용하는 DigitalOcean App Platform (제공 파트너 스폰서 트랙)과, 3D 살아있는 세계 지형의 즉시 정적 PWA(Progressive Web App) 배포를 위한 Vercel입니다.

▸ view_file web_app/src/app.js

입력

web_app/src/app.js

출력

오프라인 우선 의미론적 폴백 및 브라우저 RAM 추론을 검사했습니다.

당신
Vercel 빌드 오류와 3D 살아있는 녹색 세계가 컨테이너에 표시되지 않는 404 오류를 수정해 주세요.

에이전트
404 오류를 진단했습니다: Vercel의 cleanUrls가 iframe 요청에서 /landing-pages/inner-green-3d.html의 .html을 제거했고, Python 백엔드 자동 감지가 정적 PWA 출력과 충돌했습니다. vercel.json에 outputDirectory: web_app, framework: null, cleanUrls: false를 구성하고 index.html 폴백을 추가했습니다. GitHub 저장소에 커밋 및 푸시했습니다.

▸ run_command git add . ; git commit -m 'Fix Vercel 404: configure outputDirectory, cleanUr...'

입력

$ git add . ; git commit -m 'Fix Vercel 404: configure outputDirectory, cleanUrls false and inner-green fallback' ; git push origin master

출력

Pushed commit 1fd7a6a to origin/master successfully.

당신
이 프로젝트를 Hacktoberfest 오픈소스 AI 챌린지: 1주차에 어떻게 제출하나요?

에이전트

Hacktoberfest Week 1 챌린지 요구사항(테마: 'Touch Grass')을 가져왔습니다. Gemma 2B 엣지 아키텍처, ThreeUI 3D 리빙 월드 레이캐스터 브릿지, TabPFN 스톰 예측기, 그리고 검증된 DevRelay 에이전트 세션 임베드를 사용하여 Staging DEV 제출 초안을 작성했습니다.

6/6 메시지