<p align="center"> <img src="https://raw.githubusercontent.com/rferrari/boar-a

<p align="center"> <img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/assets/boar.png" width="112" alt="BOAR mascot" /> </p> <h1 align="center">BOAR</h1> <p align="center"> <b>인터넷이 안 될 때 작동하는 AI.</b><br /> 전적으로 사용자의 휴대폰에서 실행되며 모든 답변의 출처를 보여주는 오픈 소스 연구 보조 도구입니다. </p> <p align="center"> <a href="https://github.com/rferrari/boar-app/releases/latest"><img alt="Latest release" src="https://img.shields.io/github/v/release/rferrari/boar-app?color=FF7A3D" /></a> <img alt="Android" src="https://img.shields.io/badge/platform-Android-FFB547" /> <img alt="Works offline" src="https://img.shields.io/badge/works-offline-17110D" /> <a href="./LICENSE"><img alt="License" src="https://img.shields.io/github/license/rferrari/boar-app" /></a> </p> <p align="center"> <img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/hero.gif" width="640" alt="BOAR in 10 seconds: set up once, ask anything in airplane mode, get answers with sources" /> </p> <p align="center"> <a href="#get-it">받기</a> · <a href="#how-it-answers">답변 방식</a> · <a href="#measured-on-a-real-phone">벤치마크</a> · <a href="#bounty-requirements">요구 사항</a> · <a href="#docs">문서</a> · <a href="./MANIFESTO.md">선언문</a> </p>

왜 (Why)

검색 및 채팅 보조 도구는 신호를 잃는 순간 작동을 멈춥니다: 비행기 안, 트레일, 국경 통과 지점, 정전 시. BOAR는 작은 언어 모델(language model)과 사용자가 한 번 선택한 지식을 다운로드한 후, 계정, 서버, Google Play Services 없이 비행기 모드에서 답변을 제공합니다.

이 프로젝트는 Vitalik이 검색 기능과 프론티어 모델을 합친 것보다 '절반 이상 좋은' 오프라인 리서치 도구를 요청하면서 시작되었습니다. 이 도구는 주로 디스크에 저장되는 극단적인 전문가 혼합(Mixture of Experts) 방식을 구동합니다. 아직 그런 모델은 존재하지 않기 때문에, BOAR는 두 가지 역할을 합니다: 오늘날 유용한 오프라인 보조 도구이자, 휴대폰이 얼마나 근접할 수 있는지 측정하는 작업대입니다. 저희가 믿는 바는 다음과 같습니다: MANIFESTO.md.

<table> <tr> <td width="33%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/answers-sources.jpg" alt="출처가 표시된 답변을 휴대폰에서 보기"></td> <td width="33%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/offline.jpg" alt="비행기 모드에서 OFFLINE 배지가 표시된 답변"></td> <td width="33%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/drawer.jpg" alt="실시간 RAM 및 디스크 사용량이 표시되는 메뉴: 리서치 세션, 문서, 설정"></td> </tr> <tr> <td><b>출처가 있는 답변(Answers with sources).</b> 인용 부호를 탭하여 정확한 구절을 읽어보세요.</td> <td><b>비행기 모드에서 작동합니다(Works in airplane mode).</b> 헤더에 OFFLINE이라고 표시되며, 답변은 계속 제공됩니다.</td> <td><b>모든 것이 휴대폰에 저장됩니다(Everything stays on the phone).</b> 세션과 문서를 관리하며, RAM 및 디스크 사용량이 실시간으로 표시됩니다.</td> </tr> </table>

안드로이드 우선(Android first). main은 안드로이드 앱입니다: Play Store나 Google 계정 없이 직접 설치할 수 있는 APK 파일입니다. 검색, 패키지, 모델, 측정 및 공유는 하나의 공통 엔진을 사용하며, 그 위에 캠프파이어(Campfire)와 문라이트(Moonlight) 테마로 중급 휴대폰에 맞춰진 앱이 올라가 있습니다 (src/ui-android). 아이폰 앱은 동일한 엔진을 기반으로 ios_android 브랜치에서 구축되었습니다.

온라인에서는 사용하고, 그 이후부터는 오프라인으로

<img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/offline.png" alt="최초 실행 시 모델을 다운로드한 후; 이후에는 채팅, 검색 및 출처가 비행기 모드에서 작동함" />

첫 실행 시 기본적으로 답변 모델인 Qwen3-4B(약 2.5 GB)와 작은 임베딩 모델을 다운로드하거나, RAM 용량이 적은 휴대폰의 경우 소형 버전인 Qwen2.5-1.5B(약 1 GB)를 다운로드합니다. 앱이 필요한 네트워크 사용처는 이것뿐입니다. 네트워크 권한은 사용자가 직접 시작하는 두 가지 상황에만 유지됩니다: 더 많은 모델이나 팩을 다운로드하거나, Hugging Face에서 다른 GGUF 모델을 검색할 때입니다. 채팅 중에도 이 권한이 존재하지만 사용되지 않는 이유: ARCHITECTURE.md.

답변 방식

<img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/how.png" alt="질문은 분류된 후, 로컬 인덱스에서 즉각적(instant), 빠름(fast) 또는 심층 깊이로 답변되며, 출처가 번호 매겨져 표시됩니다." />

라우팅(Routing)은 얼마나 깊게 답변할지 결정하며, 어떤 모델이 일반적인 답변을 작성하는지는 결정하지 않습니다:

• 즉각적(instant) 출처 문장 (LLM 사용 안 함, 1초 미만)
• 압축된 출처를 기반으로 하는 빠른(fast) 답변
• 대형 MoE 또는 여러 번의 처리(

• 내장 기능 (Built in): Wikipedia 기사 외에도 Standard (+1,000 주제) 및 Full (+4,000) 라이브러리가 추가됩니다. Encyclopedia 설정은 50,000개의 Wikipedia Vital Articles를 추가합니다.
• 지식 패키지 (Knowledge packs): Wikipedia Vital Articles, Emergency & preparedness, Ethereum & cryptography와 같은 사전 인덱싱된 파일이 포함되어 있습니다 (KNOWLEDGE_PACKS).
• 장소 패키지 (Places packs) (현재는 ios_android의 iPhone 앱에서): 식단 태그와 영업시간이 포함된 OpenStreetMap 레스토랑 및 카페, 그리고 Wikivoyage 목록이 제공됩니다. 설정 또는 Knowledge에서 도시를 다운로드할 수 있습니다 (베를린은 15,278개 장소에 3.3 MB) (POI_PACKS).
• 사용자 파일 (Your files): .txt, .md, .csv, .json, .pdf 형식의 파일을 지원합니다 (선택 가능한 텍스트, OCR 없음). 이 파일들은 휴대폰에서 청크(chunked)로 분할되어 임베딩됩니다. 컬렉션을 JSON 패키지로 토글, 삭제 또는 내보내어 Bluetooth나 Nearby Share를 통해 공유할 수 있습니다 (USING).

실제 휴대폰으로 측정한 결과

<img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/bench.png" alt="LFM2.5-8B-A1B 14.8 tok/s, Qwen2.5-1.5B 11.4, Phi-3.5-mini 4.0, Qwen2.5-7B 2.7" />

나중에 실행했을 때는 휴대폰을 식히고 모델을 로드 상태로 유지했을 때: Qwen2.5-1.5B가 동일한 X6 Pro에서 16.8 tok/s (1 Oct) 및 POCO F3에서 19.6 tok/s (Snapdragon 870, 8 GB; 29 Sep)를 기록했습니다. X6 Pro에서는 출처(source)가 필요 없을 때 첫 단어가 나오는 데 1.6초가 걸렸고, 전체 구절이 네 개 필요한 경우에는 6.8초가 걸렸는데, 이것이 현재 빠른 답변 기능이 답변에 필요한 문장만 전송하는 이유입니다.

• MoE 모델은 8B 파라미터를 가지면서도 1.5B 밀집(dense) 모델만큼 빠르며, 다단계 RAM 예산 질문을 정확하게 해결한 유일한 모델이었습니다.
• 약점: 답변하기 전에 추론하는 경향이 있으며, 512 토큰 예산에서 17개 답변 중 4개가 최종 답변 전에 자원을 소진했습니다.
• 모든 MoE가 아직 로드되는 것은 아닙니다: Instella-MoE-16B-A3B는 이 llama.cpp 빌드에서 실패했으며, 평가 기록은 이를 건너뛰지 않고 기록합니다.

자신의 휴대폰에서 반복하거나 확장하여 실행하려면 하나의 명령만 사용하세요:
docs/DEVICE_EVALUATION.md. 원본 파일: docs/evidence.

바운티 요구사항

<img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/limits.png" alt="최대 RAM 12 GB, 디스크 최대 50 GB, 설정 후 오프라인, Google Play Services 미사용, 실제 기기" />

poidh 바운티 #31,

<table <thead> <tr> <th width="25%"></th> <th width="25%"></th> <th width="25%"></th> <th width="25%"></th> </tr> </thead> <tbody> <tr> <td width="25%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/setup.jpg" alt="설정: 언어 및 이 휴대폰의 메모리"></td> <td width="25%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/model.jpg" alt="답변 모델 선택: Qwen3-4B 권장, 또는 Qwen2.5-1.5B"></td> <td width="25%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/setup-knowledge.jpg" alt="지식 선택: 필수 또는 백과사전, 그리고 거주 도시의 장소 추가"></td> <td width="25%"><img src="https://raw.githubusercontent.com/rferrari/boar-app/HEAD/docs/readme/ready.jpg" alt="준비 완료: 이제 모든 것이 오프라인으로 실행됩니다"></td> </tr> <tr> <td><b>시작(Start).</b> 영어 또는 포르투갈어, 그리고 이 휴대폰의 사양을 확인합니다.</td> <td><b>모델 선택(Pick a model).</b> Qwen3-4B 또는 더 가벼운 Qwen2.5-1.5B를 선택합니다.</td> <td><b>지식 선택(Pick knowledge).</b> 필수 지식(Essential) 또는 백과사전(Encyclopedia), 그리고 거주 도시의 장소를 추가합니다.</td> <td><b>준비 완료(Ready).</b> 한 번 다운로드 및 인덱싱한 후, 오프라인으로 사용합니다.</td> </tr> </tbody> </table>

Android APK: 최신 릴리스에서 boar-v1.0.0-arm64.apk를 다운로드합니다 (122 MB, 모든 64비트 ARM 휴대폰용). 확인 후 설치하세요:

iPhone: iOS 앱은 ios_android 브랜치에서 동일한 엔진으로 빌드되며, 여기에 빌드 가이드와 무료 Apple ID를 사용하여 직접 iPhone에 설치하는 단계가 포함되어 있습니다.

문서 (Docs)