2026년, 아이폰에서 실제로 구동 가능한 AI 모델 찾는 방법 (다운로드 실패 없음)

Hugging Face에서 모델을 찾고, 아이폰으로 5 GB 다운로드를 기다렸지만 로드가 되지 않는 경우가 있습니다. 메모리가 너무 크거나 앱이 아직 실행할 수 없는 형식인 경우입니다. Off Grid AI Mobile (OGAM)은 사용자가 다운로드 버튼을 누르기 전에 이러한 결과를 미리 제거합니다. 이제 아이폰에서 모델 검색 시에는 실제로 로드 가능한 모델만 목록에 표시되며, 복사본 페이지 대신 각 모델별로 한 번씩 보여주고, 겨우 들어가는 파일도 표시해 줍니다.

필요한 것들

iOS 17 이상이 설치된 iPhone. 검색 결과는 사용자의 아이폰 RAM 용량에 따라 달라지므로, 6 GB 아이폰과 12 GB iPhone 17 Pro Max가 서로 다른 결과를 보여줍니다.
App Store에서 다운로드한 OGAM 0.0.117 이상 버전. 검색 기능 변경 사항은 0.0.116 및 0.0.117에 도입되었으며, 0.0.117은 2026년 10월 23일에 App Store에 출시되었습니다. iPhone용 OGAM 다운로드.
검색 및 다운로드 시 Wi-Fi 또는 모바일 데이터 연결. 다운로드 후에는 연결 없이 아이폰의 GPU를 통해 Metal로 모델이 실행됩니다.
계정이나 결제가 필요하지 않습니다. 검색 기능은 무료 앱에 포함되어 있습니다.

검색이 아이폰 구동 가능 여부를 결정하는 방법

이 앱은 모델을 제공하는 모든 곳에서 하나의 규칙을 사용합니다: 선택, 모델 페이지의 크기 목록, 그리고 로드 전 경고입니다.

iOS는 한 앱에게 휴대폰 메모리 전체를 할당하지 않으며, 실행되는 모델은 파일 크기보다 더 많은 것을 필요로 합니다. 즉, 가중치(weights)와 대화를 저장하는 캐시(cache)가 추가됩니다. 이 앱의 '휴대폰 예산'은 12 GB iPhone 17 Pro Max를 기준으로 측정되었습니다: Gemma 4 E4B는 다운로드 크기가 4.64 GB였지만, 4K 컨텍스트에서는 약 6.4 GB가 필요하여 파일 크기의 약 1.4배에 달했습니다. 이를 바탕으로 OGAM 0.0.117 버전에서는 다음과 같이 작동합니다:

아이폰 RAM의 36% 미만인 파일은 원활하게 실행됩니다.
아이폰 RAM의 36%에서 50% 사이인 파일은 **빡빡함(Tight)**으로 표시됩니다.
아이폰 RAM의 50%를 초과하는 파일은 제공되지 않습니다.

iPhone RAM	원활하게 실행 (Runs well)	빡빡함 (Tight)	숨김 (Hidden)
6 GB	2.2 GB 미만	2.2 ~ 3 GB	3 GB 초과
...

이 앱은 iOS가 보고하는 RAM을 사용하며, 이는 실제 박스에 적힌 수치보다 약간 적습니다. 12 GB iPhone 17 Pro Max는 11.2 GB를 보고하므로, 그 한계치는 마지막 행 바로 아래에 위치합니다.

Hugging Face 검색 결과에는 파일 크기가 표시되지 않기 때문에, 목록은 4비트 기준 파라미터 수로 판단하며, 이는 10억 개의 파라미터당 약 0.6GB입니다. 7B 모델의 경우 약 4.2GB에 해당하므로 8GB iPhone에는 나타나지 않습니다. 반면, 9B 모델은 약 5.4GB로 12GB iPhone에서는 표시됩니다.

크기만이 유일한 확인 기준은 아닙니다. 일부 새로운 모델은 사용 중인 앱 버전보다 더 최신화된 llama.cpp 엔진을 필요로 하며, 이러한 모델의 모든 업로드본이 누락되어 로드에 실패하는 파일을 다운로드할 수 없습니다. 또한, 단순히 다른 모델의 속도를 높여주는 파일(draft 및 MTP 파일)은 모델로 제공되지 않습니다. 이미지 생성기는 Image 탭에 남아 있으며 채팅 검색에서는 표시되지 않습니다.

단계 1: 검색 (Search)

OGAM을 열고 탭 바에서 Models를 누릅니다.
Text 탭에 머무르면서 Search models 필드를 누릅니다.
예를 들어 qwen, gemma 또는 lfm과 같은 모델이나 제작사 이름을 입력합니다. 결과는 타이핑을 멈춘 후 반 초 뒤, 또는 키보드에서 검색을 누르면 나타납니다.

앱 자체 카탈로그의 일치하는 모델이 가장 먼저 표시됩니다. 그 다음으로 Hugging Face 결과가 최대 30개까지 이어지며, 이미 엄선된 목록에 있는 모델은 중복되지 않습니다.

단계 2: 카드 읽기 (Read the cards)

각 검색 결과는 하나의 업로드본이 아니라 하나의 모델입니다. 여러 사람이 동일한 모델을 업로드했을 경우, 가장 신뢰도가 높은 업로드본을 대표로 하여 한 번만 표시되며, 나머지 개수는 +N uploads 칩으로 계산됩니다.

이름, 제작사, 크기 외에도 카드는 다음 정보를 보여줄 수 있습니다:

MoE · 3B active: 혼합 전문가 모델(Mixture-of-Experts model)입니다. 활성 크기(active size)가 속도를 결정하므로, 큰 MoE 모델이라도 훨씬 작은 모델처럼 응답할 수 있습니다. 하지만 전체 크기에 대한 메모리는 여전히 필요합니다.
Newer: [모델 이름]: 이보다 새로운 모델이 대체했음을 의미합니다. 오래된 모델은 목록의 마지막에 표시됩니다.
Research licence: 해당 모델의 라이선스가 상업적 사용을 허용하지 않음을 의미합니다.

훼손되거나 검열되지 않은 업로드본은 표시되지 않습니다.

단계 3: 목록 좁히기 (Narrow the list)

검색 필드 옆에는 세 개의 아이콘이 있습니다.

번개 모양 아이콘을 탭하여 정렬할 수 있습니다. 기본값은 'Smart'입니다. 'For You'는 사용자의 iPhone RAM에 가장 적합한 모델을 먼저 보여줍니다. 'Size', 'Downloads', 'Newest'를 누르면 해당 기능대로 작동합니다.
슬라이더 아이콘을 탭하여 필터를 열 수 있습니다:
- Org (제작사): 제작사를 선택하는 항목입니다. 목록에는 OpenBMB, Qwen, Llama, Google, Microsoft, Mistral, DeepSeek, HuggingFace, NVIDIA, 그리고 Liquid AI가 있습니다. 아무것도 입력하지 않고 제작사를 고르면 해당 제작사가 선별한 모델 목록과 그들의 Hugging Face 모델이 순서대로 나열됩니다.
- Type (유형): Text, Vision, 또는 Code 중 선택합니다. 'Vision'은 사진이나 스크린샷을 읽는 모델을 찾습니다.
- Source (출처): 파일 업로드 주체에 따라 LM Studio, Official, Verified, 또는 Community로 분류됩니다.
- Size (크기): 파라미터 크기를 기준으로 < 1B, 1-3B, 3-8B, 또는 **8B+**를 선택합니다.
- Quant (양자화): Q4_K_M이나 Q8_0과 같은 양자화(quantization) 방식을 지정할 수 있습니다.
'Clear'를 탭하면 모든 필터가 제거됩니다. 아이콘 위의 점은 해당 정렬 또는 필터가 활성화되었음을 의미합니다.

세 번째 아이콘인 **'Import local file (로컬 파일 가져오기)'**는 이미 iPhone에 GGUF 파일을 가지고 있는 경우 'Files picker'를 열어줍니다.

4단계: 크기를 선택하고 다운로드하기

결과 항목을 탭합니다. 해당 페이지에는 설명, 다운로드 수 및 좋아요 수가 표시되며, 그 아래에 **Sizes (크기)**가 있습니다.
Sizes에서는 최대 세 가지 파일이 일반적인 단어로 표시됩니다: Recommended (추천) (iPhone에 가장 적합한 파일이며 목록의 첫 번째 항목), Smaller (더 작은 크기), 그리고 **Best (최적의 성능)**입니다.
'All files'를 탭하면 iPhone에서 실행 가능한 모든 파일을 볼 수 있고, 'Fewer sizes'를 탭하여 이전 화면으로 돌아갈 수 있습니다. iPhone 용량을 초과하는 파일은 어느 목록에도 나타나지 않습니다.
**Tight (빡빡함)**라고 표시된 파일은 로드되지만, 긴 대화나 다른 앱을 구동할 공간이 거의 남지 않습니다. 만약 자주 앱을 전환한다면 다음 크기(더 작은 사이즈)를 선택하는 것이 좋습니다.
'다운로드'를 탭합니다. 다운로드가 완료되면 앱에서 'Chat now (지금 채팅하기)' 기능을 제공합니다.

이 기능이 하지 않는 것

속도를 측정하지는 않습니다. 적합한 모델이라도 구형 칩에서는 느릴 수 있습니다. 다운로드 후, 모델 설정 화면에서 **가장 빠른 설정(Use fastest settings)**을 사용하면 아이폰이 실행할 수 있는 옵션을 테스트하고 가장 빠른 것을 유지합니다.
검색하는 동안 남은 저장 공간을 확인하지는 않습니다. 앱은 다운로드가 시작될 때 공간을 확인하여 필요한 용량과 남아있는 용량을 알려줍니다.
적합성 검사는 현재 사용 가능한 메모리가 아닌 총 RAM(total RAM)을 사용합니다. 다른 앱들이 많은 메모리를 차지하고 있다면, 타이트(Tight) 모델이라도 로드에 실패할 수 있습니다. 이 경우, 현재 로드된 모델은 그대로 유지됩니다.
Hugging Face 결과는 검색당 30개에서 중단됩니다. 더 많은 결과를 얻으려면 검색을 더 구체화하거나 필터를 추가하세요.

FAQ

Hugging Face에서 본 모델이 아이폰에서 작동하지 않는 이유는 무엇인가요?
아이폰 RAM의 절반 이상을 차지하기 때문일 수 있고, 앱 버전보다 새로운 엔진이 필요할 수 있으며, 이미지 생성기인 경우 이미지(Image) 탭에 있습니다. 또한 삭제되거나 검열되지 않은 업로드도 숨겨져 있을 수 있습니다.

아이폰에서 실행 가능한 가장 큰 AI 모델은 무엇인가요?
OGAM 0.0.117에서는 검색을 통해 iOS가 보고하는 RAM의 절반까지 용량을 제공합니다: 6 GB 아이폰에서는 약 3 GB, 8 GB 아이폰에서는 4 GB, 12 GB iPhone 17 Pro Max에서는 6 GB에 약간 못 미치는 수준입니다. 4비트 기준으로 이는 최대 약 4B, 6B, 9B 파라미터까지 가능합니다.

Off Grid AI on iPhone에서 'Tight'은 무엇을 의미하나요?
파일 크기가 아이폰 RAM의 36%에서 50% 사이에 있다는 뜻입니다. 로드는 되지만 메모리가 거의 남아있지 않아, 긴 대화나 앱 전환 시 문제가 발생할 수 있습니다. 더 작은 크기가 더 안정적입니다.

MoE 모델에서 '3B active'는 무엇을 의미하나요?
토큰당 30억 개의 파라미터를 사용하는 전문가 혼합(mixture-of-experts) 모델로, 약 3B 모델의 속도로 응답합니다. 하지만 여전히 모든 파라미터에 대한 메모리가 필요합니다.

모델이 '+3 uploads'를 표시하는 이유는 무엇인가요?
다른 세 명의 사용자가 동일한 모델을 업로드했다는 의미입니다. 앱은 가장 신뢰할 수 있는 업로드를 보여주고 나머지를 개수로 계산하므로, 목록이 복사본으로 가득 차지 않도록 합니다.

아이폰에서 Liquid AI 모델을 검색할 수 있나요?
네. 필터를 열고 Org를 탭한 다음 Liquid AI를 선택하거나, 검색창에 lfm을 입력하세요.