애플의 새로운 Core AI 프레임워크 공개, 온디바이스(On-Device) 대규모 모델 구동 시대 개막

이번에 애플이 정말 급해진 모양입니다. 준비하던 필살기가 드디어 터져 나왔습니다.

새로운 Core AI 프레임워크를 한마디로 요약하면, 거대 언어 모델(LLM)을 애플 자체 칩에서 완전히 구동하여 추론 과정을 사용자의 휴대폰 로컬 환경에서 모두 처리할 수 있게 했다는 것입니다. 이것이 의미하는 바는 무엇일까요?

1️⃣ 서버 호출 제로: 데이터가 기기를 벗어나지 않아 프라이버시를 중시하는 사용자들에게 큰 즐거움을 선사합니다.
2️⃣ 토큰 비용 청구 없음: 더 이상 API 요금 청구를 보며 심장이 두근거릴 필요가 없습니다.
3️⃣ Qwen, Mistral, SAM3 같은 모델들을 iPhone, iPad, Mac은 물론 Vision Pro에서도 네이티브하게 구동할 수 있습니다.

가장 놀라운 점은 그 구현의 간편함입니다. 메모리 안전성이 보장되는 Swift API를 사용하며, 모델을 미리 컴파일(pre-compile) 할 수 있어 로딩 시간이 거의 즉각적입니다. 단 두 줄의 코드로 이미지 분할(image segmentation) 기능을 구현할 수 있습니다:

let segmenter = try await ImageSegmenter(resourcesAt: sam3ModelURL)
let response = try await segmenter.segment(image: inputImage, prompt: "flower")

하지만 이것으로 끝이라고 생각해서는 안 됩니다. 애플은 이번에 필요한 모든 것을 완벽하게 갖춰 제공했습니다.

1️⃣ Swift로 포장된 다양한 오픈 소스 모델들로, 바로 사용할 수 있습니다.
2️⃣ 모델 변환을 지원하는 PyTorch 확장 기능으로, 마이그레이션(migration)이 용이합니다.
3️⃣ 모델을 계층별로 압축하고 정확도는 거의 떨어지지 않게 유지하는 최적화기(optimizer)를 제공합니다.
4️⃣ macOS 디버거: 성능 분석은 물론 Python의 동작까지 추적할 수 있습니다.
5️⃣ Xcode 검증 도구: 원스톱으로 모든 것을 처리해 줍니다.

쉽게 말해, 로컬 AI를 구현하고 싶지만 클라우드에 돈을 많이 쓰고 싶지 않은 팀들에게는 이것이 표준 해답입니다. 온디바이스(On-Device) AI라는 이 전장에서 애플은 판 자체를 뒤엎으려 하고 있습니다.

🔗 모델 저장소: https://t.co/k5CWj1wKZd