가상화(virtualization) 분야에 큰 소식이 전해졌습니다. macOS 27.3은 Mac 가상 머신(VM) 내의 Core AI가 호스트의 GPU와 Neural Engine을 사용할 수 있게 합니다.
일부 테스트에서 새로운 파라가상화된 경로(paravirtualized paths)는 게스트 CPU보다 최대 7배 빠르게 Core AI 작업을 실행할 수 있었으며, 이는 호스트 네이티브 속도의 50%에서 거의 100%에 달하는 성능을 달성했습니다.
새로운 Core AI 가속기는 현재 사설 API(private APIs)와 제한된 권한 부여(restricted entitlement)를 필요로 합니다.
설정 방법은 다음과 같습니다:
• 호스트와 게스트 모두에 macOS 27.3을 설치합니다.
• com\.apple.security.virtualization 및 com\.apple.private.virtualization 권한 부여가 있는 VM 호스트 앱을 빌드해야 합니다. 두 번째 권한 부여를 위해 AMFI(Apple Mobile File Integrity)를 완화해야 합니다.
• VZVirtualMachineConfiguration에서 다음을 사용하여 가속기를 추가합니다:
• _setAcceleratorDevices를 사용하며, 다음과 같은 항목을 추가합니다:
• _VZMacCoreAIDeviceConfiguration (GPU, PVAIDevice 추가)
• _VZMacNeuralEngineDeviceConfiguration (기존 ANE 가속기, Core AI용 Neural Engine 추가)
게스트에서는 다음 기능 플래그를 활성화합니다:
sudo mkdir -p /Library/Preferences/FeatureFlags/Domain &&
sudo defaults write /Library/Preferences/FeatureFlags/Domain/ParavirtualizedCoreAI enable_pv_delegate -dict Enabled -bool true
그리고 게스트를 재시작합니다. 이제 게스트에서 Core AI를 호출할 수 있습니다. 제대로 설정되었다면, ComputeUnitKind.availableKinds 목록에 gpu와 neuralEngine이 나열되어야 합니다.
——
현재 비활성화된 두 번째 호스트 측 기능 플래그(ParavirtualizedCoreAIHost/enable_save_restore)가 있습니다. 이 기능을 활성화하면 Core AI 가속기가 VM 상태를 저장하고 복원하는 지원을 광고합니다.
——
- 공개 모델(YOLO, CLIP, Depth Anything)과 matmul/convolution 벤치마크를 사용하여 M4 Max 칩이 장착된 Mac에서 테스트했습니다. VM 경계를 넘나들 때 추론 호출당 약 1ms의 지연 시간이 추가됩니다.
Qwen3-0.6B는 Apple의 llm-benchmark에서 호스트 속도의 약 10%로 실행되었습니다. Core AI의 파라가상화된 경로는 생성되는 각 토큰에 대해 대용량 공유 KV-cache 버퍼에 대한 호스트 접근을 반복적으로 설정합니다.
