Foundation Models framework - 온디바이스와 클라우드 LLM을 통합하는 Swift API

요약

Apple은 App Store Small Business Program 가입 개발자에게 Private Cloud Compute(PCC)를 통해 Foundation Models를 클라우드 API 비용 없이 사용할 기회를 제공합니다. 이는 온디바이스와 클라우드 LLM을 Swift API로 통합할 수 있게 하며, 특히 서버 비용에 민감한 인디 앱 개발자에게 큰 이점을 줍니다.

핵심 포인트

• PCC는 소규모 다운로드 개발자에게 Foundation Models 사용 시 클라우드 API 비용 절감을 제공합니다.
• 온디바이스와 클라우드 LLM을 Swift API로 통합하여 사용할 수 있습니다.
• PCC 사용량은 앱이나 개발자 계정이 아닌 최종 사용자 ID에 배정되어 서버 부담이 적습니다.
• 사용 권한 확보를 위해 조직 개발자 계정이 필요하며, TestFlight 등에서 테스트 가능합니다.