유휴 Apple Silicon 기기로 구축한 동적 분산 가상 GPU 클라우드

정확히 무엇을 하는 건지 잘 모르겠음. 기본적으로 AI 작업용 SETI 같은 건가? 소개 페이지에서는 그런 인상을 받았는데, 솔직히 좀 혼란스러움.

Minions는 Apple에서 이미 사용 중인 기업 내부 시스템으로, 유휴 Mac GPU들을 묶어 ML 추론용 공유 컴퓨팅 클러스터로 활용함.
하나의 LLM을 텐서 병렬화로 여러 GPU에 나눠 실행하는 방식은 아님. 대신 큰 작업을 독립적인 하위 작업으로 나눠 별도 기기에서 실행하는 작업 수준 병렬화를 사용함. 문서 100만 개의 임베딩 생성이 그런 예시임.

기업에는 괜찮을 수 있겠음. 이미 보유한 기기로 업무 외 시간에 추론을 실행하면, 즉각적인 결과가 필요 없는 분석 작업에 유용할 듯함. 다만 기술적으로 그렇게 획기적으로 보이지는 않음.

비슷한 SETI@home 방식들이 그렇듯, 이 논문도 에너지 비용을 다루지 않음. 가정과 사무실의 유휴 기기에 작업을 분산할 수는 있지만, 전기가 더 싸고 하드웨어 효율도 높은 데이터센터에 맡기는 것보다 훨씬 비싼 경우가 많음.

Apple이 독립적인 칩 공급망과 자체 클라우드에 투자하지 않아 큰 수익 기회를 놓치고 있다고 봄. 범용 ARM 컴퓨팅에서는 선점 우위가 있었다고 볼 수 있는데, 시장에 대량 공급하고 누구나 쉽게 임대할 수 있게 만들기만 하면 됐을 것임. 시장 일부를 장악할 뿐 아니라 다른 칩 제조사에 몰리는 수요도 완화할 수 있었을 듯함.

TSMC나 Samsung의 팹을 통째로 인수하지 않는 한, Apple이 첨단 칩 공급망을 수직계열화할 방법은 보이지 않음. 적어도 10년 미만의 기간으로는 어려움. 그 정도 시간이면 수익을 조금 더 늘리려는 회사가 아니라 여기에 전력을 쏟는 기업들이 현재의 공급 문제를 해결했을 가능성이 높음.

Apple은 이미 신규 제조 시스템 연구개발과 생산시설 확장에 상당한 자금을 대고, 그 대가로 초기 생산라인의 생산능력을 보장받고 있을 것임. 완전 소유로 얻는 추가 이익이 그 수고와 비용만큼 가치가 있는지는 모르겠음.

Mac Studio 대기 시간이 6~16주인 걸 보면 이미 생산 확대에 어려움을 겪는 듯함. 칩만 판매해도 수익 기회를 놓치게 될 것임. 생산 규모가 커지면 macOS 서버 랙이나, 이전 세대 칩을 대량으로 사용하는 macOS 슈퍼컴퓨터처럼 더 독창적인 방식으로 서버 시장에 돌아올 것 같음.

Apple은 기업 시장을 이해하지 못함. A/UX, mkLinux, OS X Server, Mac Pro 타워 모두 사라졌음.
Swift를 오픈소스로 만들고 Linux를 제대로 지원한 주된 이유도 앱 개발자가 서버에서도 쓰게 하려는 것이었고, 그 서버 운영체제가 macOS일 리는 없었음. iPhone·iPad 앱 개발에 macOS가 필수가 아니었다면 데스크톱 판매량도 더 적었을 것임.

아직 주 수입원인 자사 기기에 들어갈 칩 물량 확보부터 어려운 것 같음. 칩 개발팀이 내부 AI용 서버 칩을 이미 개발 중이거나 완성했을 수도 있지만, 아직 공개할 필요가 없을 것임.

일반 소비자도 쉽게 네트워크에 연결된 기기들을 슈퍼컴퓨터로 묶는 방법이 생긴다면 정말 멋질 것임. 집에서 아이가 3D 작업에 관심을 갖고 렌더링하려 할 때, 가족이 태블릿·휴대폰·노트북 등을 자발적으로 참여시켜 사용하지 않는 밤 시간에 프레임을 나눠 처리하게 할 수 있음.

예전에 일했던 Distributive라는 스타트업이 이 일을 하고 있음. 연산 노드가 JS/Wasm 런타임 기반이라, 웹 브라우저만 있으면 기기를 연산 노드로 만들 수 있음.

내가 소유한 기기의 연산 시간과 전력을 그냥 내주는 건 꺼려짐. 나라면 반드시 참여하지 않겠음. Apple이 소유자에게 보상할 예정인가?

논문을 보면 그냥 CRUD 데이터베이스에 Mac 여러 대를 붙이고, 입력과 출력을 S3에 저장하는 것처럼 보임. 어디에 혁신이 있는 건가? 폄하하려는 건 아니지만, 가장 기본적이고 뻔한 접근법처럼 보였음.

이런 건 만들면서 여전히 랙에 장착할 제품은 안 팔겠다는 건가?

오히려 그게 핵심으로 보임. 사내 네트워크의 기존 워크스테이션을 활용해, 사용하지 않는 밤 시간에 일괄 연산을 실행하는 것임. 우선순위가 낮은 AI 작업을 위해 서버를 추가 구매할 필요가 없어짐.