Video: 아이폰18 Pro, 애플은 AI에서 모든 게 준비됩니다... 메모리 열 설계까지 바꾼 AI 아이폰 | A20 Pro와 AFM 3가 맞춰진 이유
Channel: 안될공학 - IT 테크 신기술
Duration: 11m 15s
Source: subtitle (auto, ko)
Transcript:
네, 여러분 안녕하세요. 패치입니다. 몇 년 전부터 스마트폰 신제품이 나올 때마다 비싼 가격에 흠칫 놀라면서 이런 이야기가 나오는데요. 어, 이제 스마트폰 성능은 충분히 좋은 거 아닌가? 여기서 더 빨라져서 뭐 하지? 네, 사실 틀린 말이 아니죠. 몇 년 전 플래그십만 가져와도 앱은 빠르게 열리고요. 4K 영상도 편집을 할 수가 있고러 사진을 보정을 하고 고사양 게임까지 돌립니다. 거기에다가 GPU랑 미디어 엔진이 워낙 좋아지다 보니까 일상에서 CPU가 매년 10% 20% 빨라지는 차이를 체감하기도 어려워졌어요. 그런데 변수라면 그 사이에 AI가 들어오면서 스마트폰이 처리해야 할 일이 갑자기 훨씬 복잡해진 거죠. AI가 들어오면서 한동안 별 의미가 없어 보였던 스마트폰 성능 경쟁에 새로운 미션이 생겼습니다. 수십시개의 파라미터를 어디에다 넣을 건지, 필요한 데이터를 얼마나 빨리 가져올 수 있는지 그리고 GPU랑 MPU가 얼마나 빠르게 계산할 건지. 그리고 또 이걸 작은 배터리랑 제한된 발열 안에서 어떻게 계속 돌릴 건지 말이에요.

데이터 센터라면 HBM을 잔뜩 붙이고 GPU에다가 수백W를 먹이면 되지만 스마트폰은 그럴 수가 없어요. 그래서 요즘 퀄컴도 삼성도 미디아텍도 전부 MPU랑 메모리 그리고 온디바이스 AI 성능에 집중을 하고 있습니다. 그런 상황에서 나온게 이번 아이폰 A20 Pro인데요. A20 Pro는 2n노 공정으로 만들어졌고요. CPU는 A19 Pro보다 최대 20% 그리고 7코어 GPU는 최대 40%가 빨라졌습니다. 그런데 이번에는 그 숫자보다 다른 변화들이 좀 더 눈에 들어와요. GPU에는 뉴럴 액셀러가 들어가고요. 별도로 듀얼 16코어 총 32코어 뉴럴 엔진을 탑재를 했습니다. 온디바이스 A의 컴퓨팅 성능은 A19에 두 배예요. 그리고 메모리 대역 폭이 무려 50%가 늘었습니다. CPU 20%, GPU 40%, 그리고 메모리는 50%예요. 이걸 보고 있자니까 몇 달 전 안들공학에서 A20의 패키징을 다룰 때 나왔던 이야기를 좀 떠올리게 하는데요. 아이폰은 오랫동안 AP 위에다가 디램을 올리는 POP 구조를 사용을 했죠.

그런데 A20에서는 TSMC의 WMCN 계열 기술을 활용을 해 가지고 AP랑 메모리를 옆으로 이렇게 배치를 하고 메모리 인터페이스도 기존 64비트에서 96비트로 넓어질 수 있다는 이야기가 나왔습니다. 64에서 96이면 여러분 정확히 50%예요. 당시에는 LPDDR 6의 24비트 채널을 뭐네 개 사용하는 거냐 아니면 LPDDR 5X의 16비트 채널을 여섯 개 사용하는 거냐 뭐 이런 것까지 여러 가지 추정이 있었는데요. 그리고 실제 A20에서 애플이 발표한 메모리 대역폭 증가폭이 50%였습니다. 아직 애플이 버스 폭을 공개를 하지 않았기 때문에 96비트가 확인됐다고 할 순 없는데요. 하지만 패키징 변화는 확인이 됐죠. 실리콘 다이랑 메모리를 실제로 옆으로 나란히 배치를 했습니다. 그러면서 기존의 프로세서 위에 있던 메모리가 열 배출 경로에서 이렇게 빠지게 되고 A20프를 베이퍼 챔버에다가 직접 연결을 할 수 있게 됐어요. 애플은 베이퍼 챔버 면적도 전작보다는 세배 키웠다고 설명을 하는데요. 이거를 보면 이번에 애플이 손된 곳이 꽤 명확합니다.

AI 계산을 하는 뉴럴 엔진을 키우고요. GPU에서도 AI 연산을 하고 그 연산기에다가 데이터를 공급하는 메모리 대역폭을 넓혔고요. 오랫동안 쓰던 메모리 배트를 바꿔 가지고 반열까지 잡았어요. 그런데 저는 A20프만 놓고 보는 것보다는 어 석달 전에 WWDC 26에서 애플이 발표한 그 내용을 같이 보는게 좀 더 재밌다고 생각을 하는데요. 그때 애플이 AFM3 그니까 3세대 애플 파운데이션 모델을 공개를 했죠. 그중 AFM3 코드시드라는 모델은 전체 파라미터가 20빌리언 그러니까 200억 개입니다. 아이폰에서 쓰기에는 상당히 큰 모델이죠, 이게. 근데 물론 200억 개 전체를 항상 계산을 하는 건 아니고요. 작업에 따라서 약 10억 개에서 한 40억 개 정도만 활성화을 하는데요. 이게 일부 엑스퍼트만 골라쓰는 ME 자체는 이제 특별한 기술은 아니죠. 근데 여기에서 애플의 스마트폰에 맞게 고민한 부분이 IFP 그러니까 인스트럭션 팔로잉 프루닝입니다. 이것도 저희가 예전에 아이폰의 그 랜드랑 AI를 이야기를 하면서 한번 다룬 적이 있는데요.

일단 20빌리언 모델 전체를 디램에다가 계속 올려두면 메모리를 너무 많이 먹어요. 그러면 이제 랜드에다가 넣어 두면 될 거 같은데 랜드는 또 디램보다 훨씬 느리죠. 토큰 하나를 만들 때마다 필요한 엑스트를 바꾸고 그때마다 랜드에서 새로운 가중치를 가져오면 오히려 이게 느려져 버립니다. 그래서 먼저 사용자가 뭘 시켰는지를 보는 거예요. 이번 작업에 필요한 부분만 고르고 그것만 랜드에서 디램으로 가져온 다음에 여러 토큰을 생성하는 동안에 재사용하는 거죠. 생성이 길어지거나 다른 능력이 필요해질 때 다시 고릅니다. 애플도 AFM3를 설명을 하면서 랜드에서 디램으로 토큰마다 엑스포트를 교체하기에는 대역폭이 좀 부족하기 때문에 이런 구조를 사용을 했다고 밝혔어요. 결국 스마트폰에서 큰 AI를 쓰기 위해서 애플이 이제 양쪽에서 같은 문제를 좀 선보고 있는 건데요. 소프트웨어에서는 불필요하게 움직이는 데이터를 줄이고 하드웨어에서는 꼭 움직여야 하는 데이터가 지나가는 길을 이렇게 넓혀 줍니다. 6월에는 AFM3가 나왔고요.

9월에는 메모리 대역 폭이 50%가 늘었고 뉴럴 엔진이 두 배가 됐고요. GPU의 뉴럴 액셀러레이터랑 새로운 패키징 그리고 냉각 시스템이 들어간 A2 프로가 나왔습니다. 어 물론 A2 때문에 AFM3가 가능해졌다는 그런 이야기는 아니고요. 대신 이제 모델만 준비된게 아니라 그 모델을 계속 돌려야 하는 아이폰 하드웨어도 같은 방향으로 준비되기 시작했다고 볼 수 있겠죠. 애플은 운영 체제 쪽에서도 좀 비슷하게 움직이고 있는데요. WWC26에서 파운데이션 모델 프레임워크를 확장을 하면서 이제 개발자가 애플의 온 디바이스 모델뿐만이 아니라 클로드나 제미나이 같은 그런 클라우드 모델 그리고 랭귀지 모델의 프로토콜에 받는 다른 모델까지 연결을 할 수 있게 했습니다. 다이나믹 프로파일을 이용을 하면은 같은 세션 안에서도 하는 일에 따라 가지고 모델이랑 도구 지침을 바꿀 수가 있는데요. 빠른 작업은 작은 모델로 하고 더 깊은 추론이 필요하면 프라이빗 클라우드 컴퓨터로 넘기는 그런 식인 거죠. 이걸 보면 애플이 세상에서 가장 강력한 AI 모델 하나를 직접 만드는데 별로 집중을 하고 있는 거 같진 않아요.

그게 지난 몇 년 동안에 애플이 AI에 늦었다는 그런 비판을 받은 이유기도 했습니다. 오픈 AI랑 구글, 메타, 마이크로소프트가 모델 크기랑 학습 컴퓨팅 그리고 데이터 센터를 계속해서 이렇게 키워 나갈 때 애플은 그 경쟁에서 눈에 띄지를 않았거든요. 지금 그 경쟁에 들어가는 돈이 정말 엄청나요. 구글이랑 아마존, 마이크로소프트, 메타이네 회사가 2026년에 계획한 그 자본 지출만 해도 약 7,450억 달러에 달하는데요. 상당 부분이 데이터 센터랑 AI 칩 그리고 전력 인프라를 위한 투자입니다. 이게 다른 빅테크까지 합치면 규모가 더 커져요. 누가 더 많은 GPU를 확보를 하느냐, 뭐 누가 더 큰 데이터 센터를 짓느냐, 누가 더 큰 모델을 학습시키느냐 이런 거를 두고 돈이 계속 들어가고 있습니다. 그런데 애플은이 경쟁을 이런 방식으로 하고 있지 않아요. 물론 애플도 자체 데이터 센터랑 프라이 클라우드 컴퓨터에 투자를 하고 AI 연구비도 늘리고는 있어요. 이게 클라우드를 쓰지 않는다는 이야기는 아닌데 다른 그 하이퍼스러처럼 AI 데이터 센터 경쟁의 맨 앞에서 가지고 막 천문학적인 설비 투자를 하면서 모델 1등을 놓고 그렇게 싸우고 있지 않습니다.

몇 년 전에는 이게 좀 약점으로 보였거든요. 근데 최근에는 이거를 또 반대로 보는 시각도 좀 생기고 있어요. 혹시 애플은 AI 모델 경쟁에서 그닥 이길 필요가 없는 거 아닐까? 뱅크 오브 아메리카의 암시모하는 올해 애플을 AI 후발 주자로 평가를 하면서도 결국은 애플이 AI의 큰 승자가 될 가능성이 있다고 분석을 했습니다. 여기에는 이유가 있는데요. AI가 우리 생활에서 실제로 일을 하기 시작을 하면 마지막에는 결국 사용자의 신원이랑 사진 그리고 메시지 결제 수단 위치 앱 이런 거랑 연결이 되어야 하는데요. 그런데 애플은 이미 그 끝단을 가지고 있잖아요. 애플은 올해 초으로 활성 기기만 25억대가 넘습니다. 그리고 카운터 포인트에 따르면 2026년 1분기까지 애플 인텔리전스를 구동을 할 수 있는 아이폰도 누적으로 해서 한 4억 5천만대 이상이 추화가 됐고요. 브랜드별로 보면 생성형 AI를 구동을 할 수 있는 스마트폰이 소비자 손에 가장 많이 들려 있는 그런 회사도 결국 애플이에요.이 차이는 꽤 커요.

AI 모델을 가장 잘 만드는 회사가 반드시 AI 시대의 모든 수익을 가져가는 건 아닐 수도 있습니다. 누군가는 모델을 만들고 누군가는 데이터 센터를 짓고 그리고 결국 소비자는 손에 들고 있는 바로 그 기기에서 AI를 사용을 하겠죠. 애플에게는 그 마지막 접점이 이미 있다는 거예요. 아이폰뿐만이 아니라 애플 워치랑 에어팟, 맥, 아이패드까지 연결되어 있고요. 그 안에는 사용자의 사진이랑 메시지랑 앱이랑 결제 그리고 건강 데이터들이 담겨 있습니다. 그래서 최근 모닝 스타도 역시 애플 기기를 두고 이렇게 평가를 하기를 사용자가 AI랑 만나는 그런 자연스러운 플랫폼이다라고 말을 하면서 애플의 AI 경쟁력이 개선이 되고 있다고 봤습니다. 물론 이걸 가지고 우리가 아 애플은 이미 AI 전쟁에서 이겼어. 이렇게 이야기를 하면 너무 이르긴 해요. 왜냐면 모델 자체의 추론 능력이라던가 점점에서는 오픈 AI랑 구글이 앞서 있는 영역이 워낙 많고요. 그리고 새로운 시리도 이제 실제 사용자에게 검증을 받아야 되니까요. 대신에 애플에게는 좀 다른 승리의 조건이 있을 수 있다는 거죠.

모델 1등을 하지 않더라도 필요한 AI 모델을 가져와 가지고 애플의 모바일 기기 안에서 가장 자연스럽게 사용을 할 수 있게 만들면 되는 거잖아요. 작은 작업은 온디바이스에서 처리를 하고 큰 모델이 필요하면 프라이빗 클라우드 컴퓨터를 쓰고 그래도 다른 모델이 더 잘한다면 그때는 재미나이나 클라우드 같은 외부 모델을 연결을 합니다. 그리고서 그 모든 AI가 가장 마지막에 만나는 곳은 결국 사용자가 하루 종일 들고 다니는 아이폰이에요. 여기에서 이번 A20 Pro의 의미가 다시 살아나는데요. 그동안 생태계는 강한데 AI는 늦었다라는 평가를 받아 왔지만 그런데 소프트웨어에서는 20니빌리언 모델을 스마트폰의 랜드랑 디램에 맞춰 가지고 효율적으로 사용하는 방법을 만들었고요. 하드웨어에서는 뉴럴 엔진이랑 GPU AI 연산을 강화를 하고 메모리 대역 보고 50% 넓히면서 패키징이랑 냉각까지 바꿨고요. 적어도 이제는 애플이 하드웨어가 준비되지 않았다라는 그런 이야기는 하기 어려워졌습니다. 그리고 올해 다른 빈자리도 하나 채웠는데요.

아이폰 듀오가 등장을 하면서 그동안 갤럭시 같은 안드로이드 제품에서만 가능했던 그런 폴더블까지 이제 애플 생태의 안으로 들어왔어요. 최근 몇 년 동안에 안드로이드로 옮겨갈 이유 가운데이 두 가지가 상당히 컸거든요. 새로운 펌팩터를 원하면은 폴더블이 있었고 그리고 최신 생성령 AI를 적극적으로 사용을 하려면 또 재미나이 같은 선택지가 먼저 있었죠. 그런데 올해 애플이이 두 가지 공백을 동시에 줄이기 시작을 한 겁니다. 물론 이것만 보고 사람들이 다시 아이폰으로 막 대거 돌아오고 있다 이렇게 말할 수는 없겠지만 그래도 애플 생태계를 떠나야 할 이유가 하나씩 줄고 있다는 그런 해석은 가능해진 거죠. 그리고 다시 아이폰을 선택하는 순간에 애플 워치랑 에어퍼드랑 맥, 아이패드, 아이클라우드 포토까지 이게 기존의 생태계가 다시 힘을 갖게 되는 겁니다. 그래서 이제 스마트폰 성능은 의미가 없다라는 이야기도 AI 시대에는 조금 다르게 볼 필요가 있는 거예요. 우리가 스마트폰으로 하던 기존의 일에는 이미 성능이 차고 넘쳤죠.

근데 대신 스마트폰한테 새로운 일이 생겼잖아요. 수십억, 수백억 파라미터의 AI를 손바닥 안에서 계속 돌리는 일입니다. 그러면서 이제 성능 경쟁의 위치가 CPU에서 MPU랑 GPU 그리고 메모리랑 랜드 패키징 발열까지 이렇게 확 넓어졌죠. A20프는 바로 그 변화에 맞춰 가지고 애플의 소프트웨어랑 하드웨어를 동시에 정렬하기 시작한 칩입니다. 그리고 만약에 AI 최종 승자가 가장 큰 모델을 가진 회사가 아니라 그 AI를 수억 명의 일상 속에서 가장 자연스럽게 녹여내는 회사라면 그렇다면 지금까지 AI 분야에선 늦었다는 평가를 받았던 애플을 우리가 앞으로는 조금 다르게 봐야 할지도 모르겠죠. 그럼 오늘은 여기까지 패치였습니다.