아이폰 18 Pro 압도적 성능에… 체감 속도 2배 온디바이스AI 성능은 더 놀랍네요 | 2나노 칩 A20, 충격적인 벤치마크 점수보다 AI

Video: 아이폰 18 Pro 압도적 성능에… 체감 속도 2배 온디바이스AI 성능은 더 놀랍네요 | 2나노 칩 A20, 충격적인 벤치마크 점수보다 AI 성능 설계 | 발열 관리
Channel: 안될공학 - IT 테크 신기술
Duration: 8m 51s
Source: subtitle (auto, ko)
Transcript:
네, 여러분 안녕하세요. 패치입니다. 여러분, 제가 원래는 아이폰 17프로를 쓰고 있었거든요. 그런데 이번에 감사하게도 애플에서 18%를 기기 대열를 해 주셔서 이쁜 버건디 모델이 제 손에 들어왔습니다. 그래서 마침 아이폰 두 대가 생긴 좋은 기회를 빌어 가지고요. 재미삼아 간단한 실험을 해 볼 수 있을 것 같아서요. 그래서 제가 두 아이폰에서 같은 AI 모델을 돌려왔습니다. 아이폰 17 Pro랑 18%에다가 로컬리 AI를 설치를 하고요. 젠마 4 E 24B 모바일 버전을 실행해 봤는데요. 이번 테스트에서 18%가 두 배 이상이나 빠르게 답변을 만들어 냈습니다. 서버에서 답변을 받아오는게 아니라요. 휴대폰 안에 내려받은 모델이 직접 계산을 한 결과예요. 그리고 제가 지난주 애플 쇼케이스에서 18%를 비롯해서 여러 가지 신제품을 직접 보고 왔는데요. 색상도 눈에 들어왔지만 아 여러분 일단 아이폰 듀오는 접었다 펼치는 순간 화면을 쓰는 방식부터 달라지더라고요. 이런 리뷰 영상들 많이 보셨었죠? 그런데 실물로 보면 진짜 아 너무 멋집니다.

근데 저는 이번 A20 Pro에서이 부분이 좀 흥미로웠는데요. 우리가 폰에 시키는 일이 AI 답변이랑 이미지 생선까지 넓어지면서 칩도 그 계산을 감당하는 방향으로 바뀌고 있다는 거죠. 답변이 두 배 넘게 빨라진 화면을 먼저 봤으니까 이제 그 속도를내는 아이폰 안쪽을 좀 들여다 볼게요. 계산하는 곳은 어디인지, 계산할 숫자는 또 어떻게 가져오는지, 오래 돌릴 때 생기는 열은 어떻게 빼는지 좀 순서대로 봐 보겠습니다. 자, 일단 먼저 CPU인데요. 아이폰이 앱을 실행하고 여러 일을 처리를 할 때 기본이 되는 부분이죠. 긱벤치는이 CPU에다가 같은 실험을 시켜 가지고요. 속도를 좀 비교하는 그런 도구인데요. 탐스 가이드의 실측에서 아이폰 18로는 전작보다 긱벤치 6 싱글 코어가 약 24% 그리고 멀티코어가 약 28%가 높았습니다. 긱벤츠 7에서도 각각 약 28%랑 33%가 올랐고요. 그러니까 한마디로 기본 체력부터 꽤 올라온 거죠. 좀 더 확 실감 나는 비교도 있는데요. 긱벤치 7 멀티코어 점수가 기본 M3 칩을 넣은 2023년형 맥북 프로랑 비슷한 구간까지 올라왔어요.

아이폰은 이게 매체 실측이고 맥북은 사용자 결과를 집게한 거라서 조건은 좀 다르지만요. CPU 벤치마크에서는 어쨌든 휴대폰을 몇 년 전 맥북이랑 같은 표에 놓고 볼 정도가 된 겁니다. 지금 또 9월이 되니까 생각이 났는데 작년에 에러 님이 다녀온 마우이 스냅드래곤 서밋도 이번 주에 다시 열렸죠. 서밋에서 공개된 세 칩은에 엘리트 엑스트림 젠 6랑 일반형인에 엘리트 젠 6 두 종류인데요. 촬영 시점에 공개된 출시 전에 기기 벤치 7 기록을 보면 익스트림이랑 비교해 가지고 아이폰 18 Pro의 싱글 코어는 약 12%가 높고요. 멀티코어는 반대로 익스트림이 약 6%가 높습니다. 일반형의 초기 기록은 두 항목 모두 아이폰보단 좀 낮고요. 아직 완제품 실측이 아니라서 여기에서는 그냥 새 칩들이 어느 정도 구간에 있는지만 좀 보시면 될 거 같아요. 자, 그럼이 CPU 점수가 처음 보여 드린 AI 답변 속도로 그대로 이어질까요? AI 작업에는 CPU 외에도 계산을 나눠서 맞는 장치들이 있죠. 여기에서부터 A20 Pro의 설계가 재밌어집니다.

제가 현장에서 직접 만져본 듀오에도 같은 A20가 들어가는데요. AI가 문장을 만들어 낼 때 하는 일도 결국은 숫자 계산이죠. CPU가 작업의 흐름을 맞는다면 GPU는 비슷한 계산을 여러 개 동시에 처리하는데 강하고요. 뉴럴 엔진은 또 지원하는 AI 계산을 위해서 마련된 전용 장치죠. 그런데 작은 AI 계산 하나를 위해 가지고 매번 다른 장치다 일을 넘기고 결과를 기다리면 오가는 시간도 당연히 생기겠죠. A20에는 CPU 안에도 뉴럴 액셀러이터가 들어갑니다. CPU가 하던 일의 흐름에서 적합한 계산을 빠르게 처리할 길을 마련한 거예요. 큰 계산은 한꺼번에 처리를 하고 작은 계산은 필요한 자리에서 빠르게 끝내는 거. 그러니까 A20는 이렇게 나눠서 맡길 수 있는 그런 장치를 갖춘 셈입니다. 그런데 또 일하는 장치만 빨라져서는 끝이 아니겠죠. 계산할 숫자를 제때 가져와야 하니까요. 애플에 따르면 A2 프로의 메모리 대역폭은 전작보다 50%가 늘었습니다. 이거는 여러분 저장 공간이 50% 커졌다는 뜻은 아니고요.

같은 시간에 데이터를 옮길 수 있는 그런 통로가 넓어졌다 그 얘기죠. 좀 비율를 해 보자면 엄청난 수학 천재랑 저를 이렇게 나란히 앉혀 놓고요. 문제질을 한 장씩 아주 천천히 건네 주는 상황입니다. 그렇게 되면이 시간 동안에는 저랑 별로 능력 차이가 없겠죠. 왜냐면 둘 다 기다리고 있으니까요. 칩도 마찬가지입니다. 계산이 아무리 빨라도 필요한 숫자가 일단 도착을 해야 일을 할 수 있겠죠. 그래서 연산 성능이랑 데이터를 가져오는 속도를 함께 높이는 거고요. 자, 여러분, 그러면 이제 처음에 보여 드렸던 잼마 화면을 다시 좀 떠올려 보세요. 질문을 읽는 시간이랑 답변이 화면에 계속 올라오는 시간은 같은 작업처럼 보여도 이게 안에서 하는 일이 달라요. 질문을 처음 읽을 때는 입력된 내용을 묶어 가지고 계산을 할 수 있고요. 어, 이때는 당연히 한꺼번에 계산하는 능력이 중요하겠죠. 근데 답변을 쓰기 시작하면 이제 다음에 올 말의 작은 조각을 하나씩 하나씩 고르게 됩니다. 그때마다 이제 모델의 숫자를 가져와서 계산을 하는 거예요.

숫자를 가져오는 속도가 느리게 되면 계산 장치가 빨라도 답변이 올라오는 속도가 제한될 수 있겠죠. 그러니까 같은 AI 대화 안에서도 어떤 순간에는 계산 능력이 그리고 또 어떤 순간에는 데이터 공급이 더 중요해지는 겁니다. 자, 그러면 휴대폰에 이미지 생성도 맡겨 보면 어떨까요? 이번에는 답변 대신에 그림을 만들어 볼게요. 드로우스라는 앱을 쓰면 여러 이미지 생성 AI 모델을 내려받아 가지고 휴대폰에서 직접 돌릴 수가 있거든요. 이거 장당 생성 요금 없이 꽤 괜찮은 화질의 이미지를 계속 만들어 볼 수 있는데요. 저는 스크래트를 써 가지고 이미지를 20장 이상으로 연속으로 생성하도록 해 봤습니다. 원하는 장면을 미리 넣어 두면요. 한 장씩 만들고 저장을 한 뒤에 그다음에 다음 이미지로 넘어가는 거예요. 이렇게 했더니 실제로 스무장을 만드는데 약 11분이 걸렸습니다. 실행을 해 두고 결과가 쌓이면 그중에서 쓸 만한 걸 고르면 되는 거죠. 배경 화면 후보라든지 영상에 쓸 장면의 구도를 여러 개 뽑는 일까지 휴대폰 안에서 그냥 다 해 볼 수 있는 거예요.

근데 재밌는게 이번 이미지 생성에서는 앞에서 본 그런 답변 생성만큼 큰 속도 차이는 나오지 않았다는 겁니다. 이게 왜 그럴까요? AI라고 다 같은 방식으로 일하지는 않기 때문인데요. 어떤 작업은 숫자를 자주 가져와서 데이터가 오기를 기다리고요. 어떤 작업은 한 가져온 숫자로 계산을 많이 하느라고 바쁘죠. 그래서 한쪽에서는 메모리 통를 넓힌 효과가 크게 보이고요. 다른 쪽에서는 계산을 맡은 장치라든가 앱의 처리 방식이 더 중요해질 수 있습니다. 같은 칩을 써도 작업마다 속도 차이가 다른 이유예요. 그리고 이게 한 가지가 더 있는데 좋은 도구를 갖고 있어도 앱이 그 도구에 맞게 일을 시켜야지 빠르겠죠. A20의 CPU랑 GPU에 있는 뉴럴 액셀러레이터도 마찬가지입니다. 예를 들어 가지고 앱이 어떤 계산을 어디에다 맡길지를 정하고요. iOS랑 실행 엔진이 그 경로를 지원을 해야지 가속 기능의 이점을 살릴 수 있겠죠. 세 칩에 맞춘 최적화가 더해지면 같은 아이폰 안에서도 이게 속도가 달라질 여지가 있는 거예요.

근데 반대로 데이터가 오는 걸 기다리는 작업이라면 계산을 그냥 더 빠르게 하는 것만으로는 부족하겠죠. 같은 데이터를 자꾸 가져오지 않도록 처리하는 방식까지 좀 다듬어야 됩니다. 결국 A20의 AI 성능은 칩화의 숫자로 끝나지 않습니다. 앱이이 하드웨어를 어떻게 활용하느냐까지 쭉 이어지는 이야기예요. 그리고 이렇게 그림 스무장처럼 일을 오랫동안 시키면 또 하나의 문제가 생기는데요. 처음엔 빠르다가 폰이 점점 뜨거워지기 시작을 하고 그럼 폰에 열이 쌓이면서 속도가 좀 떨어질 수 있다는 거죠. 그래서 이번에는 열이 빠져나가는 길도 바꿨습니다. A20의 연산 칩이랑 메모리를 옆으로 나란히 두고요. 뜨거워지는 칩이 냉각 장치인 베이퍼 챔버에 직접 닿도록 한 거죠. 베이퍼 챔버 안에서는 액체가 뜨거운 곳에서 증발을 하고요. 다른 곳에서 다시 액체로 돌아오면서 열을 넓게 퍼트려 주는 역할을 합니다. 애플을 설명하기로는이 면적을 전작에 세 배로 늘렸고 올해 사용할 때 지속 성능이 최대 40%가 높아졌다고 합니다. 순간적으로 빠른 것이랑 계속 빠르게 일하는 거 둘 다 중요해진 거죠.

여기에다가 2나노 공정도 보탬이 돼요. 칩 안에는 전기의 흐름을 켜고 끄는 아주 작은 스위치들이 있는데요. 이번 세대 나노시트 구조가 그 통로를 사방에서 감싸 가지고 전류를 더 정밀하게 제어하고 있거든요. 같은 일을 할 때 전력을 아낄 수 있는 여지가 생기고 그렇게 발생한 열은 앞서서 본 냉각 구조로 빼내는 거죠. 계산 성능을 높이는 것부터 그거를 오래 유지하는 것까지 쭉 한 번에 이어지는 겁니다. 제가 처음에 보여 드린 그 잼마 답변 생성에서는 두 배 이상의 차이를 확인을 했어요. 이미지 생선까지 해 보면 휴대폰에 맡길 수 있는 일도 지금 꽤 많아졌고요. 그래서 제가 보는 A20의 변화는 이렇게 정리가 됩니다. 계산하는 장치를 키우고요. 필요한 데이터를 더 잘 공급을 하고 오래 돌릴 때 열 가지 관리를 합니다. AI를 잠깐 실행하는 데서 더 나아가 가지고 휴대폰에 계속 일을 맡기는 상황을 잘 고려를 한 설계인 거죠. 앞으로는 앱이랑 운영 체제가이 기능들을 얼마나 잘 활용하는지도 아마 체감 속도를 자우할 것 같습니다.

그럼 오늘은 여기까지 버건지 아이폰이 생겨서 신인한 패치였습니다. 입니다.