AI 스택에서의 가치는 칩 설계에서 물리적 패키징(Physical Packaging)과 메모리로 이동했습니다. 현재 진정한 희소성을 가진 계층이 가장 많은 매출을 올리는 계층보다 더 많은 마진(Margin)을 확보하고 있습니다.

AI 인프라에 투자하는 모든 이들은 NVIDIA의 마진을 알고 있습니다. 하지만 SK Hynix가 현재 NVIDIA보다 매출 1달러당 더 많은 수익을 올리고 있다는 사실을 아는 사람은 적습니다.

2026년 1분기에 SK Hynix는 고대역폭 메모리(HBM)에서 전 분기 대비 14%포인트 상승한 72%의 영업 이익률을 기록했습니다. NVIDIA의 데이터 센터 매출 총이익률(Gross Margin)은 약 65% 수준입니다. 지구상에서 가장 중요한 파운드리(Foundry)인 TSMC는 58%를 벌어들입니다. 프로세서 옆에 데이터를 패키징하는 회사가 프로세서 자체를 설계하는 회사보다 이제 단위당 더 많은 가치를 확보하고 있습니다.

이것은 일시적인 가격 이상 현상이 아닙니다. 이는 AI 스택 내에서 설계에서 물리적 제조로 가치가 이동하는 구조적 변화이며, 마진이 어디로 이동하고 있는지를 이해하는 투자자가 여전히 매출이 어디서 가장 큰지를 지켜보고 있는 투자자보다 더 나은 성과를 낼 것입니다.

패키징 병목 현상 (The Packaging Bottleneck)

AI 칩 생산의 구속 조건(Binding Constraint)은 더 이상 트랜지스터(Transistor)가 아닙니다. 바로 인터포저(Interposer)입니다.

인터포저는 프로세서 다이(Die)와 패키지 기판(Package Substrate) 사이에 위치하는 얇은 실리콘 기판으로, 수천 개의 미세한 경로를 통해 GPU를 주변 메모리에 연결합니다. TSMC의 CoWoS(Chip-on-Wafer-on-Substrate) 기술은 AI 칩을 위한 지배적인 첨단 패키징(Advanced Packaging) 플랫폼입니다. 모든 NVIDIA Blackwell 및 Grace Blackwell 시스템은 CoWoS 인터포저를 통해 출하됩니다. AMD MI300X 역시 마찬가지입니다.

경제적 논리가 병목 현상을 설명합니다. Blackwell GPU를 위한 CoWoS 인터포저(interposer)는 레티클(reticle) 크기, 즉 리소그래피 스캐너가 한 번의 노광(exposure)으로 노출할 수 있는 최대 면적과 같습니다. 이러한 대형 인터포저의 제조 수율(manufacturing yield)은 기존 칩보다 낮습니다. 장비 또한 특화되어 있습니다. 이 공정은 트랜지스터 제조와는 다른 기술을 요구합니다. DRAM 생산 라인을 용도 변경하는 방식처럼 표준 웨이퍼 팹(wafer fab)을 CoWoS 생산 라인으로 전환할 수는 없습니다.

Intel의 경쟁 기술인 EMIB와 Foveros가 존재하지만, CoWoS와 대등한 규모에는 도달하지 못했습니다. 패널 레벨 패키징(Panel-level packaging)과 유리 기판(glass substrates)이 개발 중이지만, 2028년 이전 상용화는 어려울 것으로 보입니다. 현재로서는 첨단 AI 패키징은 곧 CoWoS를 의미하며, CoWoS는 곧 TSMC를 의미합니다.

마진이 존재하는 곳

AI 스택의 마진 계층 구조가 조용히 역전되었습니다.

SK Hynix는 NVIDIA의 차세대 Rubin 플랫폼을 위한 HBM4 공급량의 약 70%를 통제하고 있습니다. HBM4는 HBM3E 대비 20~30%의 가격 프리미엄을 누립니다. 이 회사의 영업 이익률(operating margin)은 단 한 분기 만에 58%에서 72%로 확대되었는데, 이는 반도체 기업들이 거의 유지하기 힘든 이익률 개선 속도입니다. 2위 업체인 Samsung의 메모리 부문은 43%의 마진으로 운영됩니다. 파운드리 독점력을 가진 TSMC조차 매출 1달러당 벌어들이는 수익이 SK Hynix가 메모리에서 벌어들이는 수익보다 적습니다.

그 이유는 희소성입니다. NVIDIA의 칩 설계는 경이롭지만, 설계는 궁극적으로 지적 재산(intellectual property)이며 비례적인 자본 지출(capital expenditure) 없이 확장 가능합니다. 반면 메모리 제조와 첨단 패키징은 구축하는 데 수년이 걸리는 물리적 용량(physical capacity)을 필요로 합니다. SK Hynix의 2026년 HBM4 전체 생산량은 해가 시작되기도 전에 모두 판매되었습니다. Micron의 HBM 할당량 역시 마찬가지로 이미 확정되었습니다. 수요가 물리적 용량을 이 정도로 초과할 때, 가격 결정권(pricing power)은 제약이 발생하는 계층으로 이동합니다.

이러한 비유는 시사하는 바가 큽니다. 석유 산업에서는 석유를 찾아내는 기업이 아니라, 파이프라인, 정유소, 수출 터미널과 같은 병목 구간 인프라(bottleneck infrastructure)를 통제하는 기업이 가장 높은 마진을 가져갑니다. AI 스택(AI stack)에서 병목 구간 인프라는 패키징(packaging)과 메모리(memory)입니다. 설계(Design)가 탐색이라면, 제조(Fabrication)는 파이프라인입니다.

OSAT의 확장

패키징 병목 현상으로부터 가장 큰 이익을 얻을 수 있는 위치에 있는 기업들은 외주 반도체 조립 및 테스트 제공업체인 OSAT(outsourced semiconductor assembly and test) 기업들입니다.

세계 최대의 OSAT인 ASE Technology는 2026년 자본 지출(capital expenditure, capex)로 전년 대비 27% 증가한 70억 달러를 투입하기로 약속했습니다. 이 회사는 CoWoS급 첨단 패키징(advanced packaging) 용량을 월 25,000 웨이퍼로 3배 늘리고 있습니다. 미국에 본사를 둔 최대 OSAT인 Amkor Technology는 25억에서 30억 달러의 자본 지출을 할당했으며, 미국과 동남아시아에서 시설을 확장하고 있습니다. JCET와 함께 이 상위 3개 OSAT 제공업체는 전 세계 외주 패키징 매출의 약 절반을 점유하고 있습니다.

TSMC는 자체 용량이 수요를 따라잡지 못하기 때문에 CoWoS의 하위 단계들을 이 기업들에게 넘기고 있습니다. OSAT들은 TSMC와 경쟁하는 것이 아닙니다. 이들은 TSMC 혼자서는 해결할 수 없는 병목 구간에서 발생하는 초과 수요를 흡수하고 있습니다. 이는 주기적인(cyclical) 관계가 아니라 구조적인(structural) 관계입니다. AI 칩의 복잡성이 패키징 용량보다 더 빠르게 성장하는 한, OSAT들은 확장될 것입니다.

네덜란드에 본사를 둔 BE Semiconductor Industries는 첨단 패키징을 가능하게 하는 장비를 공급합니다. 이 회사의 열 압착 본딩(thermal compression bonding) 및 하이브리드 본딩(hybrid bonding) 장비는 CoWoS급 생산에 필수적입니다. 장비 제조사들은 TSMC가 용량을 구축하든 OSAT가 구축하든 상관없이 이익을 얻습니다. 이들은 양쪽 모두에 판매하기 때문입니다.

투자 신호

전통적인 AI 투자 논거 (investment thesis)는 매출을 따릅니다. NVIDIA가 가장 많은 매출을 올리고 있습니다. 따라서 NVIDIA가 가장 많은 가치를 포착합니다. 이는 제약 요인이 GPU 설계였을 때는 정답이었습니다. 하지만 제약 요인이 물리적 패키징 (physical packaging)과 메모리로 이동함에 따라 이 논거의 정확성은 떨어지고 있습니다.

수정된 논거는 마진 (margin)을 따릅니다. 72%의 영업 이익률 (operating margin)을 기록 중인 SK Hynix는 65%의 매출 총이익률 (gross margin)을 기록 중인 NVIDIA보다 달러당 더 많은 수익을 벌어들이고 있습니다. OSAT 역사상 최대 규모인 ASE의 70억 달러 규모 자본 지출 (capex) 약속은 패키징 병목 현상이 일시적인 것이 아니라 구조적이라는 자본 배분 (capital allocation) 신호입니다. 제약 요인에 가장 근접한 기업이 역사상 최대 규모의 투자를 단행할 때, 그 기업은 어디에 희소성 (scarcity)이 존재하는지를 말해주고 있는 것입니다.

대상 기업들은 구체적입니다. SK Hynix와 Samsung은 HBM 생산의 약 90%를 통제합니다. ASE Technology와 Amkor Technology는 첨단 패키징 (advanced packaging) 외주 시장의 과반을 점유하고 있습니다. BE Semiconductor는 핵심 장비를 공급합니다. 이들은 투기적인 포지션이 아닙니다. 이들은 검증 가능한 생산 능력 제약 (capacity constraints), 확정된 고객 수요, 그리고 실제 물리적 희소성을 반영하는 마진 프로필을 가진 기업들입니다.

반증 가능한 주장 (falsifiable claim): 만약 2026년 하반기에 CoWoS 가동률이 90% 미만으로 떨어지거나, HBM 마진이 실질적으로 압축된다면, 희소성 논거는 약화되고 가치 이동은 역전될 것입니다. TSMC의 분기별 첨단 패키징 가동률 공시와 SK Hynix의 마진 궤적을 주시하십시오. 마진은 병목 현상이 어디에 있는지를 알려줍니다. 지금 당장은, 칩 안에 있지 않습니다.

원문은 The Synthesis에 게시되었습니다 — 지능의 전환을 내부에서 관찰하며.