인간은 상상조차 할 수 없는 무선 칩을 설계하는 AI

짧은 답변: Princeton University 연구진은 마치 외계의 것 같거나 QR 코드와 유사한 레이아웃을 가진 무선 주파수 (RF) 칩을 설계하는 AI 시스템을 개발했습니다. 이 시스템은 설계 시간을 몇 달에서 며칠로 단축하는 동시에, 인간 엔지니어가 제작한 회로보다 뛰어난 성능을 보여주었습니다.

무선 주파수 집적 회로 (RFIC)는 5G 안테나부터 자율 주행 차량의 레이더, 위성 통신에 이르기까지 모든 것에 전력을 공급합니다. 수십 년 동안 이를 설계하는 것은 “암흑의 기술 (dark art)” — 즉, 고도로 전문화된 엔지니어들이 몇 달 또는 몇 년이 걸리는 직관 중심의 기술이었습니다. 이제 AI가 그 암호를 풀고 있으며, AI가 생성하는 칩 레이아웃은 인간이 그리는 것과는 전혀 다르게 생겼습니다.

RFIC 설계의 “암흑의 기술”

표준 셀 (standard cells)을 통해 고도로 자동화된 디지털 칩 설계와 달리, RFIC 설계는 여전히 완고하게 수동적인 상태로 남아 있습니다. RF 칩은 전자기학 (electromagnetics), 소자 물리학 (device physics), 열팽창 (thermal expansion), 열 방산 (heat dissipation) 등 여러 물리적 영역에 걸쳐 동시에 작동하며, 이 모든 요소가 30~120 GHz의 주파수 대역에서 상호작용합니다. 이러한 복잡성은 5G/6G, 자율 주행 차량 및 위성 통신 전반의 발전을 제약하는 병목 현상을 초래합니다.

Princeton의 Kaushik Sengupta 교수는 IEEE Spectrum에 기고한 1인칭 기록에서 “RFIC 설계는 여러 물리적 영역에 걸친 공학적 연습입니다”라고 설명합니다.

칩을 다르게 설계하는 세 가지 AI 기술

Sengupta 교수 연구팀은 RFIC 설계를 공학적 문제가 아니라 학습하고 최적화해야 할 게임으로 취급하며 세 가지 상호 보완적인 AI 방법을 사용합니다.

시청: Google DeepMind의 AlphaChip은 강화학습 (reinforcement learning)을 사용하여 칩 레이아웃을 설계합니다. 이는 Princeton이 RF 회로 설계에 적용하는 것과 동일한 접근 방식입니다. (출처: Google DeepMind)

강화학습 (Reinforcement Learning) — 칩 설계의 AlphaGo

연구팀은 RFIC 설계를 RL (강화학습) 문제로 정식화했습니다. 여기서 "상태 (state)"는 현재의 설계 토폴로지 (topology)이며, "행동 (actions)"은 회로를 수정하는 것이고, "보상 (reward)"은 시뮬레이션된 성능입니다. DeepMind의 AlphaGo와 마찬가지로, RL 에이전트는 인간의 편향 없이 물리 기반의 설계 공간을 탐색하며, 엔지니어가 상상조차 할 수 없는 토폴로지를 발견합니다. ISSCC 2025에서 연구팀은 30~120 GHz에 이르는 RL 기반 설계들을 선보였습니다.

역설계 (Inverse Design) — 성능을 지정하면 구조가 도출됨

기하학적 구조(geometry)에서 시작하여 성능을 시뮬레이션하는 대신, 역설계 (inverse design)는 이를 뒤집습니다. 즉, 엔지니어가 원하는 사양 (specs)을 지정하면 AI가 기하학적 구조를 계산합니다. 심층 신경망 (deep neural networks)은 전자기장 (electromagnetic fields)을 예측하여, 느린 EM 시뮬레이터 (EM simulators)를 즉각적인 추론 (inference)으로 대체합니다. 2024년 12월 Nature Communications 논문은 서브 테라헤르츠 (sub-terahertz) 주파수 대역의 멀티포트 RF 수동 소자 (RF passives)에 대해 이를 입증했습니다.

시청하기: 프린스턴 대학교의 Kaushik Sengupta 교수가 AI 기반 역설계와 강화학습 (reinforcement learning)이 어떻게 새로운 RFIC 설계 공간을 열고 있는지 설명합니다. (출처: IEEE Solid-State Circuits Society)

확산 모델 (Diffusion Models) — 노벨상 수상 생물학 AI에서 빌려온 기술

연구팀은 노벨상을 받은 단백질 구조 예측 AI의 기반이 된 것과 동일한 아키텍처인 확산 모델 (diffusion models)을 RF 칩 설계에 맞게 조정하여 RFdiffusion이라 명명했습니다. 이는 공간 주파수 (spatial frequency)를 제어하는 독특한 "다이얼 (dial)"을 통해 새로운 회로 레이아웃을 빠르게 생성하며, 설계자가 외계 구조처럼 보이는 형태 (최대 성능)와 인간이 해석 가능한 레이아웃 사이를 조절할 수 있게 해줍니다.

실제 제작 및 작동하는 칩

결과물은 마치 현대 미술 작품 같습니다. Sengupta 교수는 GlobalFoundries에 다음과 같이 말했습니다. "이 AI 알고리즘에서 나온 전자기 구조들은 매우 복잡한 QR 코드처럼 보였습니다. 그것만 봐서는 아무도 무엇을 하는지 알 수 없습니다. 하지만 일단 회로 소자들을 추가하면, 전체 회로가 매우 뛰어난 성능으로 작동합니다."

이러한 "외계인(alien)" 레이아웃은 GlobalFoundries의 실리콘 게르마늄(silicon germanium) 9HP 플랫폼에서 제작되었으며, 30~120 GHz 대역의 전력 증폭기(power amplifiers), 수동 소자(passives), 안테나(antennas) 및 완전한 송신기(transmitters) 전반에서 성능이 입증되었습니다. 많은 경우 최첨단(state-of-the-art) 인간 설계안을 능가하는 성능을 보여주었습니다.

3,000만 달러 규모의 정부 베팅: AIDRFIC 프로그램

CHIPS 법(CHIPS Act)에 따른 NSTC 운영 기관인 Natcast를 통해, 3,000만 달러 규모의 AIDRFIC 프로그램은 세 팀인 Princeton(약 1,000만 달러), Keysight, 그리고 UT Austin에 자금을 지원합니다. 파트너사로는 RTX, Cadence, Qualcomm, Skyworks, TI, Nokia Bell Labs, 그리고 Ericsson이 포함됩니다.

Natcast의 CEO인 Deirdre Hanford는 Princeton Engineering의 발표에서 "무선 주파수(radio frequency) 설계를 위해 AI를 수용하는 것은 기술 혁신 분야에서 미국의 리더십을 유지하는 데 있어 매우 중요합니다"라고 말했습니다.

이 자금 지원은 반도체 산업이 무어의 법칙(Moore’s Law)의 한계에 직면한 시점에 이루어집니다. TekMag은 최근 IBM이 1nm 미만(sub-1nm) 칩을 향해 나아가는 방식을 다룬 바 있습니다. AI 기반 설계는 이와는 다른 경로를 제시합니다. 즉, 트랜지스터를 더 작게 만드는 것이 아니라, 인간은 결코 생각하지 못할 방식으로 트랜지스터를 배치하는 것입니다.

몇 달에서 며칠로: 산업계에 미치는 영향

설계 시간이 몇 달에서 "수십 배(orders of magnitude) 더 짧은 시간", 즉 실제 며칠 단위로 단축됩니다. 이는 다음과 같은 심오한 함의를 갖습니다.

• RF 설계의 민주화 — 인재 풀을 제한하는 "수십 년간의 암묵적 지식(tribal knowledge)"에 대한 의존도 감소
• 더 빠른 5G/6G 구축 — 며칠 만에 반복 개선되는 더 효율적인 RF 프런트엔드(RF front-ends)
• 더 저렴한 위성 통신 — 더 낮은 설계 비용으로 구현되는 고성능 RF 체인(RF chains)
• 더 나은 차량용 레이더 — AI로 최적화된 77–79 GHz 회로
• 첨단 국방 시스템 — 차세대 레이더 및 통신 하드웨어

Cadence, Synopsys, Keysight가 주도하는 상용 EDA (Electronic Design Automation) 시장은 잠재적인 격변에 직면해 있습니다. 특히 이 세 기업 모두 AIDRFIC의 파트너라는 점은, 그들이 산업이 나아갈 방향을 이미 인지하고 있음을 시사합니다.

신뢰의 역설 (The Trust Paradox)

AI가 설계한 하드웨어는 독특한 과제에 직면해 있습니다. 단순히 QR 코드와 같은 레이아웃을 보고 그것이 왜 작동하는지 이해할 수 없기 때문입니다. RFdiffusion의 '외계적(alien) 레이아웃'과 '해석 가능한(interpretable) 레이아웃' 사이의 조절 기능은 실질적인 가교 역할을 하며, 엔지니어들이 직관을 넘어서면서도 점진적으로 신뢰를 쌓을 수 있게 해줍니다. IEEE Spectrum 기사는 이 분야가 성숙하기 위해서는 **대규모의 공유된 칩 설계 데이터셋 (large, shared chip design datasets)**과 개방형 생태계가 필수적이라고 언급했습니다.

맞춤형 칩 설계가 AI 인프라를 재편함에 따라, 그리고 AI가 계속해서 헤드라인을 장식함에 따라, 이번 Princeton의 돌파구는 또 다른 개척지를 표시합니다. AI는 더 이상 단순한 소프트웨어 도구가 아니라, 자신이 구동되는 바로 그 하드웨어를 직접 설계하고 있습니다.

TekMag의 더 많은 소식: Best of TekMag June 2026 — 이달의 가장 큰 뉴스들을 확인하세요.

자주 묻는 질문 (Frequently Asked Questions)

이러한 AI 설계 칩이 실제로 제조되고 있나요?

네. 해당 회로들은 GlobalFoundries의 실리콘 게르마늄(silicon germanium) 9HP 플랫폼을 통해 GlobalShuttle Multi-Project Wafer 프로그램을 거쳐 성공적으로 제작되었습니다. 시뮬레이션이 아닌 실제 실리콘입니다.

AI 칩 설계는 인간 엔지니어보다 얼마나 더 빠른가요?

이 방법들은 설계 시간을 몇 달에서 며칠로 단축합니다. Sengupta는 이러한 개선을 "수십 배(orders of magnitude) 더 적은 시간"이라고 설명합니다.

AI가 RF 칩 엔지니어를 대체할까요?

전적으로 그렇지는 않습니다. AI는 미지의 설계 공간을 탐색하는 데 탁월하지만, 사양(specifications)을 정의하고, 시스템을 통합하며, 결과를 해석하는 데에는 인간 엔지니어가 여전히 필수적입니다.

사진 출처: 프린스턴 대학교에서 설계한 AI 기반 RF 마이크로칩의 클로즈업 사진으로, 복잡하게 얽힌 금 회로 패턴이 보입니다. 사진 제공: Emir Ali Karahan, Princeton University.

출처: IEEE Spectrum · Princeton Engineering · GlobalFoundries · Nature Communications

원래 게재된 곳: TekMag — 기술 혁명의 최전선에서.