LLM이 소프트웨어 칩 설계 도구 개발을 가속화함에 따라 AI가 특정 분야에서 칩 엔지니어를 능가하기 시작했다 — “여전히 많은 인간의

수십 년 동안 반도체 설계는 새로운 혁신을 이끌어내는 기발한 아이디어를 내놓는 인간에 의해 주도되어 왔습니다. 하지만 AI의 부상을 포함하여 더 나은 칩 설계의 이점들이 거두어져 왔으며, 이는 이제 칩 설계를 더 스마트하게 만드는 데 또 다른 주체가 참여할 수 있음을 의미합니다. 바로 AI 그 자체입니다.

AI 자동화가 직업 시장을 뒤흔들고 있지만, '칩 설계자(Chip designer)'는 도태될 역할 중 하나가 아닙니다. 하지만 문제가 구조화되어 있고 평가자가 견고한 설계 흐름(design flow)의 좁은 영역에서는 이점이 있는 방식으로 채택되기 시작하고 있습니다.

Google DeepMind의 AlphaChip 강화학습 (reinforcement-learning) 시스템은 회사의 Tensor Processing Units (TPUs) 3세대에 대한 설계를 생성했으며, DeepMind는 인간 설계자가 생성한 것과 비교했을 때 "초인적인(superhuman)" 레이아웃을 구현했다고 주장합니다. 이들만이 아닙니다. Synopsys는 자사의 DSO.ai 설계 공간 최적화 (design-space-optimization) 도구를 통해 100건 이상의 프로덕션 테이프아웃 (tape-outs)을 통과했으며, STMicroelectronics 및 SK hynix를 포함한 고객들을 위해 생산성을 3배 이상 높이고 전력 소비를 최대 25%까지 줄였다고 보고했습니다.

Borivoje Nikolić University of California, Berkeley 전기공학 및 컴퓨터 과학 교수은 Tom’s Hardware Premium과의 인터뷰에서 "모든 새로운 기술과 마찬가지로, AI는 여러 용도로 사용될 수 있습니다"라고 말했습니다. Nikolić 교수는 역사적으로 두 가지 방식으로 활용되어 온 무어의 법칙 (Moore's Law)과 평행 이론을 끌어냈습니다. 즉, 기존 제품을 더 저렴한 공정으로 옮겨 비용을 절감하거나, 이전에는 불가능했던 기능을 추가하는 방식입니다. 그는 "AI는 두 가지 방식 모두로 사용될 것이라고 생각합니다"라며, "현재 업계는 첫 번째 항목, 즉 어떻게 하면 더 저렴하게 만들 것인지, 어떻게 하면 과거보다 더 나은 방식으로 자동화할 것인지에 집중하고 있는 것으로 보입니다"라고 말했습니다.

대조적으로, 학계는 AlphaFold와 같은 사례를 통해 신약 개발 및 단백질 구조 예측(protein folding) 분야에서의 돌파구를 마련한 것과 유사한 접근 방식, 즉 인간이 아직 생각하지 못한 것을 발견하기 위해 AI를 사용하는 것에 더 많은 관심을 두고 있습니다.

Nikolić와 그의 동료 Sagar Karandikar는 프로세서 마이크로아키텍처 (microarchitecture)의 매우 복잡하고 세부적인 주제인 캐시 교체 정책 (cache replacement policies)에 관한 자체 연구를 통해 해당 영역을 탐구해 왔습니다. Google DeepMind의 AlphaEvolve 프레임워크를 기반으로 구축된 그들의 ArchAgent 시스템은 Google의 멀티코어 워크로드 트레이스 (workload traces)에서 기존의 최첨단 (state-of-the-art) 기술보다 IPC 속도 향상 측면에서 5.3% 더 뛰어난 캐시 교체 정책을 이틀 만에 생성해 냈습니다. 고도로 최적화된 싱글코어 SPEC06 벤치마크에서는 추가로 0.9%를 더 끌어올리는 데 18일이 걸렸습니다. 이는 Karandikar에게 있어 대규모 언어 모델 (LLM)이 단순히 기존 파라미터 (parameters)를 미세 조정하는 것을 넘어, 진정으로 새로운 로직 (logic)을 설계할 수 있다는 것을 보여주는 "생명의 첫 신호"입니다.

Berkeley의 컴퓨터 아키텍처 연구원인 Karandikar는 Tom’s Hardware Premium과의 인터뷰에서 "여전히 많은 인간의 가이드가 필요하며, 이는 인간이 해야 하는 사고의 차원을 한 단계 높여줍니다"라고 말했습니다. "그 프로젝트에 참여한 인간들은 새로운 아이디어를 내고 LLM을 가이드하는 것과 같은 더 높은 수준의 사고를 수행하며, LLM은 그 주변의 더 세밀한 정책 개발을 많이 수행합니다."

AI가 돌파구를 마련하고 있는 지점

전자 설계 자동화 (EDA)의 최전선에서 수년간 활동해 온 칩 설계 연구원 Igor Markov에게 있어, AI가 실질적인 가치를 더하고 있는 지점은 구체적이며 종종 일상적인 부분들입니다. 그는 가장 큰 성과 중 일부가 설계 흐름의 하위 단계에서 발생한다고 말하는데, 예를 들어 이전에는 엔지니어가 자연어로 작성된 비정형 사양 (informal specifications)을 해석하여 도구가 실행할 수 있는 형식적 기술 (formal descriptions)로 변환해야 했던 작업들이 이에 해당합니다.

칩 전체에 전력을 공급하는 복잡한 금속망인 전원 및 접지 네트워크 (power and ground networks)를 예로 들어보겠습니다. Markov는 Tom’s Hardware Premium과의 인터뷰에서 "때로는 자연어 (natural language) 설명만으로 설계되기도 합니다"라고 말했습니다. "사람들이 기하학적 구조 (geometry)를 설명하면 그것이 구현되고, 어느 시점에서 이를 형식화 (formalize)해야 합니다. 이 단계는 수동으로 수행되었으나, AI를 사용하여 자동화하기가 매우 간단합니다." 생산성 향상 폭이 엄청난 것은 아닙니다. 그는 "며칠이 걸리던 작업이 이제 몇 시간 만에 끝납니다"라고 설명했습니다. 하지만 결과물을 여전히 확인해야 할지라도, 아무것도 없는 것보다는 낫습니다.

Markov가 가장 낙관적으로 전망하는 부분은 그가 '에이전틱 공간 (agentic space)'이라 부르는 영역입니다. 이는 실행 결과가 실패할 운명인지, 혹은 설계 흐름 (flow)을 완전히 재시작해야 하는지를 결정하는 것을 포함하여, 칩 설계 흐름의 고수준 오케스트레이션 (high-level orchestration)을 의미합니다. 그는 "0에 무언가를 곱하면 0이 됩니다"라고 말했습니다. "하지만 이미 어느 정도 괜찮은 결과물이 있다면, 이러한 고수준 제어는 매우, 매우 강력한 조력자가 될 수 있습니다."

업계에서 가장 완고한 분야들도 AI 도입을 고민하기 시작했습니다. 아날로그 설계 (Analog design)는 오랫동안 인간의 숙련도가 필요한 마지막 보루로 여겨져 왔으나, 연구자들은 새로운 회로 토폴로지 (circuit topologies)를 발견하기 위해 GPT 스타일의 모델을 사용하는 AnalogGenie와 같은 생성형 AI (generative AI) 시스템을 만들어내기 시작했습니다. 또한, 30~120 GHz 사이에서 작동하는 밀리미터파 (millimeter-wave) 및 서브 테라헤르츠 (sub-terahertz) 전력 증폭기 (power amplifiers)를 위한 프린스턴 대학교의 AI 기반 설계 공간 탐색 (design-space discovery) 기술도 등장했습니다.

AI가 고유한 지식이나 근육 기억 (muscle memory)을 가지고 있지 않다는 점이 흔히 AI의 결함으로 간주되곤 하지만, 바로 이러한 영역에서 그것은 오히려 강점이 됩니다. 인간은 설계를 한 공정 노드 (process node)에서 다른 노드로 이식할 때, 기존의 토폴로지가 새로운 노드에서도 최적에 가까울 것이라고 가정하는 경향이 있습니다. Nikolić는 "AI는 그러한 종류의 장벽을 가지고 있지 않을 수 있습니다"라고 말했습니다.

테스트 대 실제 상황

하지만 주의가 필요합니다. AI는 데모(demo)에서 완벽한 성과를 내도록 훈련될 수 있지만, 엔지니어들이 실무에서 직면하는 더 복잡하고 지저분한 문제들에서는 낙제할 수 있습니다. Markov는 "5가지 사례에서 작동하는 것이 일반적인 상황에서도 작동하는지, 그리고 그것이 혁신을 가능하게 하는지가 핵심입니다"라고 말합니다.

애초에 AI에게 무엇을 시킬 것인가 하는 문제도 있습니다. 모델에게 AI를 위한 최고의 칩을 설계하라고 요청할 때, '최고'가 무엇을 의미하는지에 대한 공식적이고 명확한 사양(specification)이 없다면, 모델은 무언가 — 혹은 아무것이나 — 만들어낼 것입니다. Markov는 이를 실무에서 작동하게 만드는 과정에 대해 "두더지 잡기(whack-a-mole) 게임을 하게 될 것입니다"라고 말했습니다.

그는 설계 자동화(design automation)의 모든 이전 단계에서도 기계가 정말로 생각할 수 있는지에 대한 유사한 논쟁이 일어났다고 덧붙였습니다. 한때 인간만의 고유한 능력으로 여겨졌던 배선 라우팅(wire routing)을 위한 최단 경로 알고리즘은 이제 학부 과정의 과제가 되었습니다. 배치(placement) 알고리즘은 이제 일상적으로 인간 설계자보다 뛰어난 성능을 보여줍니다. 자동화하기에는 너무 추상적이라고 여겨졌던 논리 합성(logic synthesis)은 이제 for 루프와 조건문(conditionals)에 의해 처리됩니다. Markov는 "EDA는 사람들이 하던 일을 자동화해 왔기 때문에 항상 일종의 AI였습니다"라며, "우리는 그저 직선을 따라 이동하고 있을 뿐이며, 멈출 수 없습니다"라고 말했습니다.

Markov는 현재 AI가 팀의 규모를 줄이기보다는 팀으로부터 더 많은 결과물을 짜내도록 하는 승수 효과(force multiplier) 역할을 하고 있다고 말했습니다. 이러한 팀을 구성하는 인원과 그들이 기여하는 방식 또한 변화하고 있습니다. AI 코딩 어시스턴트(coding assistants)에 능숙한 엔지니어들은 6개월 전에는 수요가 없었으나 이제는 각광받고 있습니다.

칩 설계 프로세스에서 AI의 잠재력 위에는 제번스의 역설(Jevons’ paradox)도 크게 드리워져 있습니다. AI가 프로세스의 특정 부분을 극적으로 더 저렴하고 빠르게 만듦에 따라, Nikolić는 엔지니어들이 그렇게 확보된 여력을 활용하여, 애초에 이 전체 사이클을 구동하는 AI 칩의 설계까지 포함해 이전에는 감히 시도하지 못했을 영역을 탐구하게 될 것이라고 예상합니다.

결국, Markov는 아직 체계적으로 연구되지 않은 종류의 최적화가 이루어지기에 가장 적합한 실리콘(silicon) 범주가 있다면, 그것은 현재의 붐을 주도하고 있는 고도로 구조화되고 성능이 중요한 가속기(accelerators)일 것이라고 주장합니다. Karandikar는 “설계 흐름(design flow)의 다른 부분들을 개선하여 이러한 AI 기반 시스템에 더 적합하게 만들 수 있는 인간의 기회는 충분하다”라고 말했습니다. 모델이 더욱 발전함에 따라, 칩 설계 및 개발을 지원하는 능력 또한 함께 향상될 수 있습니다.

Chris Stokel-Walker는 기술 분야와 그것이 온·오프라인의 일상생활에 미치는 영향에 집중하는 Tom's Hardware 기고자입니다. 그는 2024년에 출간된 How AI Ate the World를 비롯하여 TikTok Boom, YouTubers, 그리고 The History of the Internet in Byte-Sized Chunks의 저자입니다.