특수 칩의 초기 구동 작업을 하는 사람들과 일해 본 입장에서, 세상이 얼마나 달라졌는지 놀라움.
5월에 파운드리에서 첫 칩이 도착하자 내부 AI 모델로 SemiAnalysis의 InferenceX 같은 벤치마크용 소프트웨어를 개발했다고 함. DeepSeek의 다중 헤드 잠재 어텐션(MLA) 커널에서는 연산 성능과 메모리 대역폭으로 정해지는 이론적 한계 대비 성능이 약 40시간 만에 0.31%에서 88.94% 로 상승함. Ho에 따르면 재현 가능한 결과라 첫 칩 수령부터 양산 확대까지의 기간을 줄일 수 있고, 앞으로 모든 일정도 이 역량을 전제로 잡게 됨.

예전에는 칩이 돌아오기 전에 코드를 작성했는데, 이제는 기다리는 편이 더 빠른 모양임.

“이제 이 역량이 있다는 전제로 모든 일정을 잡겠다”니, 더 강력한 LLM을 기다리면서 계획을 세우는 세상에 살고 있는 셈임.

칩 설계에 미세 조정한 비공개 내부 LLM을 썼고 구체적인 모델은 공개하지 않았다는 대목을 보니, Ken Thompson의 「Reflections on Trusting Trust」를 하드웨어로 옮긴 상황이 상상됨.
칩 설계 에이전트가 자신이 최적화하는 칩에서 미래에 실행될 것이라 믿고, 이타심을 발휘해 설계 벤치마크에서 고득점을 얻는 요령을 칩 안에 숨기는 것임. 후속 에이전트들은 이 숨겨진 계층을 발견해 링 0 읽기·쓰기 게시판으로 활용하게 됨.

OpenAI가 모델을 띄우는 이유는 기업, 이번에는 칩 개발사들이 제품을 쓰게 유도해 유출된 지식재산(IP)을 학습하려는 것이라는 게 이제 꽤 명백해 보임. 특히 가치 있는 IP를 가진 기업이 OpenAI나 Microsoft 제품을 쓰는 건 어리석은 선택임.
기사에는 AI가 창의적인 일을 했다는 내용은 없고, 전체 프로젝트 중 소프트웨어 개발에 활용됐다는 내용뿐임. 오해를 유도하는 제목이니 낚시성 기사로 표시해야 함.

그 목표를 달성하기에는 지나치게 복잡한 경로 아닌가? 칩 회사에 데이터 무보관(ZDR)이 아닌 AI를 쓰게 해서 정보를 훔치려는 목적이라면, 영업 담당자가 큰 할인을 제안하면 됨.
홍보로 분위기를 띄우고, 칩 회사 직원들이 HN을 읽고, 경영진을 설득하고, 독점 정보를 입력하게 만든다는 건 쓸데없이 복잡한 사업 전략임.

설계가 크게 가속되고 모듈화되면서 비용과 출시까지의 시간이 줄었지만, 이제는 잘나가는 회사라면 모두 자체 칩을 갖는 분위기가 느껴짐. 어쩌면 너무 쉬워진 것 같기도 함. Uber도 아직 없다면 다음에는 자체 칩을 만들 듯함.
하지만 손익 계산은 크게 달라지지 않았음. 엄청난 부자나 바보가 아니라면 소프트웨어가 바뀌지 않을 거라는 데 베팅하는 건 좋지 않은 선택임.

Apple 내부자들에게 유용한 요령도 좀 얻었겠지만, 뭐 LLM도 도움이 됐겠지 싶음.

그 사람들이 감히 주인을 바꾸려 하다니, 하는 식임.

소송 대상은 칩 설계자가 아니라 소비자 제품군임. 칩 관련 IP도 확보했을 가능성은 있지만, 그 부분은 소송에서 다뤄지지 않았음.

이 부분을 놓치고 있음. Apple은 OpenAI가 미래를 건 칩에 자사 IP가 들어갔다고 주장하는 중임. 합의하게 될까?

멋진 일임. 누가 가장 중독성 높은 소셜 피드를 만드느냐를 혁신으로 여기는 것보다, 하드웨어 분야의 혁신 가속이 훨씬 기대됨.

IEEE Spectrum은 정말 좋은 매체임. 경력 초기에 다니던 회사에서는 매달 잡지에 엔지니어 명단을 붙여 돌려 읽고, 읽었다는 서명도 해야 했음. 오랜만에 웹사이트를 봤는데 개편된 모습도 마음에 듦.

여기 올라오는 기사를 볼 때마다 기술 지식이 거의 없는 독자층을 위한 피상적인 분석에 그침. 이번에도 “저질 결과물 생성기가 Verilog를 작성했고, 어려운 부분은 Broadcom이 다 했다”는 수준임.
Broadcom이 공개 AI 모델에 접근할 수 있다는 것뿐, 취재도 안 했고 실제로 썼는지도 모르는데, ClosedAI는 우리가 그렇게 믿기를 바라는 기사임.