Coco: 하드웨어-소프트웨어 공동 설계 라이프사이클을 위한 에이전트형 코파일럿

ML 모델과 이를 구동하는 가속기(accelerators)를 공동으로 설계하는 것은 이례적인 추론 작업입니다. 아키텍트는 아직 존재하지 않는 시스템에 대해 자신감 있고 중요한 결론을 내려야 하며, 모델 진화 속도와 하드웨어 주기(hardware cadence)가 모두 빠르다는 것은 분석 부담이 매 분기마다 증가한다는 것을 의미합니다. 각 결정의 근거가 되는 증거—새로운 설계 지점들에 대한 수백 기가바이트의 신규 시뮬레이션 스윕(simulation sweeps)—는 본질적으로 어떤 LLM의 사전 학습 코퍼스에도 존재하지 않으며, 검색할 외부 문헌도 없습니다. 단순한 '데이터와 채팅하기' 접근 방식은 정확성이 가장 중요한 곳에서 환각(hallucinate)을 일으킵니다. 우리는 TPU 아키텍트들에게 배포된 에이전트형 플랫폼인 Coco (Copilot for Codesign)를 소개합니다. 이는 실험 설정, 시뮬레이터 스윕, 통찰력 도출의 공동 설계 라이프사이클을 가속화합니다. Coco는 네 가지 계층으로 구축되었습니다: (i) 모든 시뮬레이션 스윕을 정규화된 관계형 스키마(relational schema)에 자동으로 등록하는 데이터 저장소(datastore); 따라서 에이전트는 이질적인 파일을 긁어모으기보다 SQL 쿼리에서 모든 숫자를 근거로 삼습니다; (ii) 인간의 오케스트레이션 없이 에이전트가 조합할 수 있는 타입 지정 API를 가진 도구 라이브러리(library of tools); (iii) 반복되는 분석 워크플로우—특히, 파레토 프론티어(Pareto frontier)에서 벗어난 스윕되었지만 지배적인(dominated) 지점들을 포함하여 일치하는 실행 구성(matched execution configurations)에서 시스템을 비교하는 iso-execution analysis와 같은 분석—를 인코딩하는 에이전트; 그리고 (iv) 탐색 상태가 에이전트 컨텍스트 역할을 하는 플랫폼 UX입니다. 우리는 시뮬레이션 시간 및 통찰력 도출 시간을 단축시키는 초기 배포 경험을 보고하며, 공동 설계는 별개의 에이전트 영역(agentic domain)이라고 주장합니다. 이 분야의 데이터는 암기되는 것이 아니라 검색되어야 하며, 워크플로우는 반복적이지만 컨텍스트 의존적이고, 전문가 채택은 IDE 스타일의 제어와 대화형 탐색을 균형 있게 맞춘 UX에 달려 있습니다.