Rosetta: 다중 에이전트 LLM을 활용한 제1원리 성능 모델링 자동화
요약
Rosetta는 연구 논문 PDF를 입력받아 제1원리 분석 모델을 자동으로 생성하는 다중 에이전트 LLM 파이프라인입니다. 이 시스템은 수학적 명세, 실행 가능한 Python 코드, 그리고 영어 해석본을 인간의 개입 없이 자율적으로 산출합니다. 특히 형식화 과정 자체가 논문의 암묵적인 가정을 표면화하고 누락된 매개변수를 식별하는 데 큰 가치를 제공합니다.
핵심 포인트
- 연구 논문 기반 제1원리 모델링 자동화가 가능해짐.
- 다중 에이전트 구조로 순환 논리, 환각 등을 방지함.
- 생성된 결과물은 실제 연구 수정 및 새로운 실험으로 이어졌음.
- 논문의 암묵적 가정과 누락 매개변수 식별에 유용함.
분석적 성능 모델(Analytical performance models) — 하드웨어 매개변수로부터의 처리량 또는 속도 향상 도출 — 은 주장이 독립적으로 검증 가능하게 하고 바인딩 제약 조건(binding constraints)을 노출하지만, 수작업으로 구축하는 데 전문가의 몇 주가 걸리기 때문에 아키텍처 논문에는 거의 동반되지 않습니다. 우리는 연구 논문 PDF로부터 제1원리 분석 모델을 자동으로 생성하는 다중 에이전트 LLM 파이프라인인 Rosetta를 소개합니다. 하나의 논문을 유일한 입력으로 받아, Rosetta는 수학적 명세(mathematical specification), 실행 가능한 Python 모델, 그리고 일반 영어 해석본을 — 모두 자율적으로, 인간의 개입 없이 — 산출합니다. 형식화 과정 자체가 주된 가치입니다: 이는 암묵적인 가정(implicit assumptions)을 표면화하고 누락된 매개변수를 식별합니다. 네 가지 설계 결정은 순진한 LLM 기반 생성의 실패 모드를 다룹니다: 순환 논리(circular reasoning)를 금지하는 과학적 헌법, 독립적인 비평가 에이전트(critic agents)를 사용한 검증-수정 루프(verify-repair loops), 기능적 정확성(functional correctness)과 과학적 타당성을 분리하는 이중 검증(dual verification), 그리고 LLM의 확률성(stochasticity)을 활용하는 best-of-$N$ 앙상블입니다. 우리는 Rosetta를 세 가지 상호 보완적인 트랙에 걸쳐 평가합니다: 12개의 주요 논문(CS1)에 대한 전문가 평가, 97개의 필터링되지 않은 ISCA 2025 및 HPCA 2026 논문(CS2)의 자동 점수화, 그리고 여섯 개의 활성 연구 그룹에 의한 저자 자체 평가(CS3). CS1 전반에 걸쳐, 12개 논문 중 10개에서 명세 품질 점수는 5점 만점에 45점을 받았으며 심각한 환각 현상(hallucinations)은 없었습니다. CS2 전반에 걸쳐, 필터링된 논문의 56%가 TierA 수준의 통찰력 품질에 도달했습니다. 가장 강력한 발견은 CS3에서 나왔습니다: Rosetta의 결과물은 활성 제출물에서 수정된 주장과 새로운 실험으로 이어졌으며, 여섯 명의 저자 평가자 중 다섯 명이 다시 사용할 것이라고 말했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기