Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
체화된 에이전트를 위한 새로운 코드-정책 합성 프레임워크인 FCGraft를 제안합니다. 검증된 코드 스켈레톤과 KV 캐시를 재사용하는 방식을 통해 디코딩 지연을 줄이고 정책 생성의 견고성을 높였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.PL (Programming Languages)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기코드 작성 대규모 언어 모델 (CodeLLMs)은 자연어 목표와 환경적 제약을 구조화된 제어 프로그램으로 변환함으로써 체화된 에이전트 (embodied agents)를 위한 실행 가능한 코드 정책을 생성합니다. 그러나 오픈 도메인 체화된 환경에서의 정책 생성은 두 가지 근본적인 한계로 인해 어려움을 겪습니다: (i) 긴 프롬프트에 대한 반복적인 프리필 (prefill) 계산으로 인한 디코딩 지연, (ii) API 불일치, 안전 가드 (safety guards) 누락, 불안정한 제어 로직을 빈번하게 생성하는 완전 생성형 디코딩 (fully generative decoding)으로 인한 제한된 견고성입니다. 이러한 한계를 해결하기 위해, 우리는 기능적 캐시 이식 (Functional Cache Grafting) 프레임워크인 FCGraft를 제안합니다. FCGraft는 함수 수준에서 검증된 코드 스켈레톤 (code skeletons)과 그와 관련된 프롬프트 수준의 트랜스포머 키-값 (Transformer key-value, KV) 캐시 라이브러리를 유지하며, 새로운 작업이 제공될 때 관련 함수를 검색하고 해당 KV 캐시를 이식함으로써 새로운 정책을 합성합니다. 검색된 함수 캐시가 주어지면, FCGraft는 캐시된 함수 세그먼트를 복합 정책으로 구성하는 스티칭 (stitching)과, 최소한의 추가 디코딩만으로 작업별 파라미터 및 제약 조건을 충족하기 위해 필요한 코드 영역만을 국소적으로 적응시키는 패칭 (patching)을 통해 캐시 이식을 수행합니다. 중복된 프리필 (prefill) 계산을 제거함으로써 이 접근 방식은 생성 지연 시간을 줄이는 동시에, 검증된 제어 구조를 재사용함으로써 프롬프트 수준 캐싱 방법인 RAGCache보다 견고성을 향상시켜, 작업 성공률을 18.31% 높이고 정책 합성 속도를 2.3배 빠르게 달성했습니다.