optimize_anything: 모든 텍스트 파라미터를 최적화하기 위한 범용 API

요약

본 논문은 단일 LLM 기반 최적화 시스템이 다양한 도메인의 전문화된 작업에서 최고 수준의 성능을 달성할 수 있음을 입증합니다. 이 시스템은 텍스트 산출물을 점수 함수로 평가하여 개선하는 방식으로, 단일 작업 탐색부터 문제 간 전이를 포함한 다중 작업 탐색까지 지원합니다. 연구 결과, Gemini Flash 대비 ARC-AGI 정확도를 크게 향상시키고, 클라우드 비용 절감 알고리즘을 찾으며, CUDA 커널 생성 등 다양한 분야에서 뛰어난 범용성을 보여주었습니다.

핵심 포인트

• 단일 LLM 기반 최적화 시스템이 여러 도메인에 걸쳐 전문화된 작업과 대등한 성능을 낼 수 있음을 입증함.
• 시스템은 단일 작업 탐색 및 문제 간 전이를 포함하는 다중 작업 탐색을 지원하여 범용성을 높임.
• Gemini Flash의 ARC-AGI 정확도를 크게 향상시키고, 클라우드 비용 절감 알고리즘 발견 등 다양한 실질적 성과를 달성함.
• 실행 가능한 부가 정보(actionable side information)가 점수 전용 피드백보다 더 나은 최적화 결과를 제공함을 확인함.
• LLM 기반 탐색을 통해 전통적으로 도메인 특화 알고리즘이 필요했던 작업들을 단일 프레임워크로 통합하는 범용 문제 해결 패러다임을 제시함.