대규모 언어 모델을 활용한 개방형 세계 자동화 머신러닝의 범용 탐색기

요약

본 논문은 기존 AutoML의 도메인 특화적 한계를 극복하기 위해 범용적인 LLM 기반 AutoML 프레임워크를 제안합니다. 이 프레임워크는 모델 아키텍처, 하이퍼파라미터, 데이터 비율을 공동 최적화하며, NCode와 통합 순위 지정 작업을 통해 일반화성을 입증했습니다. RL과 CoT 추론 능력을 주입하여 탐색기의 의사결정 과정을 해석할 수 있는 경로를 제시합니다.

핵심 포인트

• LLM 기반으로 AutoML 프레임워크를 제안, 구성 요소의 공동 최적화 실현
• NCode와 통합 순위 지정 작업을 통해 범용적인 탐색 공간을 구축함
• 이미지 분류, 분할 등 다양한 모달리티에서 최고 수준의 일반화 성능 입증
• RL과 CoT 추론 활용으로 내부 의사결정 메커니즘 해석 가능