SemaTune: 대규모 언어 모델(LLM)을 이용한 의미론적 인지 기반 온라인 OS 튜닝

요약

SemaTune은 제한된 언어 모델 가이드를 활용하여 정상 상태(steady-state) OS 튜닝을 수행하는 호스트 측 프레임워크입니다. 기존의 블랙박스 방식 컨트롤러들이 놓치던 정책 구조와 애플리케이션 메트릭 문제를 해결하기 위해, SemaTune은 노브 스키마, 텔레메트리, 현재 설정 및 과거 이력을 압축된 결정 컨텍스트로 변환합니다. 평가 결과, SemaTune은 기본 설정 대비 안정 단계 성능을 72.5% 향상시켰으며, 가장 강력한 비-LLM 베이스라인 대비 153.3% 향상시키는 뛰어난 성능을 입증했습니다.

핵심 포인트

• SemaTune은 LLM 가이드를 활용하여 OS 제어의 의미론적 인지 기반 튜닝을 수행합니다.
• 기존 컨트롤러들이 무시하던 정책 구조(cross-knob policy structure)와 애플리케이션 메트릭 사용 문제를 해결했습니다.
• 프레임워크는 빠른 루프와 느린 루프를 통해 저지연 업데이트 및 주기적인 탐색 전략 수정을 지원하며, 모든 변경 사항은 타입 검증을 거칩니다.
• 다양한 워크로드 벤치마크에서 SemaTune은 기본 설정 대비 안정 단계 성능을 평균 72.5% 향상시키는 결과를 보였습니다.