상태 기반 프로토콜 구현 학습을 위한 입력 알파벳 자동 구축 프레임워크

상태 기반 프로토콜 구현 (stateful protocol implementations)을 위한 일반적인 분석 기법인 상태 머신 학습 (state machine learning)은 수작업으로 정의된 입력 알파벳 (handcrafted input alphabets)에서 기인하는 핵심적인 병목 현상을 겪고 있습니다. 수동적인 알파벳 정의는 본질적으로 입력 탐색 (input exploration)의 완전성을 제한하며, 이로 인해 비정상적인 비준수 메시지 (non-conformant messages)를 포착하기 어렵게 만들고 결과적으로 잠재적인 의미론적 결함 (latent semantic defects)을 놓치게 합니다. 본 논문에서는 상태 머신 학습의 이러한 한계를 극복하기 위해 자동화된 입력 알파벳 생성 (automatic input alphabet generation)을 목표로 합니다. 우리는 대규모 언어 모델 (Large Language Models, LLMs)을 채택하여 프로토콜 메시지 레이아웃을 파싱하고, 구조화된 변이 규칙 (structured mutation rules)에 따라 후보 입력 심볼 (candidate input symbols)을 생성합니다. 이는 유효한 메시지 공간과 유효하지 않은 메시지 공간을 자동으로 포괄하며, 수동적인 프로토콜 전문 지식에 대한 의존성을 제거합니다. 지속적으로 증가하는 알파벳으로 인해 발생하는 오버헤드를 고려하여, 우리는 새로운 알파벳 항목을 통합할 때 기존에 학습된 오토마타 (automata)를 재사용하는 미니 배치 점진적 학습 (mini-batch incremental learning) 전략을 도입합니다. 실제 프로토콜 스택에 대한 종합적인 실험을 통해 우리의 접근 방식이 기존의 보안 취약점을 재현하고 새로운 의미론적 버그 (semantic bugs)를 식별할 수 있음을 보여줍니다. 새롭게 발견된 이슈 중 일부는 개발자에 의해 확인 및 패치되었으며, 이는 우리가 제안한 방법의 실용성과 효과를 입증합니다.