LLM 디컴파일 코드를 개선할 때의 기억 임계값(Memorization Floor)

요약

본 연구는 LLM이 디컴파일 코드를 개선할 때, 입력 정보 복구와 기존 지식 기반 복구를 분리하는 '기억 임계값(memorization floor)' 개념을 제시합니다. 분석 결과, 개선된 출력은 자체 어휘로 구축되었음에도 불구하고 상당한 성능 향상을 보였으나, 이는 원본 입력 데이터 흐름에 의존하지 않는 것으로 나타났습니다.

핵심 포인트

• LLM의 디컴파일 코드 개선 과정에서 '기억 임계값'을 정의함.
• 개선된 출력은 자체 어휘로 구축되어도 높은 성능 향상을 보임.
• 성능 향상은 원본 입력 데이터 흐름 파괴에 영향을 받지 않음.
• 실험 설계 시 편향 및 통제 변수 설정의 중요성을 강조함.