CoFEE: LLM 기반 특징 발견을 위한 추론 제어 프레임워크

요약

본 논문은 복잡한 비정형 데이터에서 예측력이 높은 특징(feature)을 추출하는 과정이 본질적으로 '추론 문제'임을 지적하며, 이를 해결하기 위한 프레임워크 CoFEE를 제안합니다. CoFEE는 LLM의 추론 과정을 구조화하고 인지적 행동(cognitive behaviors)을 강제하여, 단순한 무제한 생성 방식보다 훨씬 높은 품질과 효율성을 보여줍니다. 구체적으로, CoFEE는 평균 성공률 점수(Success Rate Score)를 기존 방식 대비 15.2% 향상시키면서도 특징 개수는 29% 줄이고 비용은 53.3% 절감하는 성

핵심 포인트

• CoFEE (Cognitive Feature Engineering Engine)는 LLM의 추론 과정에 인지적 행동을 강제하여, 데이터에서 예측력이 높은 특징을 구조적으로 발견하게 합니다.
• 추론 제어(reasoning control)를 적용한 결과, 평균 성공률 점수(Success Rate Score)가 기존 무제한 프롬프트 방식 대비 15.2% 향상되었습니다.
• CoFEE는 특징 개수를 29% 줄이면서도 성능을 개선하여, 비용 절감 효과(53.3%)를 입증했습니다.
• 프레임워크는 후방 추론(backward chaining), 하위 목표 분해(subgoal decomposition) 등 검증된 인지적 행동들을 구조화된 지식 기반으로 활용합니다.