Fine-Tuned PEGASUS를 통한 생성적 요약 (Abstractive Summarization) 최적화

생성적 텍스트 요약 (Abstractive text summarization)은 원문에서 핵심적인 문장들의 부분 집합을 추출하는 방식이 아니라, 원문의 핵심 아이디어를 포함하는 짧고 간결한 요약문을 생성하는 기술입니다. BART, T5, PEGASUS와 같은 트랜스포머 (Transformer) 모델의 도입은 이러한 요약 프로세스를 더욱 효율적이고 정확하게 만들었습니다. 본 논문의 목적은 XL-Sum 영어 코퍼스 (English corpus)에서 PEGASUS를 미세 조정 (Fine-tune)하여 베이스라인인 mT5 모델보다 더 나은 성능을 달성하는 것입니다. 미세 조정된 모델로부터 생성된 요약문의 성능은 ROUGE 지표를 사용하여 평가되며, 이 지표는 기본적으로 자동 생성된 요약문을 사람이 작성한 요약문과 비교합니다. 저희가 알고 있는 바로는, 미세 조정된 PEGASUS 모델의 결과는 XL-Sum 영어 코퍼스에서 최첨단 (State-of-the-art) 성능을 보여줍니다. 개선 사항을 정량화하면, 베이스라인 모델 대비 ROUGE-1 점수에서 4.04% 향상, ROUGE-2 점수에서 15.25% 증가, 그리고 ROUGE-L 점수에서 3.39%의 향상이 있었습니다.