DNABERT-2 기반 유전체 언어 모델의 사후 설명 가능성 평가

유전체 시퀀스에서 딥 뉴럴 네트워크의 예측을 해석하는 것은 단순히 높은 예측 성능을 넘어 생물학적 통찰력과 가설 생성에 기여한다는 점에서 매우 중요합니다. 기존 연구에서는 CNN(Convolutional Neural Networks)이 유전체 시퀀스의 관련 패턴을 포착하는 데 효과적인 것으로 입증되었습니다.

하지만, 이러한 설명 가능성이 더 표현력이 높은 트랜스포머 기반의 유전체 언어 모델(gLM, Genome Language Models)에도 그대로 적용될 수 있는지에 대한 명확한 답은 부족했습니다. 본 연구는 이 질문에 답하기 위해 AttnLRP라는 방법을 채택했습니다. AttnLRP는 Layer-wise Relevance Propagation (LRP)을 Attention 메커니즘으로 확장(extension)시킨 것입니다.

연구진은 이 AttnLRP를 최신 gLM인 DNABERT-2에 적용하고, 토큰 및 뉴클레오타이드 수준에서 설명(explanation)을 전이하는 전략을 제안했습니다. 다양한 생물학적 데이터셋을 사용하여 AttnLRP의 적응성을 다각적인 지표로 평가했으며, 특히 DNABERT-2와 기준 모델인 CNN 간의 설명을 광범위하게 비교 분석했습니다.

주요 결과는 다음과 같습니다. 첫째, AttnLRP가 생성한 설명은 알려진 생물학적 패턴과 높은 신뢰성을 보였습니다. 둘째, 이 결과를 통해 gLM 역시 CNN처럼 유전체 시퀀스에 대한 중요한 생물학적 통찰력을 도출하는 데 도움을 줄 수 있음을 입증했습니다.

결론적으로, 본 연구는 gLM의 설명 가능성(Explainability) 분야에 기여하며, 서로 다른 아키텍처를 사용하더라도 관련성 할당(relevance attribution)을 비교할 수 있는 방법론적 토대를 마련했다는 점에서 큰 의미가 있습니다. 이는 AI 모델이 생물학 연구의 새로운 도구로 자리매김하는 데 중요한 발판을 제공합니다.