대규모 언어 모델을 이용한 화학 반응의 메커니즘 추론 학습
요약
본 논문은 대규모 언어 모델(LLMs)의 화학 지능 강화를 위해 반응 메커니즘 학습의 중요성을 강조합니다. 기존 LLM들이 거시적 예측에 머물러 환각 문제를 겪는 한계를 극복하고자, 새로운 대규모 추론 데이터셋과 FukuyamaBench라는 까다로운 벤치마크를 구축했습니다. 이를 통해 Qwen3-30B-A3B 모델이 메커니즘 인지 학습을 거쳐 높은 정확도를 달성했음을 입증했습니다.
핵심 포인트
- LLMs의 화학 지능 향상을 위해 반응 메커니즘 학습이 필수적입니다.
- 기존 LLM은 거시적 예측에 그치고 환각 문제를 겪습니다.
- FukuyamaBench를 구축하여 메커니즘 추론을 엄격하게 평가했습니다.
- Qwen3-30B-A3B 모델이 전문 모델 대비 우수한 성능을 보였습니다.
반응 메커니즘은 화학적 변환을 설명하는 기본 반응들의 단계별 순서로 구성됩니다. 따라서 메커니즘 논리를 학습하는 것은 대규모 언어 모델(LLMs)의 근본적인 화학 지능을 향상시키는 데 필수적입니다. 반응 메커니즘에 대한 단계별 추론은 추론형 LLM의 추론 패러다임과 자연스럽게 일치합니다. 하지만 현재의 화학 LLM들은 주로 거시적 이름 반응(coarse-grained name reactions)에 중점을 두어 생성물 예측 및 역합성(retrosynthesis)을 수행하며, 이는 종종 물리적 불일치와 환각(hallucinations)을 초래합니다. 반면, 메커니즘 추론을 위한 전문 소규모 생성 모델들은 다양한 화학 공간 전반에 걸친 제한적인 일반화 능력으로 어려움을 겪는 경우가 많습니다. 이러한 한계를 극복하기 위해, 우리는 반응 메커니즘의 새로운 대규모 추론 데이터셋을 구축했습니다. 나아가, 계층적 메커니즘 추론에 대한 모델 성능을 엄격하게 평가하기 위해 Fukuyama의 Advanced Organic Reaction Mechanism 책에서 파생된 까다로운 벤치마크인 FukuyamaBench를 확립했습니다. 저희가 미세 조정(fine-tuned)한 Qwen3-30B-A3B는 FukuyamaBench Set~A에서 8.3%의 정확한 경로 일치율을 달성하여, 전문 모델인 FlowER(5.1%)를 능가했으며, 이는 메커니즘 인지 학습이 언어 모델의 화학 추론을 상당히 향상시킨다는 것을 입증합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기