DiscoLoop: 멀티홉 추론 (Multi-hop Reasoning)을 위한 이산 임베딩 (Discrete Embeddings) 및 연속적

원문 발행 2026. 07. 01. 11:32원문 언어 영어AI 한국어 번역arXiv cs.CL (NLP) 원문 보기

요약

DiscoLoop은 단일 순전파 내에서 다단계 추론을 수행하기 위해 이산 임베딩과 연속적 은닉 상태 채널을 동시에 전달하는 새로운 루핑 아키텍처를 제안합니다. 기존 루프 트랜스포머의 표현력 문제를 해결하여 멀티홉 추론 작업에서 높은 정확도와 효율성을 달성했습니다.

핵심 포인트

단일 순전파 내 다단계 추론을 위한 DiscoLoop 아키텍처 제안
이산 임베딩과 연속적 은닉 상태 채널의 혼합 설계 적용
기존 루프 트랜스포머의 표현력 및 정렬 문제 해결
기호 및 합성 언어 멀티홉 추론에서 높은 정확도 달성
실제 언어 모델링에서도 베이스라인 대비 우수한 성능 입증

대규모 언어 모델 (Large language models)은 사고의 사슬 (Chain-of-Thought, CoT)로서 중간 단계들을 외현화할 수 있을 때 많은 추론 작업에서 강력한 성능을 달성합니다. 그러나 많은 질문들은 모델이 정답을 생성하기 전, 단일 순전파 (forward pass) 내에서 다단계 추론을 내면화할 것을 요구합니다. 우리는 모델이 단일 순전파 내에서 여러 개의 파라미터 지식 (parametric knowledge) 조각들을 결합해야 하는 대표적인 작업인 2-홉 추론 (two-hop reasoning)을 통해 이 과제를 연구합니다. 표준적인 비순환 트랜스포머 (non-recurrent Transformers)는 깊이 국소 저장 (depth-local storage) 문제로 인해 어려움을 겪습니다. 즉, 초기 레이어에서 학습된 사실들이 2-홉 검색 (second-hop retrieval)이 일어나는 지점에서는 사용 불가능해집니다. 우리는 루프 트랜스포머 (Looped Transformers)가 동일한 메모리를 재사용함으로써 이 문제를 완화하지만, 여전히 불완전하게 일반화된다는 것을 발견했습니다. 우리는 남아있는 병목 현상이 표현력 (representational)의 문제임을 보여줍니다. 2-홉 추론 작업에서, 첫 번째 루프는 종종 올바른 가교 엔티티 (bridge entity)를 거의 완벽하게 디코딩 가능하게 만들지만, 그에 상응하는 은닉 상태 (hidden state)는 가교 토큰 임베딩 (bridge token embedding)과 여전히 제대로 정렬되지 않은 상태로 남아 있습니다. 놀랍게도, 별도의 훈련이 필요 없는 간단한 재정렬 (realignment) 개입이 일반화 격차를 거의 해소합니다. 이러한 통찰을 바탕으로, 우리는 순환 (recurrence) 과정에서 이산 임베딩 채널 (discrete embedding channel)과 연속적 은닉 상태 채널 (continuous hidden-state channel)을 모두 전달하는 루핑 아키텍처인 DiscoLoop을 제안합니다. DiscoLoop은 기호 및 합성 언어 멀티홉 추론 (symbolic and synthetic-language multi-hop reasoning) 작업 전반에서 훨씬 적은 훈련 단계로 거의 완벽한 정확도를 달성합니다. 실제 세계의 사전 학습 (pretraining)에 적용했을 때, DiscoLoop은 루프 트랜스포머 (looped-transformer) 베이스라인보다 더 낮은 훈련 손실 (training loss)과 더 강력한 벤치마크 성능을 달성하며, 이는 혼합 채널 (mixed-channel) 설계가 실제 언어 모델링 (language modeling)으로 전이됨을 시사합니다.

AI 자동 생성 콘텐츠

원문 바로가기

DiscoLoop: 멀티홉 추론 (Multi-hop Reasoning)을 위한 이산 임베딩 (Discrete Embeddings) 및 연속적

요약

핵심 포인트

댓글