TFGN: LLM 규모에서 치명적 망각 (Catastrophic Forgetting) 없는 Task-Free, Replay-Free 지속적

요약

TFGN은 리플레이나 태스크 라벨 없이 대규모 언어 모델(LLM)을 이질적인 텍스트 도메인에서 지속적으로 사전 학습할 수 있도록 설계된 구조적 오버레이입니다. 이는 Transformer의 나머지 부분을 변경하지 않으면서 입력 조건부의 매개변수 효율적인 업데이트를 생성합니다. TFGN은 다양한 규모와 방식에서 치명적 망각을 효과적으로 해결하고, 교차 도메인 순방향 전이 능력을 보여주며, 폐쇄 루프 메타 제어 및 연산자 수준 계획 기능을 통합한 최초의 아키텍처입니다.

핵심 포인트

• TFGN은 리플레이 버퍼나 태스크 ID 없이 LLM의 지속적 사전 학습(Continual pre-training)을 가능하게 하는 구조적 오버레이입니다.
• 매개변수 효율적인 업데이트를 통해 치명적 망각 문제를 해결하며, 다양한 이질적 도메인에서 높은 유지율과 L2-직교 그래디언트 분리 능력을 입증했습니다.
• 단순한 지속 학습을 넘어, 폐쇄 루프 메타 제어 레이어와 연산자 수준 계획 벡터를 통합하여 자율적인 학습 및 동작 재구성 기능을 제공합니다.
• TFGN의 핵심 구조적 통찰은 순방향 패스는 밀집되어 있는 반면, 교차 도메인 매개변수 업데이트는 이전 도메인의 부분 공간이 쓰여지지 않도록 구조화되었다는 점입니다.