Day 31: 트랜스포머 디코더 아키텍처

트랜스포머 디코더란 무엇인가?

t랜스포머 디코더는 문장과 같은 시퀀스를 한 번에 하나씩 생성하는 유형의 신경망입니다. 이는 이미 작성된 내용을 고려하여 다음 단어를 만들어내는 지능적인 '작가'라고 생각할 수 있습니다. 디코더 아키텍처는 GPT(Generative Pretrained Transformer)와 같은 모델을 구동하며, 이들이 유창하고 문맥을 이해하는 언어를 생성할 수 있게 합니다.

이전의 신경망 모델들, 예를 들어 순환 신경망(RNNs)과 장단기 메모리 네트워크(LSTMs)는 시퀀스를 단계별로 처리했습니다. 트랜스포머가 이를 변화시켰습니다: 디코더는 모든 이전 단어들을 한 번에 살펴보고 어떤 단어들이 가장 중요한지 결정합니다. 이 접근 방식은 '기억'하고 시퀀스의 먼 곳에 있는 정보까지 활용할 수 있게 하여, 더 일관성 있는 생성을 가능하게 합니다.

구성 요소: 어텐션과 위치 인코딩

트랜스포머 디코더는 두 가지 주요 아이디어에 의존합니다: **어텐션 메커니즘(attention mechanisms)**과 위치 인코딩(positional encoding).

어텐션 메커니즘: 이야기를 쓰면서 지금까지 쓴 단어들을 즉시 다시 읽고, 다음에 무엇을 쓸지 고려할 때 일부 부분에 더 많은 주의를 기울일 수 있다고 상상해 보세요. 이것이 바로 어텐션이 하는 일입니다. 구체적으로 '셀프-어텐션(self-attention)'은 디코더가 이미 생성한 모든 토큰들을 검토하며, 현재 결정에 각 토큰이 얼마나 중요한지 가중치를 부여하는 것을 의미합니다.

위치 인코딩: 트랜스포머는 스스로만으로는 토큰의 순서를 알 수 없습니다. 왜냐하면 병렬로 입력을 처리하기 때문입니다. 위치 인코딩은 이를 해결합니다. 이는 각 단어의 표현에 고유한 숫자 신호를 첨부하여

마스크드 셀프 어텐션 레이어(Masked Self-Attention Layer)

이것은 디코더의 핵심입니다. 각 단계에서 토큰은 자신의 위치까지의 모든 토큰("참조할 수 있습니다")가 가능하지만, 미래의 토큰은 절대 참조할 수 없습니다. 이 마스크가 없다면 모델은 아직 생성되지 않은 시퀀스의 일부를 보고 속임수를 쓸 수 있습니다. 마스킹은 모델이 인간처럼 한 번에 하나의 조각씩 텍스트를 생성하도록 보장합니다.
크로스-어텐션 레이어(Cross-Attention Layer) (선택 사항)

인코더-디코더 구조(번역에서 흔함)를 사용할 때, 크로스-어텐션 레이어는 디코더가 인코더의 출력에 참조할 수 있도록 합니다. 예를 들어, 번역의 경우 인코더가 프랑스어 원문 문장을 처리하고, 디코더는 이 정보를 사용하여 영어 출력을 생성합니다. 이 레이어는 텍스트를 처음부터 생성하는 모델(예: GPT)에서는 생략됩니다.
피드 포워드 네트워크 (Feed-Forward Network, FFN)

다음으로, 각 토큰의 위치는 동일한 미니 신경망(다층 퍼셉트론, multi-layer perceptron)을 받습니다. 이것은 어텐션에 의해 컨텍스트가 혼합된 후 발생하는 국소적이고 비선형적인 변환을 모델링합니다.
레이어 정규화 (Layer Normalization)

각 어텐션 또는 FFN 단계 다음에는 레이어 정규화가 따릅니다. 이는 활성화(activations)를 표준화하여 학습이 더 안정적이고 네트워크가 발산하는 것을 방지합니다.

완전한 모델에서는 이러한 디코더 블록들이 쌓입니다. 각 레이어는 이전 레이어의 컨텍스트를 기반으로 모델의 이해도를 정교하게 다듬습니다.

트랜스포머 디코더가 시퀀스를 생성하는 방법

트랜스포머 디코더는 자기회귀적(autoregressive) 시퀀스 생성을 위해 사용됩니다. 즉, 지금까지 자신이 생성한 내용을 항상 조건으로 삼아 한 토큰씩 출력을 생성합니다.

프롬프트(몇 개의 단어)로 시작합니다.
디코더가 프롬프트에 마스크드 셀프 어텐션을 적용한 다음, 다음 토큰을 예측합니다.
새로운 토큰이 시퀀스에 추가됩니다.
디코더는 업데이트된 시퀀스를 받고 다시 다음 토큰을 예측합니다.
출력이 완료되거나 특수한 종료(end-of-sequence) 토큰이 예측될 때까지 이 주기가 반복됩니다.

마스킹(Masking) 때문에 디코더는 시퀀스의 나중 토큰을 절대 '엿볼' 수 없습니다. 자연어처럼 순서대로 생성해야 합니다.

디코더 대 인코더: 주요 차이점

트랜스포머는 종종 인코더와 디코더를 모두 가지고 있지만, 각각은 다른 작업에 맞춰 조정됩니다.

마스킹(Masking): 디코더의 셀프 어텐션(self-attention)은 미래 토큰이 보이는 것을 막기 위해 마스킹됩니다. 반면 인코더의 셀프 어텐션은 마스크가 적용되지 않아 전체 시퀀스를 볼 수 있습니다.
크로스 어텐션(Cross-attention): 크로스 어텐션 레이어는 디코더만 (인코더-디코더 모델에서) 포함하며, 이를 통해 인코더의 출력을 참고할 수 있게 합니다. GPT와 같은 모델은 이것을 건너뜁니다.
역할(Role): 인코더는 전체 시퀀스를 한 번에 처리하여 의미를 추출합니다. 디코더는 출력 시퀀스를 토큰 단위로 조립하며, 매번 자신의 이전 출력을 (그리고 존재한다면 인코더의 출력) 참고합니다.

인코더를 '읽는 사람(reader)'으로, 디코더를 '쓰는 사람(writer)'으로 생각해보세요. GPT와 같은 모델의 경우, 우리는 오직 디코더 측면에만 초점을 맞춥니다.

최소 PyTorch 예제: 트랜스포머 디코더 블록

다음 PyTorch 코드는 기본적이고 실행 가능한 예제를 제공합니다. 이 코드는 토큰을 임베딩하고, 위치 정보를 추가하며, 마스크드 셀프 어텐션을 적용하고, 피드-포워드 네트워크(feed-forward network)를 거치게 하고, 출력을 정규화합니다. 이는 디코더 블록의 최소 로직을 다룹니다.

import torch
import torch.nn as nn
import math
...

이 예제는 다음과 같습니다:

토큰을 임베딩하고 위치 신호(position signals)를 추가합니다.
마스크드 셀프 어텐션을 사용하여, 각 토큰은 이전 토큰에만 주의를 기울일 수 있습니다.
각 위치에 피드-포워드 네트워크를 적용합니다.
어텐션 단계와 피드-포워드 단계를 모두 거친 후 정규화합니다.
깊은 세부 사항은 생략하고, 단일 디코더 블록의 계산을 모방합니다.

가장 중요한 부분은 어텐션 마스크(attention mask)입니다. 이는 '미리 보는 것 금지'를 강제하여, 디코더가 한 번에 하나의 단계로 텍스트를 생성하며 자연스럽게 출력 시퀀스를 구축할 수 있게 합니다.

주요 요점

트랜스포머 디코더는 마스크드 셀프 어텐션(masked self-attention)을 사용하여 토큰 단위로 시퀀스를 생성합니다.
마스크드 어텐션은 미래의 토큰에 대한 접근을 막아 순차적 생성을 강제합니다.
위치 인코딩(Positional encoding)은 트랜스포머가 시퀀스 내에서 토큰 순서를 인식할 수 있게 합니다.
디코더 블록에는 어텐션 레이어, 피드 포워드 네트워크(feed-forward networks), 그리고 레이어 정규화(layer normalization)가 포함됩니다.
크로스 어텐션(Cross-attention)은 번역 모델과 같이 인코더 출력에 주의를 기울일 때만 사용됩니다.

직접 해보기 (Try It Yourself)

트랜스포머 디코더가 5개의 토큰 시퀀스를 생성하는 각 단계에서 어텐션 마스크 행렬을 그리거나 코드로 작성해 보세요. 각 생성 단계(첫 번째부터 다섯 번째 토큰까지)에 대해 현재 토큰이 주의를 기울이는 위치와 마스킹 효과를 표시하세요.

추가 자료 (Further Resources)

다음 내용은 Day 32: 레이어 정규화 및 잔차 연결(Layer Normalization and Residual Connections)