정보 병목 현상(Information Bottleneck): 최고의 표현 방식이 왜 자신이 본 것의 대부분을 잊어버리는가?

이미지를 분류하도록 훈련된 신경망은 수백만 개의 픽셀을 인식합니다. 하지만 좋은 표현 방식은 그중 거의 아무것도 유지하지 않습니다. 그것은 고양이의 형태, 털의 질감, 귀의 배열 같은 것만 유지하고 배경의 정확한 색조, 센서 노이즈, 압축 아티팩트 등은 버립니다. 이것은 모델의 실패가 아닙니다. 오히려 표현 방식을 학습하는 전체 목적입니다.

1999년 Tishby, Pereira, 그리고 Bialek에 의해 소개된 정보 병목 현상(Information Bottleneck, IB)은 이러한 직관을 정밀한 최적화 문제로 만듭니다. 즉, 타겟 변수에 대해 여전히 관련 있는 모든 것을 보존하면서 가능한 한 압축된 표현 방식을 찾는 것입니다. 이는 모델이 무엇을 기억해야 하고, 무엇을 잊어야 하며, 이 둘 사이의 균형을 어떻게 맞추어야 하는지에 대한 언어를 제공합니다.

설정 (The setup)

우리가 결합 분포 p(x, y)에서 추출된 입력 변수 X와 타겟 변수 Y를 가지고 있다고 가정해 봅시다. X는 이미지로, Y는 그 레이블이라고 생각할 수 있습니다. 우리는 X에 담긴 정보 중 Y에 중요한 것만을 포착하고 다른 것은 아무것도 포함하지 않는 표현 방식 Z(일반적으로 X의 확률적 함수)를 원합니다.

두 가지 양이 중요합니다:

• 압축 (Compression): Z가 X에 대해 얼마나 많은 정보를 유지하는지 측정하며, 이는 상호 정보량 I(X; Z)로 측정됩니다. 값이 작을수록 더 압축된 것입니다.
• 예측 (Prediction): Z가 Y에 대해 얼마나 많은 정보를 유지하는지 측정하며, 이는 I(Z; Y)로 측정됩니다. 값이 클수록 예측력이 높습니다.

정보 병목 현상은 이 상충 관계를 제약 조건이 있는 최적화 문제로 공식화합니다: I(X; Z)를 최소화하되, I(Z; Y)가 특정 값 이상을 유지하도록 합니다. 또는 동등하게, 라그랑지안(Lagrangian)을 최소화합니다.

L[p(z∣x)] = I(X;Z) − βI(Z;Y)

여기서 $eta \ge 0$는 상충 관계를 제어하는 라그랑주 승수입니다. 작은 $eta$ 값은 예측 능력의 희생을 감수하더라도 공격적인 압축을 의미합니다. 큰 $eta$ 값은 예측이 지배적임을 의미하며, 표현 방식이 X의 더 많은 부분을 포함하도록 허용됩니다.

이는 일반적인 지도 학습(supervised learning)과는 의도적으로 다릅니다. 단순히 교차 엔트로피(cross-entropy)만을 사용하여 훈련된 분류기(classifier)는 무언가를 '잊어버려야 한다'는 명시적인 압박을 받지 않습니다. 병목 현상(bottleneck)은 이러한 압박을 추가하며, 바로 이 압박에서 일반화(generalisation)가 나옵니다. 즉, 과제와 관련된 정보만을 담고 있는 표현 방식은 자신이 본 것과 무관한 세부 사항에 과적합(overfit)될 수 없습니다. 왜냐하면 애초에 그러한 정보를 저장하지 않았기 때문입니다.

상호 정보량(Mutual Information)을 사용해야 하는 이유: 더 간단한 방법은 없는가?

상호 정보량을 아예 사용할 필요가 있는지 의문을 품는 것은 당연합니다. 단순히 Z의 차원성(dimensionality)이나 표현 방식의 노름(norm)에 페널티를 부과하는 것이 안 될까요?

답변은 상호 정보량이 Z의 가역 변환(invertible transformations)에 불변(invariant)하다는 것입니다. 표현 방식은 재조정되거나(rescaled), 회전하거나(rotated), 또는 재매개변수화(reparametrised)되어도 자신이 알고 있는 내용이 변하지 않습니다. 차원성 및 노름 페널티는 인코딩 자체에 벌칙을 부과할 뿐, 정보 내용물에는 그렇지 못합니다. 반면 상호 정보량은 그 정보 내용물 자체에 벌칙을 부과하며, 이것이야말로 우리가 실제로 신경 쓰는 부분입니다.

상호 정보량은 또한 유용한 의미에서 대칭적이며 분포 독립적(distribution-free)입니다. 정의를 다시 살펴보겠습니다:

I(X;Z) = \sum_{x,z} p(x,z) \log \frac{p(x)p(z)}{p(x,z)}

이는 결합 분포가 독립성으로부터 얼마나 멀리 떨어져 있는지를 측정하며, 로그에 따라 나트(nats) 또는 비트(bits) 단위입니다. Z가 X와 독립적일 때 비율은 1이 되고, 로그는 0이 되어 I(X; Z) = 0이 됩니다. 반면 Z가 X를 정확하게 결정할 때, I(X; Z)는 전체 엔트로피 H(X)와 같습니다.

여기서 주의해야 할 점이자 심각한 문제는 상호 정보량이 고차원 연속 변수(high-dimensional continuous variables) 사이에서 추정하기가 매우 어렵다는 것입니다. 이것이 바로 원래의 IB 이론이 수년간 주로 이론적인 도구로 남아 있었고, 실제 적용되는 버전들이 위의 깔끔한 라그랑주 공식과는 상당히 다르게 보이는 이유입니다.

자기 일관적 해법(The self-consistent solution)

이산 변수(discrete variables)의 경우, IB 문제는 비율 왜곡 이론(rate-distortion theory)의 Blahut-Arimoto 알고리즘과 유사한 아름다운 자기 일관적 해법을 가집니다. 최적 인코더는 다음과 같은 형태를 취합니다:

p(z∣x) = \frac{Z(x,β)p(z)}{\exp(-\beta D_{KL}[p(y∣x)|p(y∣z)])}

여기서 $Z(x, \beta)$는 정규화 상수입니다. 이 부분을 주의 깊게 읽으세요. 왜냐하면 이것이 이론의 핵심이기 때문입니다: 입력 $x$는 확률적으로 표현 $z$에 할당되는데, 그 확률은 $x$가 $y$에 대해 예측하는 것과 $z$가 $y$에 대해 예측하는 것 사이의 KL 발산(KL divergence)에 따라 지수적으로 감소합니다. $Y$에 대해 유사한 예측을 암시하는 입력들은 유사한 표현으로 매핑됩니다. 다른 예측을 암시하는 입력들은 분리됩니다.

이것은 클러스터링이지만, 매우 특정한 유사성 개념을 가집니다: 두 입력이 목표(target)에 대해 동일한 정보를 담고 있다면 이들은 유사합니다. 병목 현상은 입력의 모양으로 클러스터링하는 것이 아니라, 그 입력이 과제에 대해 의미하는 바로 클러스터링합니다.

$\beta$를 변화시키면, 가로축에 $I(X; Z)$를, 세로축에 $I(Z; Y)$를 두고 정보 평면(information plane)에 곡선을 그립니다. $\beta=0$일 때, 해는 자명합니다: $Z$는 모든 것과 독립이며, 두 정보량 모두 0입니다. $\beta$가 증가함에 따라, 이 곡선은 상승하며, 결국 사용 가능한 전체 관련 정보인 $I(Z; Y) = I(X; Y)$에서 포화됩니다. 이 곡선은 오목하고, 임의의 지점에서의 기울기는 $1/\beta$입니다. 이 곡선 위의 점들은 최적의 트레이드오프를 나타냅니다. 그 아래의 점들은 달성 가능하지만 낭비가 심합니다. 그리고 그 위의 점들은 불가능합니다.

$X$와 $Y$가 결합 가우시안(jointly Gaussian)인 경우, 해는 해석적입니다: 최적의 $Z$는 $X$의 노이즈가 포함된 선형 투영이며, 트레이드오프 곡선은 $X$와 $Y$ 사이의 정준 상관관계(canonical correlation)를 이용해 닫힌 형태로 표현될 수 있습니다. 이 가우시안 사례는 병목 현상을 정준 상관관계 분석 및 선형 차원 축소(linear dimensionality reduction)에 연결시키고, 모든 근사 알고리즘에 대한 합리성 검증(sanity check)을 제공하기 때문에 알아볼 가치가 있습니다.

정보 평면과 딥러닝

정보 병목 현상(Information Bottleneck): 최고의 표현 방식이 왜 자신이 본 것의 대부분을 잊어버리는가?

IB는 Shwartz-Ziv와 Tishby가 2017년에 발표한 논문을 통해 딥러닝 분야에서 유명해졌습니다. 이들은 깊은 네트워크의 확률적 경사 하강법(stochastic gradient descent, SGD) 훈련이 두 단계로 진행된다고 주장했습니다. 첫 번째는 $I(Z; Y)$가 증가하는 빠른 적합(fast fitting) 단계이며, 그 뒤를 이어 $I(X; Z)$는 감소하고 $I(Z; Y)$는 대략적으로 일정하게 유지되는 느린 압축(slow compression) 단계입니다. 이들은 바로 이 압축 단계가 딥 네트워크의 일반화 능력(generalise)을 만들어내는 것이며, 이것이 SGD 내의 노이즈에 의해 구동된다고 주장했습니다.

이 주장은 최근 머신러닝에서 가장 활발한 논쟁 중 하나를 촉발시켰습니다. 후속 연구들은 이 압축 단계가 활성화 함수(activation function) (tanh와 같은 포화형 활성화 함수에서는 명확하게 나타나지만, ReLU에서는 훨씬 덜하다는 점), 상호 정보량(mutual information)을 측정하는 추정기(estimator)에 사용되는 방식, 그리고 네트워크가 결정론적인지(deterministic) 확률적인지(stochastic) 여부에 크게 의존한다는 것을 보여주었습니다. 이후 연구들에서는 관찰된 압축 현상이 결정론적 네트워크에서 상호 정보량을 측정하기 위해 사용된 빈(binning) 추정기의 부분적인 인공물일 수 있다고 주장했으며, 이 경우 실제 상호 정보량은 사실 무한하거나 공허합니다.

이 논쟁은 당황스럽기보다는 교훈적입니다. 이는 해당 분야가 결정론적 네트워크가 정보를 압축한다는 것이 정확히 무엇을 의미하는지에 대해 명확하게 정의하도록 강제했고, 실질적인 연구를 상호 정보량이 잘 정의되는 확률적 네트워크 쪽으로 밀어붙였습니다. 모든 딥 네트워크가 문자 그대로 정보 평면(information plane)을 통과하는지 여부와 관계없이, IB는 좋은 표현 방식이 무엇을 해야 하는지를 진술하기 위해 우리가 가진 가장 깔끔한 틀로 남아 있습니다.

변분 정보 병목 현상 (The Variational Information Bottleneck)

실질적인 돌파구는 2017년 Alemi와 공동 저자들이 소개한 변분 정보 병목 현상(Variational Information Bottleneck, VIB)과 함께 찾아왔습니다. 이 아이디어는 계산 불가능한 상호 정보량 항들을 확률적 경사 하강법으로 최적화할 수 있는 변분 경계(variational bounds)로 대체하는 것입니다.

압축 항 $I(X; Z)$는 변분 주변 분포(variational marginal) $r(z)$를 사용하여 상한이 설정됩니다:
$$I(X;Z)\le E_x[D_{KL}(p(z∣x)|r(z))]$$

예측 항 $I(Z; Y)$는 변분 디코더(variational decoder) $q(y|z)$를 사용하여 하한이 설정됩니다:

I(Z;Y)≥Ex,yEz∼p(z∣x)⁡[logq(y∣z)]+H(Y)

상수 H(Y)를 제외하면, VIB 목적 함수는 다음과 같이 됩니다.

LVIB=\text{E}{x,y,z\sim p(z|x)}\left[-\log q(y|z)\right]+\beta \text{E}{x}\left[D_{KL}(p(z|x)|r(z))\right]

이것은 즉시 알아볼 수 있는 형태입니다. 첫 번째 항은 cross-entropy loss이며, 두 번째 항은 인코더를 사전 분포(prior) 쪽으로 끌어당기는 KL regulariser입니다. 만약 변분 오토인코더(Variational Autoencoder, VAE)를 훈련했다면, 이와 매우 유사한 것을 최적화했을 것입니다. 차이점은 목표물입니다: VAE는 X를 재구성(reconstructs X)하는 반면, VIB는 Y를 예측합니다.

다음은 가우시안 인코더와 표준 정규 분포 사전 분포를 사용한 아이디어의 최소 PyTorch 스케치입니다:

import torch
import torch.nn as nn

...

여기서 두 가지 실질적인 세부 사항이 중요합니다. 첫째, 인코더는 확률적(stochastic)이어야 합니다. 샘플링 단계가 없으면 KL 항은 의미가 없어지고 병목 구조 자체가 아무런 역할을 하지 못하게 됩니다. 둘째, $\beta$는 설정하고 잊어버릴 값이 아니라 튜닝이 필요한 진정한 하이퍼파라미터(hyperparameter)입니다. 너무 작으면 KL 항이 무시됩니다. 너무 크면 표현 방식이 사전 분포로 붕괴되어 아무것도 예측하지 못하게 됩니다. 일반적인 방법은 훈련 중에 $\beta$를 작은 값에서 점진적으로 증가시키는(anneal) 것입니다.

병목 구조가 제공하는 이점

VIB와 그 관련 모델들은 여러 환경에서 실제로 측정 가능한 이점을 제공해 왔습니다:

• 강건성(Robustness). bottleneck으로 학습된 표현은 관련 없는 세부 정보가 애초에 인코딩되지 않았기 때문에, 적대적 공격(adversarial)을 포함한 입력 교란(input perturbations)에 덜 민감합니다. 공격자는 모델이 가지고 있지 않은 정보를 악용할 수 없습니다.
• 분포 외 탐지(Out-of-distribution detection). KL 항(term)은 자연스러운 신호를 제공합니다. 훈련 분포에서 멀리 떨어진 입력은 사전 분포(prior)에서 멀리 떨어진 인코딩을 생성하는 경향이 있으며, 이는 불확실성 또는 이상치 점수(anomaly score)로 사용될 수 있습니다.
• 분리 가능성과 해석 가능성(Disentanglement and interpretability). 정보 예산(information budget)을 제한함으로써, bottleneck은 표현이 가장 예측적인 요인에 용량을 집중하도록 강제하며, 이는 종종 해석 가능한 구조와 일치합니다.
• 일반화 경계(Generalisation bounds). IB는 일반화 이론과 직접적으로 연결됩니다. 일반화 격차(generalisation gap)에 대한 경계는 $I(X; Z)$의 형태로 표현될 수 있으므로, 표현을 압축하는 것은 증명 가능하게 정확하고 분포 의존적인 방식으로 과적합(overfitting)을 제한합니다.

이 모든 것이 마법은 아니며, 아무것도 공짜가 아닙니다. bottleneck은 훈련 분포에서의 정확도를 다른 곳에서의 강건성(robustness)과 교환하며, 이 거래는 X의 관련 없는 정보가 단순히 사용되지 않는 것보다 실제로 해로울 때만 가치가 있습니다.

제한 사항 및 일반적인 함정

• 상호 정보량 추정은 어렵다. 변분 경계(variational bounds)는 등식이 아니라 경계일 뿐이며, 느슨한 경계는 실제로 적어낸 목적 함수와 다른 것을 최적화하고 있음을 의미한다. 만약 변분 주변 확률 $r(z)$가 너무 경직되면, 압축 페널티가 잘못 측정된다.
• 병목 현상은 나중에 필요할 정보를 버릴 수 있다. 한 목표 $Y$에 최적화된 표현은 관련 목표 $Y'$에는 쓸모가 없을 수 있다. 이것이 전이 학습(transfer learning)의 함정이다: 공격적인 압축은 태스크별(task-specific)이며, 하나의 태스크에 필요한 것 외의 모든 것을 잊어버린 표현은 다른 태스크에 재사용될 수 없다.
• 결정론적 네트워크와 IB는 깔끔하게 결합되지 않는다. $Z = f(X)$라는 결정론적 함수의 경우, 상호 정보량 $I(X; Z)$는 연속적인 $X$에 대해 무한대이거나(또는 이산적인 $X$의 경우 $H(X)$와 같으므로), 라그랑지안은 공허하다. 결정론적 네트워크에서의 압축 주장에 대해서는 최근의 확률적 완화(stochastic relaxations)나 압축에 대한 기하학적 개념과 같은 다른 형식론이 필요하다.
• 베타($\beta$)는 만능 해결책이 아니다. 태스크 전반에 걸쳐 작동하는 보편적인 $\beta$ 값은 없다. 이는 조정되어야 하며, 문제의 정보 평면(information plane)을 가정할 것이 아니라 검토해야 한다.
• 병목 현상을 일반적인 정규화(regularisation)와 혼동하지 마라. 가중치 감쇠(weight decay)나 드롭아웃(dropout)도 용량(capacity)을 제한하지만, 이는 정보 공간이 아닌 매개변수 공간에서 그렇게 한다. 병목 현상은 표현이 무엇을 알고 있는지에 대한 진술이며, 이는 더 강력하고 해석 가능한 주장이다.

핵심 요약 (The takeaway)

정보 병목 현상(Information Bottleneck)은 표현 학습에 관한 올바른 질문을 던진다: "이 모델이 얼마나 많이 기억할 수 있는가?"가 아니라, "이 작업을 수행하기 위해 얼마만큼만 기억해야 하는가?"라는 것이다. 답은 숫자가 아닌 곡선이며, 흥미로운 작업은 그 곡선의 어느 지점에 위치할지 선택하는 것이다.

다음 모델을 훈련할 때, 그것이 필요하지 않은 것이 무엇을 담고 있는지 질문해 보세요. 그 표현(representation)의 상당 부분이 암기된 노이즈일 가능성이 높으며, 만약 모델이 본 것의 대부분을 잊는다면 더 단순하고, 더 견고하며(robust), 이해하기 쉬워질 것입니다.

링크드인에서 저와 연결하세요: linkedin.com/in/umeshtharukaofficial