왜 JPEG 품질 75가 이미지 압축의 마법 같은 숫자일까

이미지 압축의 세계에서 하나의 숫자가 계속해서 등장합니다: 바로 75입니다. 거의 모든 압축 도구의 기본 설정을 살펴보면 품질 계수(quality factor)가 이 값 근처로 사전 설정되어 있습니다. 이것은 공학적인 추측도, 임의적인 위원회의 결정도 아닙니다. JPEG 알고리즘 자체의 수학적 구조에서 비롯된 결과입니다. 이 글에서는 전체 JPEG 압축 파이프라인(pipeline)을 살펴보고, "품질 계수"를 양자화 테이블(quantization-table) 스케일링 수준까지 분해하여, 왜 75가 파일 크기와 시각적 품질 사이의 최적의 지점(sweet spot)인지 정확히 보여드립니다.

1. JPEG 압축 파이프라인 개요

JPEG (Joint Photographic Experts Group)는 손실 압축(lossy compression) 표준입니다. 핵심 아이디어는 밝기에 대한 인간 시각 시스템의 민감도, 색상에 대한 상대적인 비민감도, 그리고 고주파 세부 사항(high-frequency detail)에 대한 내성을 활용하여, 인지하기 어려운 정보를 버리는 것입니다. 파이프라인은 5단계로 구성됩니다.

1단계 — 색 공간 변환 (Color Space Conversion): RGB → YCbCr

원본 이미지는 보통 RGB (red, green, blue)로 저장되지만, JPEG는 먼저 이를 YCbCr 색 공간으로 변환합니다:

• Y: 휘도 (Luminance), 밝기 정보
• Cb: 청색 색차 (Blue chrominance)
• Cr: 적색 색차 (Red chrominance)

변환 공식은 다음과 같습니다:

Y  =  0.299·R + 0.587·G + 0.114·B
Cb = -0.1687·R - 0.3313·G + 0.5·B + 128
Cr =  0.5·R - 0.4187·G - 0.0813·B + 128

이 단계가 존재하는 이유는 눈이 휘도 변화(미세한 밝기 차이를 구분할 수 있음)에는 매우 민감하지만, 색차에는 상대적으로 둔감하기 때문입니다. 따라서 Y는 전체 해상도를 유지하는 반면, Cb와 Cr 채널은 공격적으로 다운샘플링(4:2:0 chroma subsampling)할 수 있습니다. 이 한 단계만으로도 인지적인 손실 거의 없이 일반적으로 데이터 양을 절반으로 줄일 수 있습니다.

2단계 — 8×8 블록 분할 및 레벨 시프트 (Level Shift)

이미지는 8×8 픽셀 블록으로 나뉩니다. 각 픽셀 값의 범위는 0에서 255 사이입니다. 이후의 DCT (Discrete Cosine Transform, 이산 코사인 변환) 계산을 더 깔끔하게 만들기 위해, 각 값에서 128을 빼서 범위를 -128에서 127 사이로 중앙 정렬합니다.

3단계 — 2차원 이산 코사인 변환 (2D DCT)

각 8×8 블록은 2D DCT를 통해 변환되며, 이를 통해 데이터가 공간 영역 (spatial domain)에서 주파수 영역 (frequency domain)으로 이동합니다. 그 결과로 8×8 계수 행렬 (coefficient matrix)이 생성됩니다. 왼쪽 상단 모서리에는 DC 계수 (블록의 평균 밝기)가 위치하며, 오른쪽 하단으로 이동할수록 AC 계수들이 점진적으로 더 높은 주파수 — 즉, 미세한 디테일, 에지 (edge), 그리고 질감 (texture) — 를 나타냅니다.

DCT 자체는 가역적 (reversible)이며 무손실 (lossless)이지만, 시각적 중요도에 따라 정보를 재구성합니다. 저주파 계수는 이미지의 주요 형태를 담고 있으며, 고주파 계수는 주로 디테일과 노이즈를 담고 있습니다. 이것이 다음에 이어질 손실 (lossy) 단계를 위한 준비 과정이 됩니다.

4단계 — 양자화 (Quantization): 손실이 발생하는 지점

DCT 계수는 부동 소수점 (floating-point) 숫자이므로 직접 인코딩할 수 없습니다. JPEG는 각 계수를 8×8 **양자화 테이블 (quantization table)**의 대응하는 항목으로 나누어 정수를 생성합니다. 나누는 수(제수)가 클수록 결과는 더 거칠어지며 더 많은 정보가 버려집니다.

테이블은 두 가지가 있습니다. 하나는 휘도 (luminance)용이고, 다른 하나는 색도 (chrominance)용입니다. 표준 JPEG 휘도 테이블은 왼쪽 상단에는 작은 값(예: 16)을, 오른쪽 하단에는 큰 값(예: 99)을 가집니다. 이는 고주파에 대한 인간 눈의 둔감함을 정확히 이용하여, 고주파 성분을 더 공격적으로 버릴 수 있게 합니다.

이 단계는 전체 파이프라인에서 유일한 손실 단계이며, 바로 이 지점에서 품질 계수 (quality factor)가 역할을 수행합니다.

5단계 — 엔트로피 코딩 (Entropy Coding): 무손실 마무리

양자화된 계수들은 지그재그 (ZigZag) 순서로 (저주파에서 고주파 순으로) 스캔됩니다. 그 후 0이 연속되는 구간을 압축하기 위해 런 길이 부호화 (RLE, Run-Length Encoding)를 거치고, 다시 허프만 코딩 (Huffman coding) 또는 산술 코딩 (arithmetic coding)을 통해 추가로 압축됩니다. 이 단계는 완전히 무손실 (lossless)이며, 단지 데이터를 더 조밀하게 채워 넣을 뿐입니다.

전체 파이프라인은 다음과 같습니다:

2. 품질 계수 (Quality Factor)가 실제로 제어하는 것

많은 사람들이 품질 계수 (Q)를 0~100 사이의 "품질 점수"라고 가정합니다. 하지만 그렇지 않습니다. 품질 계수가 실제로 제어하는 것은 **양자화 테이블 (quantization table)의 스케일링 (scaling)**입니다.

양자화 테이블 스케일링 공식

JPEG는 기본 양자화 테이블을 정의합니다. 품질 계수는 테이블을 대체하는 것이 아니라, 다음 공식에 따라 모든 항목을 스케일링합니다:

If Q >= 50:
    scale = 5000 / Q
If Q < 50:
...

이 공식에서 얻을 수 있는 핵심 사항은 다음과 같습니다:

• Q = 100: scale = 50, 양자화 값 (quantization values)이 기본값의 약 절반 수준이며, 정보 손실이 거의 없습니다 (하지만 양자화 오차 (quantization error)는 여전히 존재하므로, JPEG는 결코 진정한 무손실 (lossless)이 아닙니다).
• Q = 50: scale = 100, 양자화 값이 기본값과 동일합니다 — 이것이 JPEG 표준의 기준점입니다.
• Q = 75: scale = 5000/75 ≈ 66.7, 양자화 값이 기본값의 약 2/3 수준이며 — 기준점보다 약간 더 느슨합니다.
• Q < 50: scale이 100을 초과하며, 양자화가 점점 더 거칠어지고 고주파 세부 정보 (high-frequency detail)가 사라집니다.
• Q = 1: scale = 198, 거의 모든 고주파 계수 (high-frequency coefficients)가 0이 되어 블록 아티팩트 (block artifacts)가 뚜렷하게 나타납니다.

왜 75가 최적의 지점(Sweet Spot)인가

핵심은 양자화 곡선에서의 한계 효용 (marginal return)에 있습니다. Q50에서 Q75 사이에서는 파일 크기가 급격히 줄어드는 반면 시각적 품질 손실은 최소화됩니다. 반면 Q90에서 Q95 사이에서는 파일 크기가 급격히 팽창하는 데 비해 품질 향상은 육안으로 거의 식별할 수 없습니다.

구체적인 비교를 들어보겠습니다. Q95의 크기를 100% 기준선으로 잡았을 때, Q75는 보통 약 30%35% 수준에 머무릅니다. 이때 PSNR (최대 신호 대 잡음비 (Peak Signal-to-Noise Ratio))은 단 23 dB만 하락하며, SSIM (구조적 유사도 (Structural Similarity))은 0.05 미만으로 하락합니다. 다시 말해, Q75는 파일 크기의 1/3을 희생하는 대신 시각적 품질의 95% 이상을 확보합니다. 이것이 Q75가 기본값(default)이 된 근본적인 이유입니다. 즉, 시각적으로 손실이 없는 압축 (visually lossless compression)의 경계선에 정확히 위치하며, 그 이상으로 나아가는 것은 낭비이기 때문입니다.

차트에서 Q75가 어디에 위치하는지 주목하십시오. 크기 막대는 32%로 떨어졌지만 품질 곡선은 여전히 90% 근처를 맴돌고 있습니다. 이것이 바로 "스윗 스팟 (sweet spot)"의 기하학적 의미입니다.

3. Python을 이용한 다양한 품질 요인 측정

아래 스크립트는 Pillow (PIL)를 사용하여 동일한 이미지를 서로 다른 품질 계수 (quality factors)로 압축하고 비교 결과를 출력합니다. 위 결론을 확인하기 위해 직접 실행해 볼 수 있습니다.

from PIL import Image
from io import BytesIO
import os
...

일반적인 출력 결과 (4000×3000 풍경 사진 사용 시):

Source file: sample.jpg
Original size: 5823.4 KB
Quality   Size(KB)    Ratio      Saved        vs Q95
...

수치들은 앞선 결론을 뒷받침합니다. Q75는 Q95와 비교했을 때 크기를 약 68% 절감하면서도, 일반적인 화면 시청 거리에서는 두 이미지를 사실상 구별할 수 없습니다.

4. 주요 이미지 포맷 비교

JPEG를 이해했다면, 이를 더 넓은 이미지 포맷 생태계 내에서 파악하는 것이 도움이 됩니다. 각 포맷은 서로 다른 압축 철학을 구현하고 있습니다.

• JPEG는 투명도를 지원하지 않음 (No transparency): 이것이 JPEG의 가장 큰 단점입니다. 투명한 배경이 필요한 아이콘은 PNG나 WebP를 사용해야 합니다.
• PNG는 손실 없는 "헤비급" (Lossless heavyweight): 품질은 완벽하지만 파일 크기가 큽니다. 4000×3000 해상도의 사진을 PNG로 저장하면 20MB를 초과할 수 있습니다.
• WebP는 JPEG의 가장 강력한 라이벌: 손실 압축 (Lossy mode) 모드에서 동일한 품질일 때 JPEG보다 25%~35% 더 작으며, 투명도와 애니메이션을 지원합니다. 약점은 오래된 브라우저나 일부 툴체인 (Toolchains)에서의 불완전한 지원입니다.
• TIFF/BMP는 웹에 적합하지 않음: 이들은 전문적인 워크플로우 (Workflows)에 속하거나 레거시 (Legacy) 포맷으로 존재합니다.

5. 해상도와 품질 계수의 상호작용

많은 사람들이 해상도를 무시한 채 품질 계수 (Quality factor)에만 집착하곤 하지만, 실제로는 해상도가 훨씬 더 강력한 레버 (Lever)입니다. 실제로 해상도를 낮추는 것이 품질을 낮추는 것보다 더 큰 용량 절감 효과를 가져오는 경우가 많습니다.

2단계 전략

4000×3000 (약 1,200만 화소)의 원본 사진을 Q95 설정으로 JPEG로 직접 저장하면 4MB를 넘을 수 있습니다. 하지만 일반적인 화면은 보통 1920×1080 (약 200만 화소) 정도만 필요하므로, 엄청난 양의 중복 데이터가 존재합니다.

2단계 최적화 방법은 다음과 같습니다:

1. 1단계 — 해상도 낮추기. 4000×3000에서 1920×1080으로 스케일링 (Scaling)하면 픽셀 수가 1,200만 개에서 200만 개로 줄어들어 약 83% 감소합니다. JPEG 파일 크기는 대략 픽셀 수에 비례하므로, 이 단계만으로도 바이트 (Bytes)의 약 75%~83%를 제거할 수 있습니다.
2. 2단계 — 품질 계수 조정하기. 새로운 해상도에서 Q95를 Q75로 낮춥니다. 다운스케일링 (Downscaling)을 통해 이미 고주파 디테일 (High-frequency detail)의 상당 부분이 부드럽게 처리되었기 때문에, 이 해상도에서 Q75의 블록 아티팩트 (Block artifacts)는 거의 눈에 띄지 않으며, 이를 통해 바이트의 약 50%를 추가로 제거할 수 있습니다.

이 두 단계를 결합하면 최종 크기는 원본의 약 8%10% 수준이 됩니다. 4MB의 소스 이미지를 화면 시청 경험 측면에서 사실상 손실이 없는(Lossless) 상태로 300400KB까지 줄일 수 있습니다.

여기에 중요한 순서 규칙이 있습니다: 해상도(Resolution)를 먼저 낮춘 다음, 품질 계수(Quality Factor)를 낮추어야 합니다. 반대로 하는 것(스케일링 전에 품질을 압축하는 것)은 스케일러가 JPEG의 블록 아티팩트(Block Artifacts)를 증폭시켜 결과물을 더 나쁘게 보이게 만듭니다.

6. 포맷 선택 결정 트리 (A Format Selection Decision Tree)

이미지를 가지고 있을 때, 어떤 포맷을 선택해야 할까요? 이 결정 트리가 빠른 해답을 제공합니다:

요약하자면: 사진은 JPEG 또는 WebP로, 아이콘과 텍스트는 PNG로 보내며, 투명도(Transparency)가 필요한 모든 것은 JPEG를 피해야 합니다.

7. FAQ: 세 가지 흔한 질문

Q1: 왜 Q75가 "최적의" 품질 계수로 간주되나요?

양자화 곡선(Quantization Curve)에 이 지점에서 변곡점이 있기 때문입니다. Q75는 약 66.7의 스케일에 해당하며, 양자화 테이블(Quantization Table)을 기준치의 약 2/3로 압축합니다. 이 지점에서 눈이 가장 민감하게 반응하는 저주파 계수(Low-frequency Coefficients)는 거의 온전하게 보존되는 반면, 시각적으로 중요하지 않은 고주파 계수(High-frequency Coefficients)는 합리적인 수준에서 버려지기 시작합니다. Q85나 Q95로 높이면 품질이 개선되는 속도보다 파일 크기가 훨씬 더 빠르게 커지며, Q60이나 Q50으로 낮추면 블록 아티팩트(Block Artifacts)와 링잉 현상(Ringing)이 눈에 띄게 됩니다. Q75는 크기는 빠르게 줄어들면서 품질은 천천히 떨어지는 영역에 정확히 위치하며, 이것이 기본값으로 널리 사용되는 이유입니다. "최적"이라는 기준은 웹 화면 디스플레이에 상대적이라는 점을 유의하세요. 전문적인 인쇄나 아카이빙에는 Q90 이상이 필요할 수 있습니다.

Q2: WebP가 JPEG를 완전히 대체할 수 있나요?