Python을 활용한 천체물리학과 AI: 합성곱 신경망 (CNN)으로 우주 해독하기

우주는 궁극적인 "빅 데이터 (Big Data)" 문제입니다. 매일 밤, Sloan Digital Sky Survey (SDSS) 및 곧 가동될 Vera C. Rubin Observatory와 같은 망원경들은 페타바이트 단위의 이미지를 생성합니다. 이는 인간의 눈으로는 도저히 모두 분류할 수 없을 만큼 방대한 양입니다. 수십 년 동안 천문학자들은 Edwin Hubble이 나선형 (Spirals)과 타원형 (Ellipticals)으로 분류한 것으로 유명한 은하의 형태, 즉 **모폴로지 (morphology)**를 분류하기 위해 고통스러운 수동 검사에 의존해 왔습니다.

하지만 AI 시대에 우리는 수동 분류가에서 **자동 천문학자 (Automated Astronomer)**로 나아가고 있습니다. 이 포스트에서는 **합성곱 신경망 (Convolutional Neural Networks, CNNs)**이 어떻게 우리가 우주를 이해하는 능력을 혁신하고 있는지, 즉 수작업으로 만든 특징 (handcrafted features)을 넘어 기계가 은하 자체의 시각적 언어를 학습하도록 만드는 과정을 탐구합니다.

문제점: 전통적인 방식이 실패하는 이유

딥러닝 이전에는 이미지를 분류하기 위해 **수작업 특징 공학 (handcrafted feature engineering)**이 필요했습니다. 데이터 과학자는 다음과 같은 지표들을 수동으로 계산해야 했습니다:

관성 모멘트 (Moments of Inertia): 은하가 얼마나 "늘어져" 있는지 측정하기 위해.
푸리에 기술자 (Fourier Descriptors): 나선형 팔의 반복되는 패턴을 분석하기 위해.
집중 지수 (Concentration Indices): 빛이 중심부에 얼마나 뭉쳐 있는지 확인하기 위해.

이러한 접근 방식은 취약합니다. 만약 은하가 회전되어 있거나, 약간의 먼지가 있거나, 다른 각도에서 관찰된다면, 이러한 수학적 특징들이 변하게 되어 오분류로 이어집니다.

게다가, 이미지에 표준 **다층 퍼셉트론 (Multi-Layer Perceptron, MLP)**을 사용하려고 시도하는 것은 공간적 맥락 (spatial context)을 파괴하기 때문에 실패합니다. 이미지를 MLP에 입력하려면 2D 사진(예: 256x256 픽셀)을 65,536차원의 벡터로 펼쳐야 (flatten) 합니다. 이 과정에서 네트워크는 어떤 픽셀이 이웃인지에 대한 모든 지식을 잃게 되며, 왼쪽 상단 모서리를 중심부와 동일한 구조적 중요도로 취급하게 됩니다.

법의학 미술 전문가: CNN을 위한 비유

합성곱 신경망 (CNN)은 법의학 미술 전문가가 그림의 진위 여부를 확인하는 방식을 모방함으로써 이러한 문제들을 해결합니다. 전문가는 캔버스 전체를 한 번에 보는 대신, 돋보기를 사용하여 특정 질감, 붓터치, 그리고 가장자리를 찾기 위해 작은 영역들을 스캔합니다.

CNN은 **필터 (Filters, Kernels)**를 사용하여 이와 유사하게 작동합니다:

초기 스캔 (Convolution): 네트워크는 이미지 위로 작은 행렬(예: 3x3)을 슬라이딩합니다. 이는 수직선이나 질감 변화와 같은 특정 저수준 패턴 (low-level patterns)을 탐지하기 위해 수학적 연산을 수행합니다. 결정적으로, 동일한 필터가 이미지 _전체_에 적용됩니다. 이를 **가중치 공유 (Weight Sharing)**라고 하며, 모델을 **이동 불변성 (translationally invariant)**을 갖게 만듭니다. 즉, 이미지의 중앙이든 가장자리든 상관없이 나선형 팔 (spiral arm)을 찾아낼 수 있습니다.
복잡성 구축: 초기 레이어 (layers)는 가장자리를 탐지합니다. 더 깊은 레이어는 해당 가장자리들을 결합하여 곡선과 형태를 탐지합니다. 훨씬 더 깊은 레이어는 "은하 팽대부 (galactic bulge)"나 "확산 헤일로 (diffuse halo)"와 같은 추상적인 개념을 인식하는 법을 배웁니다.
계층 구조: 네트워크는 특징 (features)의 계층 구조를 자동으로 학습하므로, 인간 엔지니어가 어떤 특징이 중요한지 추측할 필요가 없습니다.

자동화된 천문학자의 아키텍처 (Architecture)

이 자동 분류기를 구축하기 위해 우리는 세 가지 주요 레이어 유형을 사용합니다:

합성곱 레이어 (Convolutional Layers): 특징 추출기입니다. 입력값 위로 필터를 슬라이딩하여 "특징 맵 (Feature Maps)"을 생성합니다.
풀링 레이어 (Pooling Layers, Max Pooling): 이미지를 다운샘플링 (downsample)합니다. 작은 창(예: 2x2) 내에서 최댓값을 취함으로써 데이터 크기를 줄이고, 은하 위치의 미세한 변화에 대한 강건성 (robustness)을 더합니다.
완전 연결 레이어 (Fully Connected Layers): 의사 결정자입니다. 이미지가 추상적인 특징으로 처리된 후, 이 레이어들은 데이터를 평탄화 (flatten)하고 확률(예: 이것이 나선 은하일 확률 90%)을 출력합니다.

수학적 핵심

합성곱 (convolution) 연산은 이 프로세스의 엔진입니다. 이미지의 모든 위치 (i,j)에 대해, 네트워크는 입력 패치 (input patch)와 필터 가중치 (filter weights)의 요소별 곱 (element-wise multiplication)을 합산하여 특징 맵 (feature map)의 단일 픽셀을 계산합니다:

Feature Map(i,j) = ∑{m} ∑{n} Input(i−m, j−n) ⋅ Filter(m, n) + Bias

실전 구현: 분류기 구축

실제 시나리오에서는 망원경 데이터베이스(예: SDSS)의 API 키를 저장하기 위한 **환경 변수 (Environment Variables)**와 시스템 중단 없이 이미지를 스트리밍하기 위한 **비동기 컨텍스트 매니저 (Asynchronous Context Managers)**를 사용하여 대규모 데이터셋을 처리하는 경우가 많습니다. 하지만 프로젝트의 핵심은 모델 아키텍처 그 자체입니다.

다음은 은하 분류의 "Hello World"입니다. 은하 이미지를 입력받아 그것이 나선 은하 (Spiral)인지 타원 은하 (Elliptical)인지에 대한 확률을 출력하도록 설계된 최소한의 CNN 아키텍처입니다.

Python 코드: CNN 아키텍처 정의

우리는 TensorFlow/Keras를 사용하여 순차 모델 (Sequential model)을 정의할 것입니다. 이 모델은 64x64 픽셀 이미지를 입력받아 최종 결정을 내리기 전에 특징 추출 (feature extraction) 레이어를 통해 이를 처리합니다.

import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Conv2D, MaxPooling2D, Flatten, Dense
...

실제 데이터 흐름 처리

위의 코드가 모델을 정의하지만, 프로덕션 파이프라인 (production pipelines)은 데이터를 안전하게 처리해야 합니다. 원격 천문 데이터베이스에 연결할 때, 우리는 API 키를 안전하게 유지하기 위해 **환경 변수 (Environment Variables)**를 사용합니다:

import os

# 데이터베이스 자격 증명을 안전하게 가져오기
...

또한, 테라바이트 단위의 데이터를 다운로드하는 동안 시스템이 멈추는 것을 방지하기 위해 **비동기 컨텍스트 매니저 (Asynchronous Context Managers)**를 활용합니다. 이를 통해 프로그램은 네트워크 I/O를 기다리는 동안 처리를 계속할 수 있으며, 훈련 중 효율적인 리소스 사용을 보장합니다.

요약

합성곱 신경망 (CNN)을 적용함으로써, 우리는 주관적이고 수동적인 은하 분류 방식에서 벗어나 객관적이고 확장 가능하며 매우 정확한 자동화 시스템으로 전환합니다. CNN은 인간의 개입 없이도 가장자리(edges), 모양(shapes), 형태학적 구조(morphological structures)를 탐지하며 우주의 시각적 계층 구조를 학습합니다. 이러한 아키텍처는 곧 Rubin Observatory에 의해 포착될 수십억 개의 은하를 처리할 수 있는 차세대 천문학적 발견의 토대가 됩니다.

함께 논의해 봅시다

나선형 vs 타원형을 넘어서: 허블 순서 (Hubble Sequence)는 시작일 뿐입니다. 명시적인 특징 공학 (feature engineering) 없이도 CNN이 은하 병합 (galaxy mergers)이나 특정 유형의 활동 은하핵 (AGN)과 같은 더 미묘한 특징들을 식별하도록 훈련될 수 있다고 생각하시나요?
"블랙박스 (Black Box)" 문제: CNN은 강력하지만 종종 불투명합니다. 만약 CNN이 어떤 은하를 99%의 신뢰도로 "나선형 (Spiral)"이라고 분류했지만 천문학자의 의견과 다르다면, 우리는 모델의 추론을 어떻게 검증해야 할까요? 천체물리학에서 "해석 가능성 (interpretability)"은 단순한 정확도보다 더 중요할까요?

여기서 시연된 개념과 코드는 전자책 Astrophysics & AI: Building Research Agents for Astronomy, Cosmology, and SETI에 제시된 포괄적인 로드맵에서 직접 가져온 것입니다. 여기에서 확인하실 수 있습니다. Python, TypeScript, Swift, C#을 활용한 다른 50개의 프로그래밍 및 AI 전자책은 여기에서 확인하세요.