지난 기사에서는 머신러닝을 올바르게 시작하기 위한 5권의 책을 소개했다.

이번에는 그 다음 단계의 이야기를 하려 한다.

모델을 돌릴 수 있게 되었다. 정확도도 어느 정도 나온다. 하지만 논문을 읽어도 수식을 따라갈 수 없다. 새로운 알고리즘이 나와도 "왜 그것이 효과적인지" 직관적으로 이해되지 않는다. 면접에서 베이즈 추론 (Bayesian inference) 이야기를 듣고 얼어붙었다——.

"구현은 할 수 있지만 이론이 약하다"라는 벽에 부딪히는 타이밍은 반드시 온다. 그 벽을 돌파하기 위해 필요한 것이 바로 여기서 소개하는 5권의 책이다.

솔직히 말하면, 어느 하나 쉬운 책이 없다. 하지만 단 한 권이라도 통독한다면 "알고리즘이 보이는 세계"가 바뀔 것이다. 전부 읽을 필요는 없으며, 처음부터 통독할 필요도 없다. 레퍼런스(Reference)로서 곁에 두고, 필요할 때 해당 장을 읽는 방식으로 사용하는 것만으로도 충분하다.

원제: Deep Learning

저자: Ian Goodfellow, Yoshua Bengio, Aaron Courville

딥러닝 (Deep Learning)의 "교과서"라고 불리는 책. 저자 3명 모두 이 분야를 이끌어온 연구자들이며, Goodfellow는 GAN의 발명자이기도 하다.

전반부는 선형대수 (Linear algebra), 확률론 (Probability theory), 수치 최적화 (Numerical optimization)의 복습으로 시작하여, 후반부에서 CNN, RNN, 생성 모델 (Generative model), 표현 학습 (Representation learning)까지 단숨에 커버한다. 각 기법의 "왜 그렇게 설계하는가"를 수학적 근거와 함께 설명해주기 때문에, 읽고 나면 "어렴풋이 CNN을 사용하고 있다"는 상태에서 "컨볼루션 (Convolution)이 무엇을 포착하고 있는지 설명할 수 있는" 상태로 변하게 된다.

전부 읽지 않아도 된다. 처음에는 관심 있는 장만 골라 읽고, 이해가 깊어지면 이전 장으로 돌아가는 방식이 현실적이다. 공식 사이트(deeplearningbook.org)에서 전문이 무료로 공개되어 있다.

이런 사람에게: DL의 "왜"를 수학적으로 이해하고 싶은 사람. 논문을 읽기 위한 전제 지식을 다지고 싶은 연구 지향적인 사람.

원제: Pattern Recognition and Machine Learning

저자: Christopher M. Bishop

Amazon：

통칭 "PRML". 베이즈적 (Bayesian) 관점에서 머신러닝을 체계적으로 해설한 명저.

이 책의 독특함은 모든 모델을 확률 분포 (Probability distribution)의 파라미터 (Parameter)를 추정하는 문제로 통일적으로 다룬다는 점이다. 회귀 (Regression)도 분류 (Classification)도 클러스터링 (Clustering)도 같은 프레임워크 안에서 이해할 수 있게 된다. 일단 이 관점을 획득하면, 새로운 모델을 만났을 때 "이것은 어떤 확률 분포를 가정하고 있는가?"라는 질문부터 시작할 수 있게 된다.

난이도는 높다. 선형대수와 확률론의 전제 지식은 필수이며, 수식을 따라가는 데 인내심이 필요하다. 하지만 다 읽었을 때의 전망은 각별하다. "알고리즘이 왜 작동하는가"를 근본부터 이해할 수 있게 된다.

머신러닝 연구자나 대학원생들이 "가장 영향을 받은 책"으로 자주 꼽는 한 권이다.

이런 사람에게: 베이즈 추론을 이해하고 싶은 사람. 확률적인 관점에서 ML을 재구축하고 싶은 사람. 대학원 수준의 이론을 배우고 싶은 사람.

원제: The Elements of Statistical Learning

저자: Trevor Hastie, Robert Tibshirani, Jerome Friedman

통칭 "ESL". ①에서 소개한 ISLR의 "상위 버전"에 해당한다. ISLR이 직관적으로 이해하는 책이라면, ESL은 엄격하게 이해하는 책이다.

부스팅 (Boosting), 랜덤 포레스트 (Random Forest), 희소 모델 (Sparse model), 주성분 분석 (PCA) 등 실무에서 빈번하게 사용하는 기법의 이론적 배경이 철저하게 해설되어 있다. 특히 앙상블 학습 (Ensemble learning, Bagging, Boosting) 장은 Kaggle에서 상위권을 목표로 하는 사람들에게 보물창고와 같다.

ISLR과 마찬가지로 PDF가 무료로 공개되어 있으므로, 우선 ISLR을 읽고 "더 깊이 알고 싶다"고 느낀 기법에 대해 ESL의 해당 장을 읽는 방식이 효율적이다.

이런 사람에게: ISLR을 다 읽고 다음 책을 찾고 있는 사람. 통계 학습 (Statistical learning) 이론에 정면으로 마주하고 싶은 사람.

원제: Mathematics for Machine Learning

저자: Marc Peter Deisenroth, A. Aldo Feyzi, Cheng Soon Ong

"ML에 필요한 수학"만을 ML 응용을 전제로 해설한 책. 선형대수, 미적분, 확률론, 최적화——ML에서 사용하는 4가지 수학 분야를 각각 "PCA에 어떻게 연결되는가", "SVM에서 어떻게 사용되는가"라는 구체적인 예시와 연결하여 가르쳐준다.

수학 교과서는 일반적인 정리의 증명에 많은 페이지를 할애하지만, 이 책은 "ML을 이해하기 위해 필요한 부분"에 초점을 맞추고 있다. 그렇기에 대학의 선형대수나 미적분 수업을 들어도 "그래서 이게 어디에 도움이 되는 거지?"라고 느꼈던 사람들에게 특히 와닿는다.

전문이 PDF로 무료 공개되어 있다. 종이책도 Cambridge University Press에서 출판되었지만, PDF만으로도 충분히 배울 수 있다.

나의 경우, PCA (주성분 분석)의 고유값 분해 (Eigenvalue Decomposition)가 그저 행렬 계산으로만 보였는데, 이 책을 읽고 나서야 "분산을 최대화하는 방향을 찾고 있는 것"이라는 사실을 깨닫고 납득할 수 있었다. 그런 연결 고리를 제공해 주는 책이다.

이런 분들에게: "수학이 부족하다"고 느끼지만, 무엇을 어디까지 공부해야 할지 모르는 사람.

원제: Probabilistic Machine Learning: An Introduction

저자: Kevin P. Murphy (감역: 持橋大地, 鈴木大慈)

Amazon:

머신러닝 (Machine Learning)의 거의 모든 분야를 확률과 통계의 관점에서 통일적으로 해설한 대작이다. 2권 구성으로, 제I권 「기초와 선형 모델」에서는 확률론·통계의 기초부터 선형 모델까지, 제II권 「비선형 모델」에서는 이를 바탕으로 한 뉴럴 네트워크 (Neural Network) 및 비선형 기법을 다루고 있다.

PRML이 2006년의 고전이라면, 본서는 2022년 간행되어 딥러닝 (Deep Learning) 시대의 내용을 정면으로 수용하고 있다. 베이즈 선형 회귀 (Bayesian Linear Regression)부터 CNN, RNN, 생성 모델 (Generative Model)까지 동일한 확률적 프레임워크 (Probabilistic Framework)로 일관되게 설명하기 때문에, "왜 이 모델이 작동하는가"를 통일적으로 이해할 수 있다. 또한 풍부한 실험 사례와 부속 Python 코드가 준비되어 있다는 점도 PRML에는 없는 실천적인 강점이다.

처음부터 끝까지 정독하는 책은 아니다. 레퍼런스 (Reference)로서 곁에 두고, 업무나 연구에서 새로운 기법을 접했을 때 해당 장을 펼쳐보는 방식이 현실적이다. 일본어 번역본이 나와 있어 영어의 장벽 없이 확률적 머신러닝의 전체상을 파악할 수 있다.

이런 분들에게: 베이즈 통계 (Bayesian Statistics)를 본격적으로 배우고 싶은 사람. 딥러닝을 포함한 확률적 ML의 전체상을 이해하고 싶은 사람. 불확실성의 정량화 (Quantification of Uncertainty)가 업무에 필요한 사람.

지난번에 소개한 '시작하기 위한 5권'과 이번 '마스터하기 위한 5권'의 위치를 정리한다.

[입문] ISLR / Hundred-Page ML Book
↓
[실전] Hands-On ML / Deep Learning with Python
...

반드시 이 순서대로 읽을 필요는 없다. 하지만 "구현은 할 수 있는데 이론이 따라오지 못한다"고 느낀다면, 이번 5권 중 하나에 손을 뻗어야 할 타이밍이다.

마지막으로 한 가지. 이 책들을 전부 읽는 사람은 거의 없다. 논문을 쓰는 연구자라도 자신의 전문 분야와 관련된 1~2권을 깊이 있게 읽는 경우가 많다. 중요한 것은 전부 읽는 것이 아니라, 자신이 지금 마주한 벽을 넘는 데 필요한 한 권을 선택하는 것이다.

수학이 벽이라면 ④번부터. 베이즈가 벽이라면 ②번 혹은 ⑤번부터. DL의 "왜"가 벽이라면 ①번부터. 자신의 약점에 맞춰 선택하기 바란다.