Dev.to헤드라인2026. 06. 21. 21:27

바닥부터 구현하는 서포트 벡터 머신 (Support Vector Machines): 가장 넓은 마진을 가진 분류기

요약

서포트 벡터 머신(SVM)의 핵심 원리인 마진 최대화와 서포트 벡터의 개념을 설명합니다. 소프트 마진(C)을 통한 오분류 조절과 커널 트릭을 이용한 비선형 분류 방법까지 다룹니다.

수많은 선들이 두 클래스의 점들을 분리할 수 있습니다. SVM은 더 날카로운 질문을 던집니다: 어떤 선이 가장 넓은 간격을 남기는가? 이 "가장 넓은 도로"라는 아이디어는 SVM을 머신러닝 (ML)에서 가장 우아한 분류기 중 하나로 만듭니다.

📐 직접 체험해 보세요 (클릭하여 점을 추가하고, C를 드래그하세요): https://dev48v.infy.uk/ml/day12-svm.html

SVM은 각 클래스의 가장 가까운 점들과의 거리를 최대화하는 경계 (boundary)를 찾습니다. 오직 그 가장 가까운 점들 — 즉, 서포트 벡터 (support vectors) — 만이 중요합니다. 다른 점을 움직여도 경계는 변하지 않습니다.

실제 데이터는 서로 겹쳐 있습니다. C 노브 (knob)는 넓은 도로와 몇몇 점의 오분류 (misclassifying) 사이의 절충안을 결정합니다: 낮은 C = 넓고 관대한 설정; 높은 C = 엄격하며, 모든 점을 올바르게 분류하려고 시도함.

직선은 고리 안에 또 다른 고리가 있는 형태를 분리할 수 없습니다 — 공간을 구부리기 전까지는 말이죠. RBF 커널 (RBF kernel)은 거리에 따라 유사도를 측정하여, 머릿속에서 2D를 벗어나지 않고도 곡선 경계가 나타나게 해줍니다.

🔨 라이브 데모와 함께 바닥부터 구현함 (힌지 손실 (hinge loss) → 경사 하강법 (gradient descent) → 경계 + 마진 + 서포트 벡터): https://dev48v.infy.uk/ml/day12-svm.html

MachineLearningFromZero의 일부입니다. 🌐 https://dev48v.infy.uk

AI 자동 생성 콘텐츠