AI 2026.04.28 · 14 min
Advanced Convex Optimization Deep Dive · 1
볼록 집합이 최적화에 황금 티켓을 부여하는 이유
선분 하나가 닫혀 있다는 조건이 어떻게 전역 최적 보장, 쌍대 이론, SVM, LP 꼭짓점 탐색까지 연결되는가를 추적한다.
tag
#svm
총 5개의 글
AI 2026.04.28 · 13 min
Advanced Kernel Methods Deep Dive · 3
SVM은 왜 내적만으로 비선형이 되는가
Margin 최대화의 기하학적 출발점부터 Lagrangian dual, Kernel Trick, Soft-margin, SMO까지 — SVM 전체 설계를 관통하는 하나의 원리를 추적한다.
AI 2026.04.28 · 13 min
Advanced Convex Optimization Deep Dive · 4
Lagrangian 쌍대성은 왜 SVM을 가능하게 하는가
Lagrangian에서 쌍대 함수를 정의하고, 약쌍대성과 강쌍대성의 차이, KKT 조건의 필요충분 역할, 그림자 가격의 경제 해석까지 — 쌍대 이론의 통일된 구조를 추적한다.
AI 2026.04.28 · 11 min
Advanced Statistical Learning Theory Deep Dive · 5
Rademacher 복잡도는 왜 VC보다 강한가
랜덤 라벨 상관성으로 함수족의 표현력을 측정하는 Rademacher 복잡도의 정의부터, Symmetrization-McDiarmid 기반 일반화 경계, Contraction Lemma를 통한 surrogate loss 정당화, 그리고 신경망 norm-based bound까지 추적한다.
AI 2026.04.28 · 14 min
Advanced Convex Optimization Deep Dive · 7
볼록 최적화는 머신러닝을 어떻게 설명하는가
Logistic Regression의 수렴 보장부터 SVM 쌍대성, L1 희소성의 기하학, 비볼록 딥러닝의 역설, 그리고 온라인 학습의 Regret 경계까지 — 볼록 최적화라는 하나의 렌즈로 추적한다.