AI 2026.04.28 · 13 min
Advanced Generalization Theory Deep Dive · 1
고전 일반화 이론은 왜 딥러닝 앞에서 무너지는가
ResNet50의 VC 차원이 10의 10제곱에 달하는 이유부터 uniform convergence의 구조적 실패, implicit regularization, 그리고 4가지 일반화 퍼즐까지 — 고전 이론이 어디서 깨지는지 추적한다.
tag
#rademacher
총 3개의 글
AI 2026.04.28 · 13 min
Advanced Statistical Learning Theory Deep Dive · 2
집중부등식은 왜 ML 이론의 기초인가
Markov의 indicator trick부터 Bernstein의 분산 의존 경계까지, 집중부등식의 위계와 각 부등식이 ML 이론에서 담당하는 역할을 추적한다.
AI 2026.04.28 · 13 min
Advanced Statistical Learning Theory Deep Dive · 7
모델 복잡도를 어떻게 선택해야 하는가
SRM의 VC 기반 penalty부터 AIC/BIC의 정보이론적 근거, Cross-Validation의 경험적 추정, 그리고 VC·Rademacher·Stability 세 관점의 대비까지, 일반화 이론의 통일 원리를 추적한다.