#gradient-boosting

AdaBoost에서 XGBoost까지 — Boosting은 하나의 수식이다

지수손실 최소화라는 단일 프레임으로 AdaBoost의 가중치 공식부터 XGBoost의 closed-form leaf 값, LightGBM의 histogram 최적화, margin theory의 과적합 저항성까지 추적한다.