AI 2026.04.28 · 13 min
Advanced Regularization Theory Deep Dive · 5
모델은 왜 자신을 과신하는가 — Calibration의 수학
Over-confidence의 수학적 원인부터 Label Smoothing, Knowledge Distillation, Confidence Penalty, Temperature Scaling까지, 훈련 목적함수가 만들어내는 calibration 왜곡과 그 교정을 추적한다.