AI 2026.04.28 · 13 min
Advanced Information Theory Deep Dive · 3
상호정보량은 현대 표현학습의 언어다
MI의 기본 정의부터 DPI, Fano 부등식, MINE 추정, InfoNCE 기반 대조학습까지 — 표현학습의 설계 결정을 하나의 정보이론적 프레임으로 추적한다.
tag
#contrastive-learning
총 3개의 글
AI 2026.04.28 · 12 min
Advanced Regularization Theory Deep Dive · 4
Data Augmentation은 왜 효과적인가
ERM의 Dirac delta 근사부터 Contrastive Learning의 augmentation-defined semantics까지, 현대 정규화 기법의 통일된 수학적 기반을 추적한다.
AI 2026.04.28 · 12 min
Advanced Cnn Deep Dive · 6
CNN 응용의 통일 원리 — 손실 함수가 설계를 결정한다
분류의 softmax gradient부터 탐지의 Focal Loss, 분할의 Dice Loss, 자기지도학습의 contrastive loss까지, CNN 각 응용 영역의 손실 함수 설계 철학을 추적한다.