AI 2026.04.28 · 12 min
Advanced Information Geometry Deep Dive · 5
Natural Gradient는 왜 좌표를 묻지 않는가
유클리드 gradient의 parameterization 의존성 문제부터 Fisher 계량 하의 steepest descent 유도, K-FAC·Shampoo의 실전 근사까지, Natural Gradient의 철학과 구조를 추적한다.
tag
#k-fac
총 2개의 글
AI 2026.04.28 · 12 min
Advanced Optimization Theory Deep Dive · 7
딥러닝 최적화의 숨은 기하학 — Sharpness에서 Fisher까지
Loss landscape의 sharpness가 2/η 경계에 자가 안정화되는 Edge-of-Stability부터 Fisher metric 위의 Natural Gradient까지, 딥러닝 최적화의 공통 원리를 추적한다.