AI 2026.04.28 · 12 min
Advanced Optimization Theory Deep Dive · 7
딥러닝 최적화의 숨은 기하학 — Sharpness에서 Fisher까지
Loss landscape의 sharpness가 2/η 경계에 자가 안정화되는 Edge-of-Stability부터 Fisher metric 위의 Natural Gradient까지, 딥러닝 최적화의 공통 원리를 추적한다.
총 1개의 글
Loss landscape의 sharpness가 2/η 경계에 자가 안정화되는 Edge-of-Stability부터 Fisher metric 위의 Natural Gradient까지, 딥러닝 최적화의 공통 원리를 추적한다.