Kayıp Yüzeyi Gezgini

L(w₁, w₂) = w₁² + k·w₂² kayıp yüzeyinde SGD, Momentum ve Adam optimizörlerinin izini karşılaştırın. Konturlar eşit kayıp seviyelerini gösterir — mavi iç (düşük kayıp), turuncu dış (yüksek kayıp).

η (lr)0.10
Çarpıklık k5
Adım sayısı30
Başlangıç: w₁=3.0, w₂=2.5Minimum: (0, 0)Adım: -1/-1

💡 Ne gözlemleyin?

  • k=1 (küresel): Tüm optimizörler benzer şekilde yakınsıyor
  • k yüksek (çok çarpık): SGD zigzag yapıyor, Momentum daha düzgün, Adam en hızlı
  • Öğrenme hızını çok büyük yapın — SGD ıraksıyor ama Adam daha dayanıklı
  • ▶ Oynat ile animasyonu izleyin — her adımda L değerinin nasıl düştüğünü görün