historyBölüm 1·Tarih & İlham
Rumelhart, Hinton ve Williams'ın çok katmanlı ağ devrimi
Öğrenci için: mekanizma, temel formül, kod ve quiz.· 9 / 10 bölüm
Önce bunlara göz at
30 saniyede özet · Ne öğreneceksin
XOR duvarı on yedi yıl boyunca yapay zekâyı beklettikten sonra, 1986'da David Rumelhart, Geoffrey Hinton ve Ronald Williams Nature'da 'Learning representations by back-propagating errors' makalesini yayımladı. Gizli katmanlı ağları verimle eğitme problemi çözülmüştü — yapay zekânın ikinci baharı başlıyordu.
Geri yayılım — tek eğitim adımı
1. İleri geçiş
Girdi ağdan geçer, tahmin üretilir; ara aktivasyonlar saklanır.
Geri yayılımı hiç ML bilmeyen bir arkadaşına iki cümleyle nasıl anlatırdın?
Backpropagation'ın özü: zincir kuralını hesap çizgesi üzerinde verimli biçimde uygulamak. …
Rumelhart ve ekibi makalede backpropagation'ı XOR üzerinde gösterdi. İki gizli nöronlu bir…
🌱Uzun Gecikmiş Bir Fikir
Aslında backpropagation fikri 1960'larda kontrol teorisinde (Bryson & Ho, 1969) ve daha önce de belirmişti. Ama 1986 makalesi, onu nöral ağlara uygulayıp derin ağların pratikte çalışabileceğini açıkça göstermesiyle dönüm noktasıydı.
1986 makalesi neden bir dönüm noktası sayılır?
Hinton, 2018 Turing Ödülü'nü (Bengio ve LeCun ile) derin öğrenmeye katkıları için aldı. 2023'te 'potansiyel tehlikelere özgürce dikkat çekmek için' Google'dan ayrıldı — AI'ın hem mimarlarından hem en önemli eleştirmenlerinden biri.
Daha derinlemesine