historyBölüm 1·Tarih & İlham
Bias, fairness, AI safety ve hizalama problemi
Öğrenci için: mekanizma, temel formül, kod ve quiz.· 15 / 15 bölüm
Önce bunlara göz at
30 saniyede özet · Ne öğreneceksin
Yapay zeka artık sadece laboratuvarlarda değil, kredi kararlarında, işe alımlarda ve hatta mahkeme salonlarında. Peki bu güçlü araçlar toplumun aynası mı, yoksa önyargılarımızın büyüteci mi? Etik boyutları anlamadan AI sistemleri tasarlamak, gözü kapalı araba kullanmaya benzer.
Model ne görürse onu öğrenir. Eğitim verisi tarihi eşitsizlikleri içeriyorsa, model bunlar…
🪞Çarpık Ayna
Algoritmayı toplumun aynası olarak düşün. Eğer ayna çarpıksa (önyargılı veri), yansıttığı görüntü de çarpık olur. Üstelik bu çarpık görüntüyü nesnel gerçek gibi sunar — işte tehlike burada.
Adalet tek bir sayıyla ölçülemez, farklı tanımlar birbiriyle çelişebilir.
Fairness metriklerinden birini optimize etmek diğerini bozabilir. Hangi metriğin seçileceği teknik değil, toplumsal bir karardır.
Sistemin tam olarak istediğimizi yapmasını sağlamak göründüğünden zordur.
Modelin gerçek insan değerleriyle uyumlu hedefler edinmesini sağlama zorluğu.
İstediğimiz
Model Öğrenebilir
LLM'ler var olmayan referanslar, uydurma istatistikler ve sahte alıntılar üretebilir — üst…
LLM çıktısını daima birincil kaynaklarla doğrula. Güvenilir görünüm, güvenilirlik anlamına gelmez.
GDPR Açıklanabilirlik Hakkı: Otomatik kararlardan etkilenen bireylerin "anlamlı açıklama" …
Amazon'un işe alım algoritması neden kadın adayları dezavantajlı konuma düşürdü?
Goodhart Yasası bağlamında, sosyal medya platformlarının "engagement" metriğini optimize etmesi neden sorunlu olabilir?
LLM halüsinasyonlarının temel nedeni nedir?
Etik, AI sistemlerinin son aşamasında eklenen bir filtre değil, tasarımın başından itibaren düşünülmesi gereken bir boyuttur. "Move fast and break things" yaklaşımı, insanların hayatını etkileyen sistemlerde kabul edilemez.
Daha derinlemesine