Bayes'in arkasındaki felsefe ve matematiğin derinlemesine açıklaması
Matematiksel istatistikte frekans okulu ve Bayes okulu vardır. İkisi arasındaki fark konusunda farklı görüşler var ve çevrimiçi blog ve Zhihu'da özel tartışmalar var.
Bununla birlikte, bu konuya daha yüksek bir felsefi perspektiften baktığınızda, Bayesci teori ile frekans teorisi arasındaki gerçek farkın, insanların olasılık arasındaki felsefi farkı nasıl açıkladıklarında yattığını göreceksiniz. Bu makale, Bayes'in arkasındaki felsefe ve matematiği derinlemesine analiz edecektir. Herkesin Bayesçi düşünme ve akıl yürütmeyi daha yüksek bir perspektiften uygulamasına izin verin, yalnızca makine öğrenimi algoritmalarına değil, aynı zamanda iş ve yaşamı yönlendirmek için.
Bayes Teoreminin Kanıt Düşüncesi
A'yı dünya hakkındaki bazı önermeler ve B'yi de bir veri veya kanıt olarak düşünün. Örneğin, A bugün yağmur yağıyor önermesini, B ise dışarıdaki kaldırımın ıslak olduğuna dair kanıtları temsil ediyor, ardından bu Bayesci çıkarım süreci fikrini analiz edin.
p (yağmur | ıslak) sorar, "Dışarısı ıslak, yağmur ihtimali nedir?" Bu sorunu değerlendirmek için denklemin sağ tarafına bakalım. Yere bakmadan önce yağmur olasılığı nedir, p (yağmur)? Bunu dünya hakkındaki varsayımların rasyonelliği olarak düşünün. Sonra bu varsayım altında, dışarıdaki nemin, yani p (nemli | yağmur) gözleminin ne kadar olası olduğunu sorduk. Kanıtlara göre, bu süreç bir önermeye olan ilk inancımızı etkili bir şekilde güncelledi ve nihayet bazı gözlemlerin desteğiyle yağışın rasyonalitesini ölçtü.
İlk inancımız, önceki dağıtım p (yağmur) ile temsil edilir ve son inancımız, arka dağıtım p (yağmur | ıslak) ile temsil edilir. Payda sadece şunu sorar: "Kanıtın toplam makullüğü nedir?" Sonrakinin uygun bir olasılık dağılımı olmasını sağlamak için tüm varsayımları göz önünde bulundurmalıyız.Bu düşünme şekli, olayları olasılık merceğinden gözlemlemek ve açıklamak yerine, dünyanın siyah beyaz yorumundan kurtulmanıza yardımcı olabilir.
Kanıta dayalı bir dünya görüşünden başlayarak, yeni kanıtlar sunulursa, ilk dünya görüşünüzün olasılığı değişecektir.
Bayes felsefesinin özü: dinamik bir dünya görüşü
Bayes teoreminin özü:
Bayes teoremi, mevcut en iyi kanıtlara (gözlemler, veriler, bilgiler) dayalı olarak inançların (hipotezler, iddialar, önermeler) geçerliliğini hesaplamak için bir yöntemdir. En gerçek tanım: orijinal inanç artı yeni kanıt = yeni ve geliştirilmiş inançlar.Yani inançlarınızın kesinliği sabit değil, akışkan ve şekillendirilebilir. Yeni kanıtlara dayanarak fikrinizi değiştirebilmelisiniz.
Diyalektik, problemlere statik olarak bakmayı değil, problemlere dinamik olarak bakmayı vurgular. . Bu nedenle, soruna dinamik olarak bakmanın felsefi düşüncesini vurgulamak için, ayrıca şu şekilde tanımlanmaktadır:
Görüşlerimizi objektif bilgilerle değiştiriyoruz: ilk inançlar + son nesnel veriler = yeni ve geliştirilmiş inançlar. Sistem her yeniden hesaplandığında, posterior yeni yinelemenin öncüsü olur. Bu gelişen bir sistemdir ve her yeni bilgi, kesinliğe gittikçe yaklaşmaktadır.
Bu düşünce tarzı, insanların onay önyargısının etkisini azaltmalarına yardımcı olabilir ve böylece yeni olasılıklar hakkında görüşler ortaya çıkarabilir.
Bayesci çıkarım süreci, sürekli bir revizyon ve gerçeğe yaklaşma sürecidir.
Bayes teoreminin başka bir kullanımı, bir hipotezin başka bir hipotezde ortaya çıkma olasılığını belirlemektir.
Temel öncül, bu dünyadaki çoğu şeyin belirsiz olduğu şeklindeki ilk ilkedir. Çoğu zaman mükemmel bilgiye sahip değilsiniz, her şeyi bilmiyorsunuz, çıkarımlar yapmanız gerekiyor.
Bayes teoremi, belirsizlikle dolu bir dünyada karar vermemiz için bilgi sağlar. Yeni bilgilerin ortaya çıkmasıyla birlikte, bu yeni kanıtın şeylerin algısını nasıl değiştirdiğini düşünmek ve sonra ona göre düzeltmeler yapmak gerekir.
Bayesçi felsefenin ruhu: bilimin nesnelliği ve hassasiyeti
Burts McGrawn'ın Bayes hakkında klasik bir açıklaması var:
Bayes, modern bilimin nesnellik ve hassasiyete ihtiyaç duyduğuna inanıyor. Bayes bir inanç ölçüsüdür. Eksik ve yetersiz verilerden, tahminlerden ve cehaletten bile öğrenebileceğimizi söylüyor.İnsanlar, insan düşüncesi ve karar vermenin doğasında var olan kusurları fark etmeye başladıkça, Bayesçi düşüncenin uygulanması da artıyor.
Klasik ekonomik model uzun bir süre insanları rasyonel aktörler olarak görüyordu ve aydınlanmış kişisel çıkarlara dayalı kararlar almak mükemmeldi. Şimdi bu görüşün kusurlu olduğunun farkına varmaya başlıyoruz, aksine, insan davranış ekonomisinin bilişsel önyargının kurbanı olduğu görüşü giderek daha yaygın hale geliyor.
Bayesçi düşünce aynı zamanda bizim öğrenme yöntemimizin iyi bir yaklaşımıdır. Nat Silver "Signal and Noise" da şunları söyledi:
"Aksine, bu (Bayes Teoremi) evreni nasıl anladığımıza dair matematiksel ve felsefi bir ifadedir: onu yaklaşık olarak anlarız ve daha fazla kanıt topladıkça gerçeğe yaklaşırız."
Bayes Matematiksel Düşünceler: Öncekileri Ayarlamak İçin Verileri Kullanın
Bayesci çıkarım, regresyon parametrelerinin değeri, demografik veriler, ticari KPI'lar veya kelimelerin konuşma kısmı gibi herhangi bir rastgele değişkeni modellemek için kullanılabilen çok güçlü bir araçtır. Veriler sınırlı olduğunda ve aşırı uyum endişesi olduğunda makine öğrenimi modellemesinde daha kullanışlıdır.
Daha sonra, Gauss dağılım kestirimi aracılığıyla, parametre tahmininde uygulanan Bayesçi'nin matematiksel fikirleri ve yöntemleri açıklanmıştır.Dağılım parametreleri öncülüne göre verilerin olasılığı: koşullu olasılık dağılımı
Gauss rasgele değişkeni X, D = {x1, ..., xN} için örnek bir veri kümesi verdiğimizi ve verilen verilerin varyansının 2 olduğunu varsayalım
için en iyi tahminimiz nedir? Verilerin bağımsız olduğu ve aynı dağılıma sahip olduğu varsayılmaktadır.
Gauss dağılımının bir olasılık fonksiyonu olarak formu aşağıdaki gibidir: Mevcut parametreler altında veri oluşumunun olasılık yoğunluğu fonksiyonudur:
Bu ifadeyi maksimize eden 'yi seçmek istiyoruz.
Bayes olasılığı
Yukarıdaki Gauss dağılım parametresi tahmini için, sorunu çözmek için Bayes teoremini kullanıyoruz.Amacımız parametreleri bulmaktır.Olasılık ifadesi, d parametresinin olasılığı altında olasılığını bulmaktır, yani p ( | d):
p (d | ) Olasılık biçimi olan olasılık işlevi, esasen yukarıdaki koşullu olasılık biçiminde yazılmış olasılık yoğunluk işlevidir. p ()
Önceki olasılıktır (önceki inanç).
Olan normalleştirme sabiti Kanıtın toplam makullüğü , Tüm varsayımlar dikkate alınmalıdır. p ( | d) Verilerle yüzleştiğimizde önceki inançlarımızı yeniden ayarlayan posterior dağılımdır ( Priori olasılık ).
Bu şekilde, parametre elde etme sürecini Bayes teoremini çözme sürecine dönüştürüyoruz.Maksimum arka olasılık tahmini MAP
Gauss dağılımı tahmininde, önceden rastgele bir X değişkeninin ortalama değerinin 0 olduğunu ve inancımızın varyansının 02 olduğunu düşündüğümüzü ve sonra X, d = {x1, ..., xN} örnek veri setini verdiğimizi varsayalım. Aşağıdaki şekilde gösterildiği gibi ve verilerin varyansının bir şekilde 2 olduğunu bilerek, bu makale sadece bir parametrenin elde edilmesi durumunu vermektedir.
Şimdi arka dağıtım parametrelerini bulun ?
Yukarıdaki varsayımlar, Gauss dağılımının iki parametresinin aşağıdaki gibi, yani a priori olduğu bilinmektedir.
Bayes olasılığına göre, istediğimiz şey:
p (d | u) Aşağıdaki şekilde gösterildiği gibi olabilirlik işlevi:
p (u) Evet Önceki olasılık:
Son olasılık şu şekilde yazılabilir:
İki Gauss dağılımının çarpımına göre de Gauss, arka olasılık da Gauss'tur:
Formu dönüştürerek nihayet şunu elde ederiz:
