Derin öğrenmede anlaşılması gereken 13 olasılık dağılımı (bağlantı ile)
Kaynak: AI Developer
Bu makale yaklaşık olarak 1400 kelime , Okumanız tavsiye edilir 5 dakika
Bu makale, çoğu python kitaplıklarını kullanarak derin öğrenmeyle ilgili olan temel olasılık dağıtımı eğitimlerini tanıtır.
Olasılık dağılımına genel bakış
- Konjugasyon, eşlenik dağılım ilişkisine sahip olduğu anlamına gelir.
Bayesçi olasılık teorisinde, arka dağılım p (x) ve önceki olasılık dağılımı p () aynı olasılık dağılım ailesindeyse, önceki ve sonraya eşlenik dağılımlar ve öncekine olasılık İşlevden önceki eşlenik. Wikipedia'dan önceki eşlenik burada (https://en.wikipedia.org/wiki/Conjugate_prior).
- Çoklu kategori, rastgele varyansın 2'den büyük olduğu anlamına gelir.
- n kez, p (x) önceliğini de dikkate aldığımız anlamına gelir.
- Olasılık hakkında daha fazla bilgi edinmek için okumayı tavsiye ederim (örüntü tanıma ve makine öğrenimi, Bishop 2006).
Dağılım olasılığı ve özellikleri
1. Düzgün dağılım (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py
Tekdüze dağılım aynı olasılık değerine sahiptir ve basit bir olasılık dağılımıdır.
2. Bernoulli dağılımı (ayrık)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py
- Önceki olasılık p (x) Bernoulli dağılımını dikkate almaz. Bu nedenle, maksimum olasılık için optimize edersek, kolayca aşırı donatılabiliriz.
- İkili sınıflandırma, ikili çapraz entropi kullanılarak sınıflandırılır. Biçimi, Bernoulli dağılımının negatif logaritması ile aynıdır.
3. Binom dağılımı (ayrık)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py
- N ve p parametreli binom dağılımı, bir dizi n bağımsız deneydeki başarı sayısının ayrık olasılık dağılımıdır.
- Binom dağılımı, önceden seçilecek sayıyı belirterek önceki olasılığı dikkate alan bir dağılımdır.
4. Bernoulli dağılımı, sınıflandırma dağılımı (ayrık) yapın
Kod:
https://github.com/graykode/distribution-is-all-youneed/blob/master/categorical.py
- Do Bernoulli'ye sınıflandırma dağılımı denir.
- Çapraz entropi, negatif logaritmalara sahip Do Bernoulli dağılımı ile aynı forma sahiptir.
5. Polinom dağılımı (ayrık)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py
Polinom dağılımı ile sınıflandırma dağılımı arasındaki ilişki, Bernoul dağılımı ve binom dağılımı arasındaki ilişki ile aynıdır.
6. dağıtım (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py
- dağılımı, binom dağılımına ve Bernoulli dağılımına eşleniktir.
- Konjugasyon kullanılarak, bilinen önceki dağıtım kullanılarak arka dağıtım daha kolay elde edilebilir.
- dağılımı özel durumu sağladığında ( = 1, = 1), düzgün dağılım aynıdır.
7. Dirichlet dağılımı (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py
- Dirichlet dağılımı, polinom dağılımına eşleniktir.
- K = 2 ise, dağılımıdır.
8. Gama dağılımı (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py
- Gama (a, 1) / gama (a, 1) + gama (b, 1) beta (a, b) ile aynıysa, gama dağılımı dağılımıdır.
- Üstel dağılım ve ki-kare dağılımı, gama dağılımının özel durumlarıdır.
9. Üstel dağılım (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-youneed/blob/master/exponential.py
Üstel dağılım, 1 olduğunda dağılımının özel bir durumudur.
10. Gauss dağılımı (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py
Gauss dağılımı, çok yaygın bir sürekli olasılık dağılımıdır.
11. Normal dağılım (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py
Normal dağılım, ortalama değeri 0 ve standart sapması 1 olan standart bir Gauss dağılımıdır.
12. Ki-kare dağılımı (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py
- K serbestlik derecesinin ki-kare dağılımı, k bağımsız standart normal rastgele değişkenlerin karelerinin toplamının dağılımıdır.
- Ki-kare dağılımı dağılımının özel bir durumudur
13. t dağılımı (sürekli)
Kod:
https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.py
T dağılımı, normal dağılıma benzer, ancak daha ağır kuyruklarla simetrik çan şeklinde bir dağılımdır; bu, ortalamadan çok daha düşük değerler üretme olasılığının daha yüksek olduğu anlamına gelir.
aracılığıyla: https://github.com/graykode/distribution-is-all-you-need
Editör: Yu Tengkai
Redaksiyon: Hong Shuyue
-Bitiş-
Tsinghua-Qingdao Veri Bilimi Enstitüsü'nün resmi WeChat kamu platformunu takip edin " THU Veri Pastası "Ve kız kardeş numarası" Veri Pastası THU "Daha fazla ders avantajı ve kaliteli içerik elde edin.
