Evrişimli sinir ağı CNN'yi anlamak için bir makale (çalışma notları)
Kaynak: Makine Öğrenimi Algoritmaları ve Doğal Dil İşleme
Yazar: Bai Xuefeng
Bu makale Grafik ve metin kombinasyonu, Önerilen Okuma 10 dakika.
Bu makale, evrişimin herkes için basit ve net bir şekilde nasıl açıklanacağını açıklar ve öğrenmede bazı yöntem örneklerini paylaşır.
İlk olarak, makalenin ana hatları şu şekildedir:
-
CNN Lizi Şehir Evi
-
CNN nedir
Evrişim nedir
Havuzlama nedir
-
Neden CNN
-
CNN ile ilgili diğer bazı anlayışlar
-
CNN Uygulama (arayüz)
1. CNN'e Başlangıç Görünümü
Yann LeCun'dan beri modern CNN
2.
Yukarıdakiler en klasik ve ilk iki CNN yapı diyagramıdır
2. CNN nedir?
Nöral ağlar? evrişim?
2.1 Evrişim nedir?
Evrişimin tanımı
-
Sürekli tanımı şöyledir:
-
Özellikleri:
2.2 Ayrık evrişimin kestanesi:
-
Zarın toplamının 4'e çıkma olasılığı nedir?
-
İki boyutlu ayrık evrişim
-
Hesaplanan animasyon aşağıdaki gibidir
2.3 İki boyutlu görüntülerde kullanılır:
-
Evrişimde yaygın olarak kullanılan bazı kavramlar hakkında: sinir ağlarının evrişimi, karşılık gelen bitlerin çarpımıdır ve şimdi sinyallerin çarpımıdır.
Yukarıda taşınan küçük matrisin iki adı vardır, biri filtre, diğeri ise evrişim çekirdeği Çekirdeği, aynı şeylerdir ancak farklı isimlerdir.
2.4, sinir ağlarında kullanılır
Aslında öğrenmemiz gereken şey, içteki çizgilerdeki karşılık gelen ağırlıklardır.Örneğin, yukarıdaki yeşil renk 3 * 1 evrişim çekirdeğinin boyutunu temsil eder, ancak sinir ağının yapısı ile temsil edilir.
2.5, evrişimin ayrıntıları
-
filtre / Çekirdek boyutu, sayı
-
Sinir ağının girişinin 6 * 6 görüntü olduğunu varsayarsak,
Evrişim çekirdeklerinin her biri, farklı özelliklerin çıkarılmasını temsil eder ve çoklu evrişimli çekirdekler tarafından çıkarılan özellikler daha sonra birleştirilir (bu daha güçlüdür) ve sonraki yapıya birlikte gönderilir.
-
İşte daha popüler bir açıklama:
-
Her insan, farklı özellikler elde etmek için bir evrişim çekirdeğini temsil eder.Bir kişi zayıftır, ancak bir grup insan daha güçlüdür.Farklı bilgileri (ağırlıkları) vardır.Bunu benzetme yoluyla anlamak daha kolay olacaktır.
-
Adım
Görüntüyü süpürmek için filtreyi attığınız adım boyutu
-
Sıfır dolgu
-
Kenarlıktaki deseni görmezden gelmemenin bir yolu
-
Yeni görüntü, orijinal görüntüden daha küçük
-
Kanal
2.6 Havuzlama
-
Maksimum havuz oluşturma örneği:
-
Havuzlama yerel çeviriye duyarlı değil . (Yerel değişmezlik)
-
"Girdiyi küçük bir miktar çevirirsek, havuza alınmış çıktıların çoğunun değerleri değişmez."
-
Görüntü sola veya sağa hareket eder ve havuzlamanın sonucu değişmez
2.7 düzleştirmek
2. 8 Evrişim / Fuly Connected
2.9 Tüm CNN
-
Bir bütün olarak, CNN,
-
Evrişim
-
Doğrusal olmama: ör. RELU
-
Havuzlama
-
FC Katmanları
3. Neden CNN
-
Bazı desenler çok daha küçük tüm görüntüdür.
-
Aynı desenler farklı bölgelerde görülür
-
Piksellerin alt örneklemesi nesneyi değiştirmez
4. CNN ile ilgili diğer bazı anlayışlar
4.1 Alıcı alan hakkında
-
Üst katmanın çıktı birimlerini etkileyen alt katmandaki birimlerin toplanması, s'nin alıcı alanı olarak adlandırılır.
-
Evrişimsel ağın daha derin katmanlarındaki birimler, sığ katmanlardaki birimlerden daha büyük bir alıcı alana sahiptir. Ağ aynı zamanda adım evrişimi veya havuzlama gibi yapısal özellikler içeriyorsa, bu etki güçlendirilecektir. Bu, evrişimli ağlarda doğrudan bağlantıların çok seyrek olmasına rağmen, daha derin katmanlardaki birimlerin dolaylı olarak giriş görüntüsünün tamamına veya çoğuna bağlanabileceği anlamına gelir. (Verim)
4.2 Sonsuz güçlü bir öncül olarak evrişim ve havuzlama
Her şeyden önce, zayıf öncekinin daha yüksek bir entropi değeri vardır, bu nedenle daha özgürdür ve güçlü bir öncekinin daha düşük bir entropi değeri vardır.Böyle bir öncül, parametrenin nihai değerinin belirlenmesinde çok olumlu bir rol oynayabilir.
Evrişimli ağ, tamamen bağlı bir ağa benzer, ancak ağın ağırlığı için sonsuz güçlü önceliğe sahiptir.
-
Tüm gizli birimlerin ağırlıkları paylaşılır.
-
Bazı sürekli küçük birimlerin ağırlıkları dışında, diğer ağırlıkların tümü 0'dır.
-
Havuzlama aynı zamanda sonsuz derecede güçlü bir öncüldür: her birim küçük bir çeviri miktarına değişmez.
Evrişim ve havuzlama yetersiz uyuma neden olabilir! Diğer tüm önceliklere benzer şekilde, evrişim ve havuzlama yalnızca öncelikler hem makul hem de doğru olduğunda yararlıdır. Bir görev doğru uzamsal bilgilerin korunmasına dayanıyorsa, tüm özelliklerde havuzlamanın kullanılması eğitim hatasını artıracaktır.
Gerçek ihtiyaçlara göre bir öncelik seçin
5. Pytorch'ta CNN
-
ateş İlgili arayüz
-
PyTorch'ta LeNet
referans:
Evrişimi anlaşılması kolay bir şekilde nasıl açıklarsınız (Ma öğrencileri cevabı bilir)
Öğretmen Li Hongyi slaytları
