Kenar (katman conv2d0)
Doku (katman karışık3a)
Mod (katman karışık4a)
Bölüm (mix4b ve mixed4c katmanları)
Nesneler (mixed4d ve mixed4e katmanları)
Özellik görselleştirme, GoogLeNet'in ImageNet veri kümesinde eğitildiğini görmemize ve birçok katmanda kendi görüntü anlayışımızı oluşturmamıza olanak tanır.
Bu makalenin yazarı Chris Ola ve Google Brain Team'den diğerleriİnsanlar, sinir ağlarının insanlar tarafından açıklanması gerektiğini giderek daha fazla hissediyor. Sinir ağı yorumlanabilirliği alanı bu sorunlara yanıt olarak oluşturulur. Olgunlaştıkça, iki ana araştırma ipucu birleşmeye başladı: Özellik görselleştirme ve ilişkilendirme .
Özellik görselleştirme, ağın ne bulduğunu göstermek için örnekler üretir
İlişkilendirme, ağın hangi bölümünün belirli bir görüntü bölümünü etkinleştirmekten sorumlu olduğunu araştırın
Bu makale, özellik görselleştirmeye odaklanmaktadır. Özellik görselleştirme güçlü bir araç olmasına rağmen, aslında birçok ayrıntıyı içerir. Bu yazıda, ana sorunları inceleyecek ve bunları çözmek için ortak yöntemleri keşfedeceğiz. Çok basit yöntemlerin yüksek kaliteli görselleştirmeler üretebileceğini gördük. Bu süreç sırasında, nöronal tepkilerdeki değişiklikleri, bunların nasıl etkileşime girdiğini ve optimizasyon sürecinin nasıl iyileştirileceğini keşfetmek için bazı teknikler tanıttık.