Li Mu ve diğerlerinin yazdığı açık kaynak Çince "Pratik Derin Öğrenme" kitabının önizleme sürümü çevrimiçi (bağlantı)
Kaynak: Heart of the Machine
Bu makale hakkında 2000 Word, önerilen okuma 10 dakika.
Bu makale, herkes için etkileşimli bir derin öğrenme kitabı sunar.
Son zamanlarda, Aston Zhang, Li Mu ve diğerlerinin "Derin Öğrenme Alıştırma" adlı kitabı, okuyucuların özgürce okuması için bir çevrimiçi önizleme sürümünü yayınladı. Bu, okul öğrencileri, mühendisler ve araştırmacılar için interaktif bir derin öğrenme kitabıdır.
Çevrimiçi kitap adresi: https://zh.diveintodeeplearning.org/index.htmlGitHub Projesi: https://github.com/diveintodeeplearning/d2l-zhBu kitap, Amazon'un MXNet sıfır tabanlı derin öğrenme kursunun önemli bir parçasıdır. Kursun içeriğinde, Apache MXNet'in, uygulamalı uygulama sürecinde basit ve okunması kolay kod kullanmayı ve ürün düzeyinde uygulamalar yazmayı öğrenmenize yardımcı olabilecek ön uç aracı Gluon'u kullanmanız önerilir.
Kitabın bir Jupyter not defteri biçiminde sunulduğundan bahsetmeye değer.Okuyucular, zamanında geri bildirim almak için kodu ve hiper parametreleri değiştirebilir, böylece öğrenme verimliliğini artırabilir.
Katkıda bulunanBu kitaba katkıda bulunanlar arasında Amazon için çalışan birkaç bilim insanı bulunmaktadır:
Ek olarak, bu kitabın açık kaynak topluluğunda 100'den fazla katılımcısı var. Yazar, bu çevrimiçi kitabın "proje" nin hala sürekli olarak geliştirilmekte olduğunu belirtti.Katkıda bulunmanın bağışlanan kitabın özel bir versiyonunu alacağını ve kabul edildiğini belirtti.
Etkileşim: Jupyter Notepad + aktif topluluk desteğiHer bölüm çalıştırılabilen bir Jupyter not defteridir.Derin öğrenmede pratik deneyim biriktirmek için zamanında geri bildirim almak için kodu ve hiper parametreleri serbestçe değiştirebilirsiniz.
Jupyter not defteri indirme adresi:Kitap ayrıca aktif topluluk desteğine de sahiptir.Her bölümün sonundaki bağlantı aracılığıyla topluluktaki binlerce arkadaşınızla tartışabilir ve ders çalışabilirsiniz.
Yapı: formül + simge + kodBu kitap yalnızca derin öğrenmede yaygın olarak kullanılan modelleri ve algoritmaları açıklığa kavuşturmak için metin, formül ve çizimleri birleştirmekle kalmaz, aynı zamanda bunları sıfırdan nasıl uygulayacağınızı gösteren kod sağlar ve etkileşimli bir öğrenme deneyimi sağlamak için gerçek verileri kullanır.
Bu üç görüntüleme yöntemi birbirini tamamlayabilir.Çoğu algoritma, diyagram aracılığıyla yapının anlaşılmasını derinleştirebilir, ancak yukarıdaki şekilde gösterilen LSTM ve diğer algoritmalar, belirli yapıyı anlamak için formüller gerektirir. Ek olarak, ne ifadeler ne de lejandlar tam ayrıntılar içeremez ve birçok özel ayrıntı kod olmadan gösterilemez.
içindekilerGiriş
- Önsöz
- Derin Öğrenmeye Giriş
- Bu kitap nasıl kullanılır
Önkoşul bilgisi
- Bu kitabın kodunu alın ve çalıştırın
- Veri işleme
- Otomatik gradyan
- MXNet belgelerini görüntüleyin
Derin öğrenme temelleri
- Doğrusal regresyon
- Doğrusal regresyonun sıfırdan gerçekleştirilmesi
- Doğrusal regresyonun Gluon uygulaması
- Softmax regresyonu
- Görüntü sınıflandırma veri seti (Fashion-MNIST)
- Softmax regresyonunun sıfırdan gerçekleştirilmesi
- Softmax regresyonunun Gluon uygulaması
- Çok katmanlı algılayıcı
- Çok katmanlı algılayıcının sıfırdan gerçekleştirilmesi
- Çok katmanlı algılayıcıların Gluon uygulaması
- Model seçimi, yetersiz ve fazla uydurma
- Kilo kaybı
- Yöntemi at
- İleri yayılma, geri yayılma ve hesaplama diyagramı
- Sayısal kararlılık ve model başlatma
- Gerçek Kaggle Rekabeti: Konut Fiyat Tahmini
Derin öğrenme bilgi işlem
- Model yapımı
- Model parametrelerine erişim, başlatma ve paylaşma
- Model parametrelerinin gecikmeli başlatılması
- Özel katman
- Oku ve sakla
- GPU hesaplama
Evrişimli Sinir Ağı
- İki boyutlu evrişimli katman
- Dolgu ve adım
- Çoklu giriş kanalları ve çoklu çıkış kanalları
- Havuz katmanı
- Evrişimli Sinir Ağı (LeNet)
- Derin Evrişimli Sinir Ağı (AlexNet)
- Tekrarlanan öğeleri (VGG) kullanan ağ
- Ağdaki ağ (NiN)
- Paralel bağlantılı ağ (GoogLeNet)
- Toplu normalleştirme
- Artık Ağ (ResNet)
- Yoğun bağlı ağ (DenseNet)
Tekrarlayan sinir ağı
- Dil modeli
- Tekrarlayan sinir ağı
- Dil modeli veri kümesi (jay Chou album lyrics)
- Döngüsel sinir ağının sıfırdan gerçekleştirilmesi
- Tekrarlayan sinir ağının Gluon uygulaması
- Zaman içinde geri yayılım
- Geçitli Tekrarlayan Birim (GRU)
- Uzun kısa süreli hafıza (LSTM)
- Derin Tekrarlayan Sinir Ağı
- Çift yönlü tekrarlayan sinir ağı
optimizasyon
- Optimizasyon ve derin öğrenme
- Gradyan inişi ve stokastik gradyan inişi
- Küçük toplu stokastik gradyan inişi
- Momentum yöntemi
- Adagrad
- RMSProp
- Adadelta
- Adam
Hesaplama performansı
- Zorunlu ve sembolik karma programlama
- Eşzamansız hesaplama
- Otomatik paralel hesaplama
- Çoklu GPU hesaplama
- Çoklu GPU hesaplamanın Gluon uygulaması
Bilgisayar görüşü
- Görüntü büyütme
- İnce ayar
- Nesne algılama ve sınırlayıcı kutu
- Ankraj çerçevesi
- Çok ölçekli hedef tespiti
- Hedef tespit veri seti (Pikachu)
- Tek çekim çoklu çerçeve algılama (SSD)
- Bölgesel Evrişimli Sinir Ağı (R-CNN) serisi
- Anlamsal bölümleme ve veri kümeleri
- Tam Evrişimli Ağ (FCN)
- Stil aktarımı
- Gerçek Kaggle Yarışması: Görüntü Sınıflandırma (CIFAR-10)
- Gerçek Kaggle Yarışması: Köpek Cinsi Tanıma (ImageNet Köpekleri)
Doğal dil işleme
- Kelime gömme (word2vec)
- Yaklaşık eğitim
- Word2vec uygulaması
- Alt Kelime Gömme (hızlı Metin)
- Küresel Vektörün (GloVe) Kelime Gömme
- Eşanlamlılar ve benzerlikler bulun
- Metin duyarlılığı sınıflandırması: tekrarlayan sinir ağını kullanma
- Metin duyarlılığı sınıflandırması: evrişimli sinir ağını (textCNN) kullanma
- Kodlayıcı-kod çözücü (seq2seq)
- Işın araması
- Dikkat mekanizması
- makine çevirisi
ek
- Ana sembollerin listesi
- Matematiksel temel
- Jupyter not defterini kullan
- AWS ile kod çalıştırın
- GPU satın alma rehberi
- Bu kitaba nasıl katkıda bulunabilirsiniz?
- gluonbook paket indeksi
Kitap yayınlanmadan önce Li Mu ve diğerleri "Ellerle Derin Öğrenmeyi Öğrenmek" üzerine bir video serisi yayınladılar. Bu kursun ilk sezonu bu yıl Şubat ayında toplam 19 dersle sona erdi. Dr. Li Mu bu video serisini düzenledi. İhtiyaç sahibi öğrenciler aşağıdaki videolardan öğrenebilirler.
Kurs videosu: https://space.bilibili.com/209599371/#/channel/detail?cid=23541 - Bitiş -Tsinghua-Qingdao Veri Bilimi Enstitüsü'nün resmi WeChat kamu platformunu takip edin " THU Veri Pastası "Ve kız kardeş numarası" Veri Pastası THU "Daha fazla ders avantajı ve kaliteli içerik elde edin.
