CMU Sinir Ağı NLP Güncellemesi | Ders 7: Dikkat Mekanizması
AI Araştırma Enstitüsü, Carnegie Mellon Üniversitesi'nin 11-747 Sinir Ağı Doğal Dil İşlemesini (Bahar 2019) Çince'ye çevirmek için resmi olarak yetkilidir. 7. Ders bugün yayında!
Önce bir göz atalım--
Yedinci ders
Dikkat mekanizması
Uygulamalı video yaklaşık 7 dakikadır
Tercüme | Hu Yinghao Lu Jiajie
Tercüme | Dai Xiaodai Xu Tianyang Shi Qiankun
İzledikten sonra yeterince eğlenceli değil mi?
Resmi çalışma grubuna katılmak için lütfen aşağıdaki QR kodunu tarayın
Videonun tamamını izlemek için
Altyazıları yanıtlayın (WeChat: leiphonefansub)
Sınıf grubuna katıldığınızı gösteren ekran görüntüsü
Sizi WeChat grup sohbetine çekeceğiz
Beni eklerken "11-747 Grup Ekle" ifadesini işaretle ~
Yeni sınıf önizlemesi
İyi haber burada! NLP alanıyla ilgili endişeleriniz varsa, bu kursu nasıl kaçırabilirsiniz: "CS224n Stanford Deep Natural Language Processing". Stanford Üniversitesi, CS224n 2019 kursunun en son sürümünü resmi YouTube kanalına yükledi. Bu amaçla, AI Araştırma Enstitüsü ayrıca herkesin tartışması ve birlikte çalışması için çalışma grupları oluşturur.
CS224n Stanford Deep Natural Language Processing'e (2019'daki en son sürüm) katılarak, okulun onayını aldıktan sonra çeviri planını başlatmayı planlıyoruz, bu yüzden bizi izlemeye devam edin!
Gruba katılın ve önce Çince ve İngilizce altyazıları izleyin
Kurs Tanıtımı
Bu ders CMU Dil Teknolojisi Okulu ve Bilgisayar Okulu'nun ortak dersidir.Ana içerik, öğrencilere doğal dil işleme için sinir ağlarını nasıl kullanacaklarını öğretmektir. Sinir ağları, dil modelleme görevleri için güçlü ve yeni bir araç olarak görülebilir.Aynı zamanda, sinir ağları birçok görevde en son teknolojiyi geliştirebilir ve geçmişte çözülmesi kolay olmayan sorunları kolay ve basit hale getirebilir. .
Bu kurs önce kısaca sinir ağlarını tanıtacak ve ardından ders zamanının çoğunu herkese sinir ağlarını doğal dil problemlerine nasıl uygulayacağını göstermek için harcayacaktır. Her ders, doğal dilde belirli sorunları veya olayları tartışacak, modellemenin neden zor olduğunu açıklayacak ve sorunu çözebilecek bazı modelleri gösterecektir. Süreçte, bu ders aynı zamanda konuları da kapsayacaktır - değişken boyut ve yapılandırılmış cümleleri işleme, büyük verileri etkin bir şekilde işleme, yarı denetimli ve denetimsiz öğrenme dahil olmak üzere sinir ağı modelleri oluşturmada iyi çalışan çeşitli teknikler , Yapılandırılmış tahmin vb.
Önkoşullar
Öğrenciler 11-711 "NLP algoritması" veya eşdeğer akademik bilgiyi anlamalıdır. 11-711 çalışmadıysanız, umarım ilgili görevleri tamamlamak için yeterli NLP geçmişiniz vardır (örneğin, n-gram dil modellemesi, CKY analizi hakkında Kelime ile hizalayın).
Ders içeriği
Ders 1: Derse Giriş ve Doğal Dil İşleme için Sinir Ağlarını Kullanmanın Nedenleri
Ders 2: Basit alıştırma: cümledeki bir sonraki kelimeyi tahmin edin
Ders 3: Dağıtılmış anlambilim ve kelime vektörleri
Ders 4: Dil için Evrişimli Sinir Ağları
Ders 5: Cümle veya dil modellemesi için tekrarlayan sinir ağı
Ders 6: Koşullu Üretim
Yedinci Ders: Dikkat Mekanizması
Ders 8: Cümlelerin ve bağlam kelimelerinin temsili
Ders 9: Doğal Dil İşleme için Sinir Ağlarında Hata Ayıklama
Ders 10: Yerel bağımsızlık varsayımını kullanarak yapılandırılmış tahmin
Ders 11: Pekiştirmeli Öğrenme
Ders 12: Kısmi bağımsızlık varsayımlarını kullanarak yapılandırılmış tahmin
Ders 13: Model Yorumlama
Ders 14: Gizli rastgele değişkenler
Ders 15: Metinsel yüzleşme yöntemleri
Ders 16: Dönüşüme Dayalı Sözdizimsel Analiz Modeli
Ders 17: Dinamik programlama kullanarak sözdizimi analizi
Ders 18: Sinirsel Anlamsal Analiz
Ders 19: Denetimsiz ve yarı denetimli yapı öğrenimi
Ders 20: Diyalog Modeli
Ders 21: Belge düzeyinde model
Ders 22: Bilgi Grafiği Öğrenimi
Ders 23: Sinir Ağlarını Kullanarak Makine Okuması
Ders 24: Çok görevli ve çok dilli öğrenme modeli
Ders 25: Gelişmiş Arama Algoritmaları
Çevirmen Değerlendirmesi
Çok iyi, güçlü genişletilebilirlik, her bilgi noktasının uygulama noktaları hakkında konuşacak ve ilgili konulardaki en son makalenin ilerlemesini tartışacak. CMU'daki profesörler çok kuvvetlidir ve yüksek kaliteli öğrenciler gerektirir.
@
İyi bir tamamlayıcıdır. Şu anda youtube'da izliyorum ve kurs içeriği kaynaklarının oldukça zengin olduğunu hissediyorum. Bazı detaylar da iyi ve önceki cs224n'yi tamamlamanın iyi olacağını düşünüyorum.
@
Öğretmenin açıklaması çok ayrıntılı ve anlaşılması kolaydır. NLP tanıtımı Öğretmenin odak noktasının, öğrencilerin ilgiyle kendi kendilerine yönlendirmelerine ve öğretimle birlikte ilgili ödevlerini tamamlamalarına izin vermek olduğunu düşünüyorum.
@
Carnegie Mellon Üniversitesi tarafından üretilmiş, iyi bir ürün olmalı. Öğretmenin bilgisi çok geniştir ve aynı zamanda çok ileri düzeydedir.
@
Eğitim yazılımı çok iyi, geniş bir yelpazeyi kapsıyor, ancak aynı zamanda çok sayıda derinlemesine çalışma materyali içeriyor; kurs seviyesi açık ve derin öğrenmeyi anlamayanlar için çok zor olmayacak;
@
Kurs ekran görüntüsü
Orijinal metni okumak için tıklayın, CMU Sinir Ağı NLP Ders 7'yi izleyin
