Today Paper | Ortak çok görevli model; 3B insan vücudunun yeniden yapılandırılması; makine çevirisinin görsel olarak anlaşılması; doğrultucuların derinlemesine incelenmesi, vb.
içindekiler
Ortak çoklu görev modeli: birden fazla NLP görevi için bir sinir ağının oluşturulması
Peelnet: Tek görünümlü renkli resimlere dayalı dokulu 3D insan vücudu rekonstrüksiyonu
Makine çevirisini görsel olarak anlayın
Doğrultucunun derinlemesine incelenmesi: ImageNet sınıflandırmasında insan seviyesini aşmak
Derin ileri sinir ağı eğitimindeki zorlukların anlaşılması
Ortak çoklu görev modeli: birden fazla NLP görevi için bir sinir ağının oluşturulması
Bildiri Başlığı: Ortak Çok Görevli Bir Model: Birden Çok NLP Görevi için Bir Sinir Ağı Geliştirme
Yazar: Kazuma Hashimoto / Caiming Xiong / Yoshimasa Tsuruoka / Richard Socher
Yayın zamanı: 2016/11/5
Makaleye bağlantı: https://www.aclweb.org/anthology/D17-1206.pdf
Önerilen neden
Temel sorun: Doğal dili anlama alanında, konuşma parçası analizi, yığın analizi, bağımlılık sözdizimi analizi, metin anlamsal korelasyonu, metin uygulaması vb. Gibi birçok görev vardır ve her görev birbiriyle ilişkilidir. Araştırmacılar, görevler arası bağlantıları desteklemek ve her görevin performansını iyileştirmek için çok görevli öğrenmeyi kullanır.
Yenilik: Geleneksel çoklu görevler paralel olarak uygulanır, ancak bu birçok görev arasında hiyerarşik ilişkiler vardır, bu nedenle bu makale farklı görevleri yığınlar, görev seviyesi ne kadar yüksekse daha derin bir ağ yapısı varsa, mevcut görev seviyesi kullanılacaktır. Bir görev çıktısı düzeyi, bir ardışık düzen biçimine benzer.
Araştırma önemi: Paralel çoklu görev yapısından daha iyi etkiye sahiptir. Böyle bir çerçeve, daha üst düzey görev uygulamalarına da genişletilebilir ve etkisi daha iyidir, ki bu da gerçek durumla uyumludur.
Peelnet: Tek görünümlü renkli resimlere dayalı dokulu 3D insan vücudu rekonstrüksiyonu
Kağıt adı: PeelNet: Tek görünümlü RGB görüntüsü kullanılarak insan vücudunun dokulu 3B rekonstrüksiyonu
Yazar: Sai Sagar Jinka / Rohan Chacko / Avinash Sharma / P J. Narayanan.
Gönderme süresi: 2020/2/16
Makaleye bağlantı: https://arxiv.org/abs/2002.06664
İnsan vücudunun ciddi şekilde kapanması, kıyafet değişiklikleri ve ışık değişiklikleri gibi pek çok sorundan dolayı insan vücudunun şeklini ve duruşunu tek bir renkli görüntüden eski haline getirmek çok zor bir problemdir. Bu makale, tek bir RGB görüntüsünden dokulu bir 3D insan vücudu modelini yeniden yapılandırmak için uçtan uca bir üretken yüzleşme ağı çerçevesi PeelNet'i önermektedir.
Yazar, 3D insan vücudu modelini, kendi kendini kapatmaya karşı sağlam olan ayrı bir derinlik haritası ve renk haritası (soyulmuş derinlik ve RGB haritaları) olarak ifade etmeyi ve tek renkli insan vücudu resminden ayrılmış derinlik haritasını tahmin etmek için eksiksiz bir uçtan uca çerçeve önermeyi önermektedir. Ve renkli haritalar ve ayrıca dokulu bir 3D insan vücudu modeli oluşturun.
Makaledeki yöntem parametreleştirilmiş insan vücudu modeline bağlı değildir, bol giysiler giyen insan vücudu için daha doğru sonuçlar alabilir ve insan vücudunun kendi kendine kapanmasını iyi idare edebilir.
Makine çevirisini görsel olarak anlayın
Kağıt adı: Nöral Makine Çevirisini Görselleştirme ve Anlama
Yazar: Yanzhuo Ding / Yang Liu / Huanbo Luan / Maosong Sun
Düzenlenme zamanı: 2017/7/30
Makaleye bağlantı: https://www.aclweb.org/anthology/P17-1106.pdf
Önerilen neden
Bildiri özeti: Şu anda, derin öğrenme hızla gelişiyor, ancak bir kara kutu olarak giderek daha fazla sayıda araştırmacı, derin öğrenmenin yorumlanabilirliğine dikkat etmeye başlıyor. Bu makale, nöral makine çevirisini görsel olarak anlamak için LRP (katman bazlı alaka yayılımı) yöntemini kullanan 17 yıllık bir ACL kağıdıdır. Mevcut dikkat mekanizması aslında kaynak dil ile hedef dil arasındaki bağlantıyı ifade eder, ancak hedef dilin nasıl çevrildiğini bize söyleyemez. LRP (Layered Relevance Propagation) yöntemi ilk olarak görüntü sınıflandırıcının tahmin sonucuna tek bir pikselin katkısı hesaplanarak yorumlanabilir araştırma yapmak için bilgisayar görüşü alanında uygulanmıştır. Bu yazıda, LPR yöntemi, sinirsel makine çeviri modelini görselleştirmek için her bağlam kelimesinin herhangi bir gizli birime katkısını hesaplamak için dikkat mekanizmasına dayalı kodlayıcı-kod çözücü modeline uygulanmıştır. Çince-İngilizce çevirinin örnek olay incelemeleri, LRP yönteminin makine çevirisinin çalışma mekanizmasını iyi açıklayabildiğini ve çeviri hatalarının analiz edilmesine yardımcı olabileceğini göstermektedir.
Yenilik ve yansıma: Bu makale, NMT'yi ilk kez görsel olarak anlamak için LRP yöntemini kullanıyor ve iyi sonuçlar elde etti. LRP yöntemi ilk olarak bilgisayarla görme alanında önerildi.Yazar, bu yöntemi doğal dil işleme alanına aktardı.Aslında, bilgisayar alanında derin öğrenme alanında daha yorumlanabilir çalışmalar var ve diğer alanlarda daha ileri araştırmalar için iyi bir referansa sahip.
Doğrultucunun derinlemesine incelenmesi: ImageNet sınıflandırmasında insan seviyesini aşmak
Kağıt adı: Doğrultuculara Derinlemesine Girmek: ImageNet Sınıflandırmasında İnsan Düzeyindeki Performansı Aşmak
Yazar: Kaiming He / Xiangyu Zhang / Shaoqing Ren / Jian Sun
Yayın zamanı: 2015/2/6
Makaleye bağlantı: https://arxiv.org/pdf/1502.01852.pdf
Önerilen neden
Temel soru: Bu, sinir ağı ağırlık parametrelerinin başlatılmasıyla ilgili bir makaledir.Şu anda, sinir ağı ağırlıklarını başlatmak için bu yöntemi sıklıkla kullanıyorum.Bu yöntem kullanılarak eğitilen sinir ağı daha hızlı çalışıyor ve daha iyi sonuçlar veriyor.
Yenilik:
1. PRULE aktivasyon işlevini önerdi
2. ImageNet2012 sınıflandırma veri setinde, ilk 5 hata oranı% 4,94'e ulaştı ve o zamanki en iyi performansı% 6,66 ve insan seviyesini% 5,1 aştı.
Araştırmanın önemi: Sinir ağının ağırlık başlangıcı, sinir ağının en önemli adımıdır, çünkü yanlış sinir ağı başlatma, sinir ağının çalışmamasına neden olabilir.
Derin ileri sinir ağı eğitimindeki zorlukların anlaşılması
Kağıt adı: İleri beslemeli derin sinir ağlarını eğitmenin zorluğunu anlama
Yazar: Xavier Glorot / Yoshua Bengio
Gönderme zamanı: 2010/2/11
Makaleye bağlantı:
Önerilen neden
Temel sorun: Bir model oluşturmak için derin öğrenmeyi kullanırken, genellikle sinir ağının ağırlıklarını başlatmak gerekir. Sinir ağının ağırlık parametrelerini başlatmak için birçok yöntem vardır. Sıklıkla kullanılan yöntemlerden biri Xavier'dir. Bu yöntem bu makaleden türetilmiştir. .
İnovasyon noktası: Daha hızlı yakınsama hızı sağlayabilen yeni bir başlatma yöntemi önerilmiştir. Ağırlıkları başlatmanın bu yöntemi, son iki yılda derin ağlarda sıklıkla kullanılan Xavier başlatmadır.
Araştırmanın önemi: Sinir ağının ağırlık parametrelerinin başlatılması çok önemlidir.Bazen sinir ağı çalışmaz, bu nedenle çoğunlukla sinir ağının ağırlık parametrelerinin zayıf başlatılmasıyla ilgilidir.İyi sinir ağının ağırlık parametresi ilklendirmesi sadece sinir ağını çözmeye yardımcı olmaz. Ağın eğiminin ortadan kalkması ve eğimin patlaması, sinir ağının eğitim hızını da artırabilir.
Makale yazar ekibinin işe alınması
AI Araştırma Enstitüsü, yapay zeka gençlerinin çoğuna daha iyi hizmet verebilmek için resmi olarak yeni bir "Tez" bölümü başlattı ve tezleri, önerileri, yorumları ve yorumları sıralayan makaleler aracılığıyla yapay zeka öğrencilerini ve gençleri bir araya getirmek için "ilgi çekici noktalar" olarak kullanmayı umdu ve kod yeniden üretildi. Yurtiçinde ve yurtdışında en son araştırma sonuçlarının incelenmesi, tartışılması ve yayınlanması için bir buluşma yeri olmaya ve mükemmel bilimsel araştırmaların daha yaygın olarak yayılmasına ve tanınmasına izin vermeye kararlıdır.
Akademisyenleri sevenlerin, makale yazarları ekibimize katılmanızı umuyoruz.
Alabilirsiniz
1. Adınızın yazdığı bir makale sizi en göz kamaştırıcı akademik yıldız yapacak
2. Zengin ücret
3. AI ünlü şirketleri, konferans bileti avantajları, özel çevre birimleri vb.
Bildiri yazarı ekibine katılmak için ihtiyacınız olan:
1. Favori makalelerinizi araştırma kulübü üyelerinin çoğuna önerin
2. Tez yorumunu yazın
AI Araştırma Enstitüsü'nün yarı zamanlı makale yazarı ekibine katılmaya hazırsanız, operasyon yapan kadının WeChat hesabını (kimlik: julylihuaijiang) ekleyebilir ve "yarı zamanlı makale yazarı" notunu yazabilirsiniz.
