Derin öğrenme buluşacak ve duyacak, kuru mal kaynakları burada (kaynak kodu, kağıda bağlantı)
ICLR, yalnızca altı oturum için düzenlenmiş olmasına rağmen, derin öğrenme alanındaki en büyük konferanstır ve endüstri tarafından geniş çapta kabul görmüştür. 6. ICLR, 30 Nisan 2018 - 5.032018 tarihleri arasında Vancouver Kongre ve Sergi Merkezi'nde gerçekleştirildi. Yazarın imzaladığı bir makale neyse ki atölye tarafından kabul edildi ve katılmaya davet edildi. Şimdi ICLR2018 ile ilgili kişisel deneyimim hakkında konuşalım.
ICLR2018 Konferansına Genel Bakış
ICLR 2018 toplam 1003 bildiri başvurusu aldı.Sonunda sözlü bildirilerin% 2,3'ü, Poster bildirilerinin% 31,4'ü ve% 9'u Atölye çalışması olarak kabul edildi, bildirilerin% 51'i reddedildi ve geri çekilme oranı% 6,2 oldu. Bildiri gönderim süresi açısından ilginç bir olgu var. 1003 bildiri arasında, son başvuru tarihinden 24 saat önce yaklaşık 800 bildiri sunuldu ve bunların 200'den fazlası son yarım saatte teslim edildi ve DDL'nin dünyadaki ilk üretkenlik olduğunu doğruladı. Fena, hahaha, ama aynı zamanda herkesin mükemmellik için çabaladığını da gösteriyor.
Kaynak: DeepMind'den Oriol Vinyals'ın Twitter'ı
Her birimin kabul ettiği bildiri sayısı açısından (eşdeğer sayı örneğin bir makalenin 3 yazarı var, 3 kişi A birimine ait, sonra bir A olarak sayılır, sadece 1 kişi A birimine aitse 1/3 olarak sayılır), Google önderlik eder ve sonra CMU, Stanford ve Berkeley gibi ünlü bir Kuzey Amerika okulu.
Kaynak:
Konferansın bazı temel istatistikleri ve analiziyle ilgili olarak, birisi zaten çok güzel ve ayrıntılı bir tablo hazırladı. Burada ayrıntılara girmeyeceğim. İlgileniyorsanız, lütfen web sitesini kontrol edin. Python kaynak kodu var:
Konferans toplam dört gündür, her gün sabah ve öğleden sonra olmak üzere iki oturuma bölünmüştür, format aynıdır, birincisi bir davet raporu, üçüncüsü üç sözlü bildiri raporu ve sonuncusu da Poster oturumudur. Yazar raporu dinledi ve posteri taradı. Sezgisel duygular (öznel duygular) şunları içerir:
-
Kapsanan konular, derin öğrenmenin tüm yönleriyle ilgilidir
-
Birkaç gösterge var, ancak çok fazla derin öğrenme teorisi var.
-
Üretken yüzleşme ağıyla ilgili araştırmalar kızışmaya devam ediyor
-
Google o kadar çok makale yayınlıyor ki, herkes Google'ın gazetelerini izlemeyi seviyor
Çok fazla makale ve talimat var, bu yüzden onları yalnızca dikkatlice tarayabilirim. Kağıt inceleme puanlarına göre makaleler sıralanır. İlginize göre seçebilir ve okuyabilirsiniz:
https://chillee.github.io/OpenReviewExplorer/
Katılım algısı
Konferans raporları ve posterler derin öğrenmenin tüm yönlerini içeriyordu ve sözlü raporlar sadece genel bir izlenim bıraktı.Çok sayıda poster, mevcut araştırma yönleri hakkında genel bir izlenim veren sıradan bir taramadan ibaretti. Katılım sırasında derinden hissettiğim iki nokta var:
1. Her şeyi iyi yapın, iyi şeyler yapın. Gerçekten yararlı olan ve bazı pratik sorunları çözebilecek bir şey yaparken, onu iyi yapın ve sonuç çok kötü olmayacaktır; araştırma için, eğer yapılırsa, en iyi konferans / yayınlanan makale gelecektir.
2. Dışarı çıkın ve bir bakın, aynı yaşta bir şeyi iyi yapan birçok insan var.
postscript
Yazarın Tsinghua Üniversitesi Enstitüsü ve Veri Bilimi Enstitüsü tarafından ortaklaşa kurulan büyük veri kapasitesini iyileştirme projesi, büyük veri ve makine öğrenimi ile bağlantılı olup, projede öğrendiklerinin kendi ana dalıyla (elektronik) birleşimi de bu konferansın çalıştayında yayınlandı. Bu yazının içeriği sinir ağlarının donanım hızlandırma yönüne aittir.Yeni bir veri sıkıştırma formatı ve veri hesaplama süreci tasarlanarak buna göre tasarlanan hesaplama mimarisinin hesaplama verimliliği önemli ölçüde artırılmıştır. İlgili araştırmalar, Veri Bilimi Enstitüsü tarafından güçlü bir şekilde desteklenmiştir.
Veri Bilimi Enstitüsü ve Tsinghua Üniversitesi'nin Büyük Veri Yeteneğini İyileştirme Projesi Hakkında:
Yazarın çalışmasıyla ilgilenenler aşağıdaki makaleleri görüntüleyebilir (yazar ayrıca yakın gelecekte veri grubundaki ayrıntılı makale fikirlerini ve içeriğini paylaşacaktır):
https://arxiv.org/abs/1803.10548
https://arxiv.org/abs/1801.07459
Kuru gıda kaynakları konferansı
ICLR2018 kağıt istatistikleri:
ICLR2018 kağıt derecelendirme sıralaması:
https://chillee.github.io/OpenReviewExplorer/
ICLR2018 davet raporu ve sözlü rapor videosu (sözlü bildiri) (bilimsel çevrimiçi gereklidir):
https://www.facebook.com/pg/iclr.cc/videos/
En İyi Üç Makale:
-
Adem ve Ötesi'nin yakınsaması üzerine
-
Küresel CNN'ler
-
Durağan olmayan ortamda meta-öğrenme yoluyla sürekli adaptasyon ve
yazar hakkında
Liu Nianhong , Tsinghua Mikroelektronik Yüksek Lisans 3. Sınıfı, "Büyük Veri Yeteneğini Geliştirme Projesi" öğrencisi, Tsinghua Üniversitesi Öğrenci Büyük Veri Araştırma Derneği'nin eski başkanı.
