Altın cümleler sık sık ortaya çıktı, 16 büyük tanrı ICML'de bir makine öğrenimi Büyük Tartışmalar başlattı
AI Technology Review Press : Bu günlerde makine öğrenimi çemberinde ilginç bir olay yaşandı. Bir grup tanınmış bilim insanı, ICML 2018'de tartışmak (tartışma) niyetiyle bir araya geldi, ancak tartışmada başarısız oldu.
"Tuhaf trendler" ile başlayın
ICML 2018'in açılmasından önce, Carnegie Mellon Üniversitesi'nden Yardımcı Doçent Zachary C. Lipton ve Stanford Üniversitesi'nden Dr. , Son yıllarda makine öğrenimi akademik araştırmalarında gördükleri dört garip eğilimi açıkladı:
-
Açıklama ve tahmin arasında net bir ayrım yapılamaz;
-
Deneysel deneylerde iyileştirmeler yapıldığında, performans iyileştirmenin sinir ağı mimarisindeki gereksiz değişikliklerden kaynaklandığının aşırı vurgulanması gibi iyileştirmelerin gerçek kaynağını doğrulamak imkansızdır, ancak aslında performans iyileştirmesi yeterli hiperparametre hata ayıklamasından gelir;
-
Matematik: Birçok matematiksel kavram ve formül, kafa karıştırıcı teknik ve teknik olmayan kavramlar gibi net bir ifade oluşturmaktan çok, sadece kavramı karıştırmak veya uzun görünmek için kullanılır;
-
Modaya uygun, çağrışımsal olarak konuşma dili sözcük dağarcığı kullanmak veya mevcut teknik sözcük dağarcığına ekstra anlam katmak gibi dil sözcük dağarcığının kötüye kullanılması.
Bu eğilimlerin analizi ve eleştirisine ek olarak, iki yazar da doğru yazı stili, makaleyi nasıl doğru bir şekilde gözden geçirip yayınlayacakları konusunda kendi önerilerini verdiler.
Bu makalenin Twitter'da geniş çapta yeniden yayınlanmasına ve tartışılmasına ek olarak, aslında ICML 2018 bu makaleyi bir giriş olarak kullandı ve çalıştayın son gününde bir tartışma (Machine Learning: The Great Debates) düzenledi ve birçok tanınmış kişiyi davet etti. Tartışmaya makineler alanındaki bilim adamları katılıyor.
Tartışmanın tamamı dört konuya ayrılmıştır: makine öğrenimi araştırmasının titizliği, makine öğreniminin adaleti, makine öğreniminin güvenliği ve derin öğrenme yöntemlerinin olanakları ve sınırlamaları. 16 akademisyen dört gruba ayrıldı ve her grup bir konuyu tartıştı. Tartışmanın arasına küçük konuşmalar da serpildi, Zachary Lipton makaledeki bazı önemli noktaları açıklayarak akademisyenlere zararlı uygulamalara karşı dikkatli olmalarını hatırlattı.
Zachary Lipton'dan, metinde dilin kötüye kullanılması hakkında konuşuyor
- Müstehcen kelime hazinesi: düşünme vektörü, bilinç, a priori, merak, korku, anlambilim. Bu sözler, modelin insan benzeri bilişsel yeteneklere sahip olduğunu ima ediyor gibi görünüyor, ama aslında ondan uzak. Bir kelime dağarcığı kullanıldıktan ve bazı teknik anlamlar kattığı düşünüldüğünde, daha sonraki araştırmacılar onun devam etmesine ya da yeni bir kelime dağarcığına geçmesine izin vermelidir.
- Teknik kelime dağarcığının kötüye kullanılması: ters evrişim, tümdengelim, üretken modeller, uydurma, genelleme. Bu kelimelerin kendi teknik anlamları vardır, ancak genellikle benzer, ilgili ancak aynı olmayan anlamları ifade etmek için kullanılırlar ve bu da sürekli kafa karışıklığına neden olur.
- "Seyahat çantası" nın kelime dağarcığı: eşitlik, yorumlanabilirlik, bilinç. Bu kelimelerin birçok farklı anlamı olabilir, bir kelime eşya dolu bir çanta gibidir.
Zachary Lipton'dan makalenin yazarlarına tavsiye: Motivasyon, dil kullanımı, deneysel sonuçlar ve teorinin kendisi yeterince titiz olmalıdır.
- Motivasyon: "Ne kadar iyi" den tatmin olmak yerine "neden" diye sorun
- Dil: İçerik yazmanın amacı, hakemler, öğrenciler ve genel halk dahil (mümkünse) anlaşılmalıdır.
- Deneysel sonuçların titizliği: tekrarlanabilirliği sağlamak için kodu paylaşın; kontrol değişkenleri üzerinde araştırma yapın ve hataları analiz edin; özellikle algoritmaların zayıf performansını tanımlayın
- Teori: Kendinize tekrar tekrar sorun, teori doğru mu, alakalı mı, kısa ve güçlü mü?
Zachary Lipton'dan eleştirmenlere öneriler:
- Araştırma eğilimine rehberlik eden teşvik, gözden geçirenlerden gelir, bu nedenle gözden geçirenler sorumluluğu üstlenmelidir.
- İnceleme yorumlarınız eğitimli bilimsel okuryazarlığın ve açık iletişim becerilerinin önemini yansıtıyor mu?
- Aşağıdaki durumlarda bir makaleyi kabul etmeye daha istekli olacaksınız / daha az istekli olacaksınız: - kötü sonuçlar içeriyorsa - algoritmanın düzgün çalışmadığı bir veri seti / problem üzerinde denemeler - bir kompleks içeriyorsa (ancak aynı zamanda değişebilir) Teoremi okumak zor
Tartışma cümlesi
Tüm tartışmanın içeriği çok zengindi ve görüşlerin yüz yüze iletişimi de birçok kıvılcımı ateşledi. Sunum seyirci ferahlatıcı bir duygu ifade etti. Tam metin koşullar nedeniyle herkes için çoğaltılamasa da, Leifeng.com AI Technology Review, tartışmada ortaya çıkan çok klasik ve düşündürücü bazı cümlelerden alıntı yaptı.
"Derin öğrenme" konusu güncel ve öngörülebilir derin öğrenme yöntemlerinin doğasında sınırlamalar vardır ve bu da, ek olarak başka yöntemlere sahip olmadıkça, gelişmiş makine zekası yapmak için derin öğrenme yöntemlerini kullanma yeteneğini de sınırlar
Gary Marcus , New York Üniversitesi'nde psikoloji profesörü ve Uberin yapay zeka laboratuvarının eski başkanı
-
Giriş verilerini biraz değiştirirseniz, sistem iyi çalışmaz, gerçekten bir şey "öğrenir" mi?
-
Biyolojik evrimi öğrenme olarak sayarsak, herhangi bir uyarlanabilir süreç "öğrenme" olarak sayılabilir ve o zaman "öğrenme" kelimesinin anlamı çok geniş hale gelir ve şu anki tartışmamızın hiçbir anlamı kalmaz. Yukarı.
-
Kavramsal bir model yoksa, sadece kara kutu optimizasyonu yapmak işe yaramayacaktır.
Thomas G. Dietterich , Oregon Eyalet Üniversitesi'nden emekli profesör, AAAI'nin eski başkanı
-
Gary Marcus'un beyninin kızı, 2 milyon yıllık veriyi evrim yoluyla kodladı, böylece sandalyenin ne olduğunu anlayabilir.
-
Artık algoritmaları kişiselleştirmeyelim. Algoritmaların isimleri, bilgelik, merak ve rüyalar gibi insan kavramlarıyla belirsiz karşılaştırmalar yapmak yerine, ne yaptıklarını ve nasıl yaptıklarını yansıtmalıdır.
-
Öyleyse kedilerin neden dört bacağı vardır? (Gary Marcus devam ediyor: Ve dört ayaktan birini çıkardıktan sonra hala yürüyebiliyor.)
-
Nedensellikle ilgili olarak, insanların nedenselliğin önemini abarttığını ve insanların nedenselliğin üstesinden gelemeyeceğini düşünüyorum. Bu yüzden ilginç bir araştırma konusu.
-
İnsan zekasının% 80 ila% 90'ı sosyal davranış ve duygularla ilgili olabilir, ancak bu konuda veri elde etmek bizim için zor.
-
ICMLDebates tartışmamızın içeriği, tartıştığımız kelimelerin ne anlama geldiğini nasıl yeniden tanımlayacağımızı tartışmamalıdır.
"Eşitlik" konusu - Eşitlik sorunu etrafında etkili tartışmalar yürütmek için, makine öğrenimi topluluğu eşitliği teknik bir konuya indirgememelidir. Aksine, bu konu çok çeşitli kurumlarda giderek daha açık bir şekilde değişikliklere neden olmalı ve aynı zamanda siyasi faktörlerin teknolojinin kendisi üzerinde bir etkisi olduğunu da göstermelidir. alan
Rodrigo Ochigame , MIT doktora öğrencisi, MIT Multimedia Lab Yapay Zeka Etik ve Yönetim Grubu
-
Bilim ve teknoloji sektörü, 1980'lerde sigorta sektörünün sigorta aktüeryalına yaptığı gibi eşitlik için aynı şeyi yapıyor ve bu toplumsal hareketi başarıyla sona erdirdi.
-
Eşit bir algoritma yoktur. Ama eşitlik kararı var. Aynı zamanda şirketler tarafından kullanılan ortak bir politik strateji olan eşit bir algoritma geliştirmeyi iddia etmek çok basit; daha sonra algoritma eşitliği konusunun getirdiği geniş kapsamlı sosyal etkiden kaçınabilirler.
"Zenginlik" konusu
Zachary Lipton , CMU Yardımcı Doçenti, "Makine Öğrenimi Bursunda Sorunlu Eğilimler"
-
Bilimsel araştırmanın önemi, büyük paralar kazanmada değil, değerli katkılarda yatmaktadır.
-
Yeni başlayanlar açık sorunları anlamayabilir ve onlarla uğraşmak istemiyoruz.
-
Yeni keşfedilen ağ mimarisine değil, yeni keşfedilen bilgiye öncelik vermeliyiz.
-
"Eşitlik" ve "yorumlanabilirlik" gibi "seyahat kutusu" sözcüklerini kullanmaktan kaçınmaya çalışmalıyız - ona bakmak için açtığınızda, neyin çıkacağını kim bilebilir. Temelde herkesin bu kelimeleri farklı bir şekilde anlaması vardır, bu yüzden anlamadan önce birçok açıklama ve tanım yapılmalıdır.
James Bradbury
-
Matematiksel titizlik ve konuşma dilinde yorumlanabilirlik bu koordinatın iki ucudur, problemin kendisi değildir.
-
Geçmişte yaptığımız seçimlerin doğru olup olmadığını doğrulamak için daha fazla araştırmaya ve deneysel makaleye ihtiyacımız var.
-
Konuşulan insan kavramları ("merak" gibi), gerçek iletişim için çok önemlidir çünkü daha geniş sosyal kavramlar ve insan sezgisiyle bağlantılı olabilirler.
"Güvenlik" konusu - Günümüzün makine öğrenimi sistemleri o kadar kırılgan ve sorun o kadar kritik ki, bunların gerçek dünya senaryolarında yaygın olarak kullanılmasına izin vermemeliyiz
Percy Liang , Stanford Üniversitesi'nde Yardımcı Doçent, tanınmış NLP bursiyeri
-
Resmi olarak resmi doğrulama işe yaramaz, ancak bunu yapmaya çalışmak faydalıdır.
-
Saldırıların matematiksel modelleri, gerçek dünyadaki uygulanabilir ve yararlı koşulları temsil etmek için genellikle çok basittir.
-
"AI in vitro" dan (test tüpü aşamasında AI) "in vivo AI" ye (embriyonik aşamada AI) gerçek bir fark vardır. Bir yapay zeka sistemi kurmaya çalışmazsak öğrenemeyeceğiz.
Aleksander Madry , MIT şirketinde Associate Professor, CSAIL ekip üyesi
-
(Percy Liang'a) Görüşlerinizi beğendim, çok yaratıcılar. Onlara kesinlikle katılmıyorum ama hoşuma gidiyor.
-
Belki de genç araştırmacılara, makaledeki içeriğin "her zaman doğru olmadığını" hatırlatmamız gerekiyor.
Tartışmanın "görüşü"
Bu tartışmayla ilgili olarak, akademisyenlerin kendiliğinden artılar ve eksiler olarak ikiye ayrılmasını ve şiddetli görüşmelerde bulunmasını bekleyebilirsiniz. Bununla birlikte, tartışmaya katılan akademisyenlerin alandaki mevcut sorunları net bir şekilde anladıkları açıktır, böylece çoğu konuda tartışmaya katılan dört kişi hızla bir anlaşmaya varabilir. AAAI başkanı ve izleyici tartışmasına katılan Arizona Eyalet Üniversitesi'nde profesör olan Subbarao Kambhampati pişmanlıkla tweet attı:
-
Şimdiye kadar, ICML Tartışmaları, "kare bir masanın aynı tarafında rahatça oturan insanlar kavga etmekte zorlanıyor" hipotezini destekliyor gibi görünüyor.
-
İnsanlar birbirleriyle giderek daha fazla hemfikir olduklarında, heyecan verici tartışmalar başlatmak gerçekten zordur (veya belki çok naziktirler ve aynı fikirde olmadıklarında ortaya çıkmazlar)
Tartışmayı izleyen Endgame Veri Bilimi ve Teknolojisi Direktörü Hyrum Anderson, düşünmeye değer olduğunu düşündüğü bir şeyi de özetledi: Saldırganlar, hiç önemli görünmeyen sistemlere saldırmak için beklenmedik yöntemler kullanabilir ve bu da çok büyük sonuçlara yol açabilir. "O zamanlar sadece ucuz bir öneri sistemimiz vardı. Şimdi Trump başkan." .
Gazetelerde yeni teknolojileri yayınlamak anlamlıdır, ancak yeni teknolojiler ve yeni trendler etrafında dikkatli değerlendirmemizi hak eden çok fazla şey vardır. AI teknolojisi inceleme raporu.
Makalenin sonundaki tıklayın Orijinali okuyun AI etki faktörünü görüntüleyin.
( 0 ) Paylaşmaya hoş geldiniz, yarın görüşürüz!
