2018 Turing Ödülü: Hinton, Bengio ve LeCun'un derin öğrenmenin üç devi 30 yıldır karşılığını verdi
[Kılavuz] 27 Mart'ta ABD'de Bilgisayar Makineleri Derneği (ACM) 2018 Turing Ödülünü kazananları açıkladı: Bunlar derin öğrenme alanındaki üç dev: Yoshua Bengio, Geoffrey Hinton ve Yann LeCun. Son yıllarda temel teknoloji araştırmalarından mühendislik uygulamalarına kadar 30 yıllık tutarlı ısrarı nedeniyle, derin öğrenme, tıp, astronomi ve malzeme bilimi alanlarındaki bilim adamları için yeni bir araç haline geldi. Yapay zekanın hızlı gelişimi, temel araştırma kaynağının atılımından ayrılamaz. Katkıda bulunan üç kişiye saygılarımı sunuyorum!
Turing Ödülü, on yılda üçüncü kez makine öğrenimi alanındaki araştırmacılara verildi
27 Mart'ta, yerel saatte, Bilgisayar Derneği'nin resmi duyurusu, derin sinir ağları kavramı ve mühendisliğindeki atılımlar nedeniyle, üç bilim insanı, Yoshua Bengio, Geoffrey Hinton ve Yann LeCun'un DNN'yi hesaplamanın önemli bir bileşeni haline getirdiğini ve böylece 2018 olduğunu duyurdu. Turing Ödülü sahibi.
Turing Ödülü, on yıl içinde üçüncü kez makine öğrenimi alanında olağanüstü katkıda bulunanlara verildi: 2011'de Turing Ödülü'nün kazananı, yapay için olasılık ve nedensel akıl yürütme (olasılık ve nedensel akıl yürütme için hesaplama) hesabı geliştiren Judea Pearl oldu. Akıllı gelişim önemli bir katkı yaptı. Leslie Gabriel Valiant, 2010'da Turing Ödülü'nü kazandı. PAC öğrenme teorisi, paralel ve dağıtılmış hesaplama teorisi vb. Dahil olmak üzere hesaplama teorisinin gelişimine dönüştürücü katkılarda bulundu.
Okurların bu üç devin isimlerine aşina olduğuna inanıyorum.
Yoshua Bengio, Montreal Üniversitesi'nde profesör ve Quebec yapay zeka ajansı Mila'nın bilimsel direktörüdür. Geoffrey Hinton, Google'ın başkan yardımcısı, mühendislik araştırmacısı, Vector Enstitüsü'nün baş bilimsel danışmanı ve Toronto Üniversitesi'nde emekli profesördür. Yann LeCun, New York Üniversitesi'nde profesör, Facebook başkan yardımcısı ve baş yapay zeka bilimcisi.
Hinton, LeCun ve Bengio, bağımsız veya işbirliği içinde derin öğrenme alanının kavramsal temelini geliştirdi ve deneyler yoluyla şaşırtıcı fenomenleri doğruladı.Ayrıca, derin sinir ağlarının pratik avantajlarını göstermek için bazı mühendislik ilerlemelerine de katkıda bulundular. . Son yıllarda, derin öğrenme yöntemleri bilgisayarla görme, konuşma tanıma, doğal dil işleme ve robotik gibi uygulama alanlarında büyük atılımları teşvik etti.
30 yıldır şüphe duymadan, yapay sinir ağları baskın paradigma haline geldi
1980'lerde araştırmacılar, bilgisayarların kalıpları tanımasına ve insan zekasını simüle etmesine yardımcı olmak için yapay sinir ağlarını tanıtmış olsalar da, 21. yüzyılın başına kadar LeCun, Hinton ve Bengio gibi küçük bir grup araştırmacı hala bu yönteme bağlı kaldı. Yapay zeka topluluğundaki sinir ağlarına olan ilgiyi yeniden canlandırma çabaları başlangıçta şüpheyle karşılansa da, fikirleri şimdi büyük teknolojik ilerlemeler getirdi ve yöntemleri bu alanda baskın paradigma haline geldi.
Turing Ödülü, Bilgisayar Endüstrisine önemli katkılarda bulunan kişileri ödüllendirmek için 1966 yılında Bilgisayar Makineleri Derneği (ACM) tarafından kurulan bir ödüldür. "Bilgisayar Endüstrisinde Nobel Ödülü" olarak bilinir. Ödül 1 milyon ABD dolarıdır ve Google sponsorluğundadır. Turing Ödülü'nün adı, bilgisayarların matematiksel temelini ve sınırlamalarını atan İngiliz matematikçi Alan M. Turing'den (Alan M. Turing) alınmıştır.
ACM Başkanı Cherri M. Pancake, "Yapay zeka artık tüm bilim dünyasında en hızlı büyüyen alanlardan biri ve toplumda en çok tartışılan konulardan biri. Yapay zekanın gelişimi ve insanların yapay zekaya olan ilgisi büyük ölçüde Derin öğrenmedeki son gelişmeler nedeniyle, Bengio, Hinton ve LeCun bunun için önemli bir temel oluşturdu. "Bu teknolojiler artık milyarlarca insan tarafından kullanılıyor. Cep telefonu sayesinde insanlar 10 yıl önce imkansız olan doğal dil işleme ve bilgisayarla görme teknolojilerini deneyimleyebilirler. Her gün kullandığımız ürünlere ek olarak, derin öğrenmedeki son gelişmeler, tıp, astronomi ve malzeme bilimi gibi çeşitli alanlarda bilim insanlarına güçlü yeni araçlar da getirmiştir.
Google AI başkanı Jeff Dean, "Derin sinir ağları, modern bilgisayar biliminde büyük ilerlemeyi teşvik etti ve bilgisayarla görme, konuşma tanıma ve doğal dil işleme alanlarında uzun vadeli sorunların çözümünde büyük ilerleme kaydetti." Dedi. Bu yılın Turing Ödülü kazananları Yoshua Bengio, Geoffrey Hinton ve Yann LeCun'un temel faydası 30 yıldan daha uzun bir süre önce temel teknolojiyi geliştirdi. Derin sinir ağları, bilgisayarın dünyayı algılama yeteneğini önemli ölçüde geliştirdi. Yalnızca bilgisayar alanını değil, aynı zamanda bilim ve teknolojiyi de neredeyse değiştirdi. İnsan mücadelesinin tüm alanları. "
Makine öğreniminden, sinir ağından derin öğrenmeye, üç kişi işbirliği içinde birbirini etkiliyor
Geleneksel bilgi işlemde, bilgisayar programları bilgisayarı yönlendirmek için açık ve adım adım talimatlar kullanır. Derin öğrenmenin AI araştırması alt alanında, bilgisayarlar belirli görevlerin nasıl çözüleceğine dair açık talimatlar almadı. Derin öğrenme, girdi verileri ile verilerden beklenen çıktı arasındaki korelasyon modelini çıkarmak için öğrenme algoritmalarını kullanır Örneğin, giriş verileri görüntü pikselleridir ve çıktı "cat" etiketidir. Araştırmacıların karşılaştığı zorluk, sinir ağındaki bağlantıların ağırlıklarını değiştiren verimli öğrenme algoritmaları geliştirerek verilerdeki ilişkili kalıpları yakalayabilmektir.
Geoffrey Hinton 1980'lerden beri yapay zeka araştırmaları için makine öğrenimi yöntemlerinin kullanılmasını savunuyor ve insan beyninin işleyişi aracılığıyla makine öğrenimi sistemlerini keşfetmeyi umuyor. O ve diğer araştırmacılar, insan beyninden esinlenerek, makine öğrenimi araştırmalarının temelini oluşturan "yapay sinir ağını" öne sürdüler.
Bilgisayar bilimi alanında, "sinir ağı", basit hesaplama öğelerinin (nöronlar) çok sayıda katmanından oluşan bir sistemi ifade eder. Bu "nöronlar", insan beynindeki nöronları yalnızca kabaca taklit ederler, ancak ağırlıklı bağlantılar yoluyla birbirlerini etkileyebilirler. Bağlantının ağırlığını değiştirerek sinir ağı tarafından gerçekleştirilen hesaplamayı değiştirin. Hinton, LeCun ve Bengio, "derin öğrenme" adı verilen çok katmanlı derin ağları kullanmanın önemini kabul ediyor.
GPU bilgisayarlarının popülaritesi ve büyük miktarlarda veri elde edilmesi nedeniyle, Hinton, LeCun ve Bengio'nun son 30 yılda ortaya koyduğu kavramsal temel ve mühendislik uygulamaları büyük ölçüde iyileştirildi. Son yıllarda, çok sayıda faktör bilgisayarla görme, konuşma tanıma ve makine çevirisi teknolojilerinin hızla gelişmesine yol açtı.
Hinton, LeCun ve Bengio da birlikte çalıştı. LeCun bir zamanlar Hinton'un rehberliğinde doktora sonrası çalışmayı tamamladı. 1990'larda hem LeCun hem de Bengio Bell Labs'da çalıştı. Birlikte çalışmadıklarında bile araştırmalarında sinerji ve karşılıklı bağlantı var ve birbirleri üzerinde çok büyük etkileri var.
Üç büyük inek, makine öğrenimi ile sinirbilim ve bilişsel bilim arasındaki kesişimi keşfetmeye devam ediyor. En ünlüsü, Kanada İleri Araştırma Enstitüsü'nün (CIFAR) "Makinelerde Öğrenme ve Beyin Öğrenimi Programı" na ortaklaşa katılmalarıdır. Beyin programı) ".
Yapay zeka teknolojisindeki ilerlemelere ek olarak, sonuçlar bununla sınırlı değil
Bu yılın Turing Ödülü kazananlarının teknik başarıları, AI teknolojisinde aşağıdaki başarılar dahil ancak bunlarla sınırlı olmamak üzere büyük atılımlar getirdi.
ACM, Geoffrey E Hinton'un üç büyük katkısı olduğunu belirtti:
Geri yayılma
Boltzmann makinesi
Evrişimli Sinir Ağının Revizyonu
1986 tarihli bir makalede, Hinton ve David Rumelhart ve Ronald Williams, "Hata Yayılımı Yoluyla İç Temsilleri Öğrenmek" adlı meşhur geri yayılımı önerdiler. Hinton gibi araştırmacılar, geri yayılım algoritmasının sinir ağlarının verilerdeki derin temsilleri keşfetmesine izin verdiğini, böylece sinir ağlarının daha önce çözülemeyeceği düşünülen sorunları çözebileceğini belirtti. Geri yayılım, artık derin sinir ağlarını eğitmek için gerekli bir algoritma haline geldi.
1983 yılında Hinton ve Terrence Sejnowski, ne girdi ne de çıktının bir parçası olan nöronların iç temsilini öğrenebilen ilk derin sinir ağı olan Boltzmann makinesini önerdiler.
2012'de Hinton ve öğrencileri Alex Krizhevsky ve Ilya Sutskever, evrişimli sinir ağlarının gelişimine önemli katkılarda bulundular. Derin evrişimli sinir ağlarının performansını büyük ölçüde iyileştirmek için değiştirilmiş doğrusal nöronları (ReLU) ve Bırakma düzenleyicisini kullanan ilk kişilerdir. O yılki ImageNet yarışmasında Hinton ve öğrencileri görüntü tanımanın hata oranını neredeyse yarı yarıya düşürdüler ve bu sefer zorluk bilgisayarla görme alanını yeniden şekillendirdi.
ACM, Yoshua Bengio'nun üç büyük katkısı olduğunu belirtti:
Sıranın Olasılık Modellemesi
Yüksek boyutlu kelime gömme ve dikkat mekanizması
Yüzleşme ağı oluşturun
1990'larda Bengio, bir dizi olasılıklı modelleme yöntemi olan gizli Markov modeli gibi sinir ağı ve sıra olasılıklı modellemenin bir kombinasyonunu önerdi. Bu yenilikçi fikirler ATT / NCR tarafından kabul edildi ve el yazısı kontrolleri okumak için kullanıldı.Sistem, 1990'larda sinir ağı araştırmalarının zirvesi olarak kabul ediliyor. Modern derin öğrenme tabanlı konuşma tanıma sistemleri bu kavramlar üzerinde genişlemeye devam ediyor.
2000 yılında, Bengio ve diğer araştırmacılar, kelime anlamının bir temsil yöntemi olarak yüksek boyutlu kelime yerleştirmeyi tanıtan "Sinirsel Olasılıksal Dil Modeli" adlı dönüm noktası niteliğinde bir makale yayınladılar. Bengio'nun görüşleri, makine çevirisi, bilgi sorusu yanıtlama, görsel soru yanıtlama vb. Dahil olmak üzere doğal dil işleme görevleri üzerinde büyük ve kalıcı bir etkiye sahipti. Araştırma ekibi ayrıca, doğrudan makine çevirisi alanında bir atılımla sonuçlanan ve derin öğrenme sıra modellemesinin önemli bir bileşenini oluşturan bir dikkat mekanizması önerdi.
2010 yılından bu yana, Bengio üretken derin öğrenmeye, özellikle kendisi ve Ian Goodfellow gibi araştırmacılar tarafından önerilen Generative Adversarial Network'e (GAN) büyük önem vermiştir Bu araştırma, bilgisayarla görme ve bilgisayar grafiklerinde bir devrime neden olmuştur. Bu çalışmanın şaşırtıcı yanı, bilgisayarın kaçınılmaz olarak insan seviyesindeki yaratıcılığı anımsatan orijinal görüntülerle karşılaştırılabilir görüntüler üretebilmesidir.
ACM, Yann LeCun'un üç büyük katkısı olduğunu belirtti:
Evrişimli Sinir Ağı önerin
İyileştirilmiş geri yayılma algoritması
Sinir ağlarının perspektifini genişletin
1980'lerde LeCun, bu alanda önemli bir teori olan ve derin öğrenmenin verimliliğini artırmak için gerekli olan evrişimli bir sinir ağı kurdu. 1980'lerin sonlarında, LeCun Toronto Üniversitesi ve Bell Laboratuarlarında çalıştı ve bu dönemde ilk evrişimli sinir ağı sistemini eğitmek için el yazısı dijital görüntüleri kullandı. Günümüzde evrişimli sinir ağları, bilgisayar görüşü, konuşma tanıma, konuşma sentezi, görüntü sentezi ve doğal dil işleme alanlarında endüstri standardı haline geldi. Evrişimli sinir ağları, otonom sürüş, tıbbi görüntü analizi, sesli asistanlar ve bilgi filtreleme gibi çok çeşitli uygulamalara sahiptir.
Geri yayılım algoritmasını iyileştirmek için LeCun, geri yayılım algoritmasının (geri yayılım) erken bir sürümünü önerdi ve varyasyonel ilkeye dayalı net bir türetme sağladı. Geri yayılım algoritmalarını hızlandırma konusundaki çalışması, öğrenmeyi hızlandırmak için iki basit yöntemi açıklamayı içerir.
LeCun'un katkısı aynı zamanda sinir ağlarının araştırma perspektifini genişletmeyi de içeriyor.Nöral ağları bir hesaplama modeli olarak geliştirdi ve bunları bir dizi görevde kullandı. İlk çalışmalarındaki bazı kavramlar, AI geliştirmenin temel taşları haline geldi. Örneğin, görüntü tanıma alanında, artık birçok tanıma görevinde sıklıkla kullanılan bir kavram olan sinir ağlarında hiyerarşik özellik temsilinin nasıl öğrenileceğini inceledi. Leon Bottou ile birlikte, öğrenme sisteminin, otomatik farklılaştırma yoluyla geri yayılımın gerçekleştirildiği karmaşık bir modül ağı olarak inşa edilebileceğini öne sürdü.Bu konsept, her modern derin öğrenme yazılımında kullanılır. Ayrıca "grafikler" gibi yapılandırılmış verileri işleyebilen derin öğrenme mimarileri önerdiler.
Orijinal bağlantı: https: //awards.acm.org/about/2018-turing Kaynak: The Almost Human mikro-kanal kamu numarası yetkili, yazarın küçük bir uyarlaması: Almost Human Editor: Yuan Shengyan Editör: Li Nian* Wenhui'ye özel el yazması, lütfen yeniden basımın kaynağını belirtin.
