g u t x .com.tr İpek yolu - Çin'i anlamaya götürürüm

Turing Ödülü neden derin öğrenmeye verildi?

Yıldız eklemek için üstteki Sanlian Life Weekly'ye tıklayın!

Sinir ağlarının karanlık günlerinden kurtulan üç derin öğrenme devi, 27 Mart 2019'da nihayet parlak anlarına ulaştı - ACM (Bilgisayar Makineleri Derneği, Bilgisayar Makineleri Derneği) Geoffrey Hinton, Yann LeCun ve Yoshua Bengio, 2018 Turing Ödülü'nü kazananlar oldu.

Amturing.acm.org'dan resim

Turing Ödülü gününde ACM Başkanı Cherri M.Pancake, üçünün yapay zeka alanındaki katkılarını değerlendirirken şunları söyledi: "Hinton, LeCun ve Bengio bağımsız olarak çalıştı ve derin öğrenme sinir ağı alanının kavramsal temelini ortaklaşa geliştirdiler ve deneyler ve pratik mühendislik yoluyla derin sinir ağlarının avantajlarını kanıtladılar."

"Derin öğrenme" tam olarak nedir?

Aslında derin öğrenmenin tanımı, sıradan insanlar tarafından sıklıkla söz edilen yapay zeka ile aynıdır, ancak aslında kimse bunu net bir şekilde açıklayamaz. Gerçekten daha derine inmek istiyorsanız, 27 Mayıs 2015 tarihinde Üç Büyükler tarafından ortaklaşa yayınlanan "Derin öğrenme" başlıklı makaleye bir göz atabilirsiniz. Bu makale, sektör tarafından kabul edilen nispeten basitleştirilmiş bir sürümü kullanır: "Derin öğrenme, makine öğrenimi sorunlarını çözmek için sinir ağlarının kullanılmasıdır. Bunların arasında sinir ağları metaforlardır." Qian Buyue, bu dergiye yaptığı açıklamada, üst düzey uluslararası yapay zeka konferansı AAAI'nin (Yapay Zekayı Geliştirme Derneği) program komitesinde yargıç olarak görev yaptı. California Davis Üniversitesi'nden bilgisayar bilimi alanında doktora derecesi ile mezun olduktan sonra, Ayrıca veri madenciliği bilimcisi olarak IBM Watson'a katıldı.

ACM başkanının ödül konuşması basitçe tek bir açıdan anlaşılabilir, "Derin öğrenme alanındaki bu üç katkı, algoritmayı daha doğru hale getirdi."

Resim | Fotoğraf Ağı

"Sözde" kelimesi kulağa hafif geliyor ve arkasında Hinton ve diğerlerinin 1980'lerden beri devam eden çabaları var.

Ve bu ödül için, derin öğrenme çemberindeki insanlar kendilerini tebrik ederken OpenAI baş bilim insanı Ilya Sutskever'den bir cümle almayı unutmadı. "Sistemin dışındaydık, geleneksel çizginin yanlış olduğunu kanıtlamaya çalışıyorduk, ancak ilginç olan, bir anda ortodoks hale gelmemiz."

Sutzkenin ağzındaki gelenek, bilgisayardaki kart oyunu gibi geçmişte tam olarak geleneksel hesaplama modelidir. Önceden tanımlanmış kural şablonları ve yapay olarak tasarlanmış algoritmalar tarafından yönlendirilen, elle yazılmış uzman bilgisine dayanır. Makine uygulaması. Derin öğrenmede, bilgisayar belirli bir görevin nasıl çözüleceğine dair özel talimatlar almayacaktır. "Bilgisayarlar, kurallar yerine sezgiye güvenerek insanlar gibi düşünebilirler." Bu Hinton'un uzun süredir devam eden görüşü ve aynı zamanda ilk düşünen de oydu. Makineler ve insanlar arasındaki ilişkide bilim adamlarından biri.

"Yapay Zeka" filminden fotoğraflar

Uzun yıllardır, derin sinir ağlarından sektördeki insanlar tarafından şüpheleniliyor ve görmezden geliniyor. "Ana neden, erken sinir ağı modellerinin düşük karmaşıklığa, yalnızca 3-4 katmana sahip olması ve büyük ölçekli ve çeşitlendirilmiş verileri işleyememesidir. Diğer geleneksel algoritmalara benzerler. Bunun üzerinde bir avantajı yok. İşler değişti. Son yıllarda, paralel hesaplamanın ve yeni sinir ağı algoritmalarının ilerlemesiyle, insanlar çok katmanlı sinir ağlarının büyük veri modelleriyle başa çıkmada inanılmaz avantajlar gösterdiğini keşfettiler. "Sogou Intelligent Q&A Associate Researcher Yu Bu günlüğe söyledi.

Hinton yapay zeka araştırmaları için makine öğrenimi yöntemlerinin kullanılmasını savundu. İnsan beyninden ilham aldı. Bir keresinde Hintonun arkadaşı ona bir hologramın çalışma prensibini anlattı. Nesnenin yüzeyindeki sayısız yansıyan ışık kaydedildi ve saklandı. Büyük bir veritabanında. Beynin çalışma prensibini düşündü, yani çok sayıda hücre bir nöron haritası ile birbirine bağlanır ve bunlar arasında bilgi aktarılır.Bundan diğerine, Hinton makine öğrenimi sistemini insan beyninin işleyişi ile keşfetmeyi umuyor. " "Yapay Sinir Ağı" önerisi, resmi olarak makine öğrenimi araştırmalarının temelini attı.

Aslında, mevcut yaşamlarınızda yer alan konuşma tanıma, doğal dil işleme vb. İle ilgili temel teknik teorilerin hepsi onlarla ilgilidir.

Örneğin, Çevrimiçi çeviri araçlarının doğruluğunda büyük bir gelişme olduğunu fark edebilirsiniz. Geçtiğimiz iki yıl içinde, çeşitli üst düzey konferanslarda, yerinde işlemler aracılığıyla "makine çevirisi" becerilerini kanıtlamak için çeşitli çeviri ürünleri görüldü - sahnedeki konuk konuşmacı aksanla konuşmaya devam ederken, yanındaki büyük projeksiyon çevirisi Araç, cümleyi durmadan cümle cümle çevirir. Ara sıra şakalar olsa da, daha yaygın olarak, makine çevirisi yeteneklerine hayran kalacaksınız.

İki yıl önce, herhangi bir tür çevrimiçi makine çevirisi kullandıysanız, temelde yatan mantık temelde istatistiksel özellikler ve ölçek şablonları etrafında dönüyordu.Örnek olarak kural şablonunu alın.Örneğin, önceden çeşitli cümle kalıpları içeren bir dizi şablon var. Cümleyi görünce önce çeşitli şablonlar uygular. Cümle yeterince standart olmadığında ve orijinal şablona uymadığında, çeviri kalitesi düşecektir. "Eğer sizin ve benim gibi özgür bir diyalogsa, çeviri sonuçlarının akıcı olmadığını göreceksiniz. Genel olarak, bu makinenin zayıf 'kabiliyetidir." Yu He dergiye söyledi.

Kitabın ilk bölümünde yapay zeka çevresinden bir İncil olan "Yapay Zeka: Modern Bir Yöntem": Yapay zekanın dört yönü vardır: 1) insanlar gibi düşünün; 2) insanlar gibi davranın; 3) rasyonel düşünün; 4) rasyonel davranın. Yu He, "Xinton ve diğerlerinin şu anki araştırma yönü, makinelerin rasyonel düşünmesine izin veren üçüncü kategoriye odaklanıyor." Zekanın "ne olduğunu ve bu" anlayışın "makinelerle nasıl kullanılacağını bilmek istiyorlar. Ancak bu aşamada, araştırma yönleri nörobilimin bazı başarılarını bir dereceye kadar ödünç aldı. Araştırma içeriklerinin aynı zamanda "insan gibi düşünmenin" içeriği olan birinci maddeyi de içerdiği söylenebilir. "

Her durumda, Hinton ve diğerlerinin çabaları makine çevirisinin doğruluğunu, özellikle akıcılığı ve anlamsal indirgemeyi temelde insan seviyesine ulaştırdı. 2017 WMT'nin (Makine Çevirisi Çalıştayı, uluslararası en iyi makine çevirisi yarışması) resmi sonuçlarını örnek olarak alın: Sogou Ses Etkileşim Teknolojisi Merkezi-Makine Çeviri Ekibi tarafından sunulan Çince-İngilizce ve İngilizce-Çince sistemleri, iki yönlü manuel değerlendirme endeksinde birinciliği kazandı .

"Yapay Zeka: Yok Olma Krizi" fotoğrafları

Hinton'un derin öğrenme teorisinde, "geri yayılım" algoritması en geniş uygulama aralığına sahiptir. Bu kavram aslında 1986 yılında ortaya atılmıştı, veri miktarı yeterince büyük olana ve modelin eğitim yeteneği de geliştirilinceye kadar, bu algoritmanın yeteneği ortaya çıkmadı. .

Aynı zamanda Turing Ödülü sahiplerinden Bengio, dil alanında birçok başarıya imza attı. Dil modellerini yapmak için dilin "ayrık vektörleştirmesini" kullandı ve bu da doğal dil işlemede sinir ağlarının temeli haline geldi. Bengio, kelime anlamının bir temsili olarak Yüksek Boyutlu Kelime Gömmelerini kullanan "Sinirsel Olasılıksal Dil Modeli" adlı bir makalenin yayınlanmasına katıldı. Bu makale daha sonra NLP araştırması (çeviri, soru cevaplama ve görsel soru cevaplama görevleri gibi) üzerinde derin bir etki yarattı.

Qian Buyue, Hinton tarafından yayınlanan "backpropagation" algoritması hakkındaki makaleyi okudu ve bu dergiye "Backpropagation, derin öğrenme modellerini hesaplama açısından ücretsiz olarak eğitmek için anahtar bir algoritmadır. Modern sinir ağları için, gradyanlara dayalı olabilir. Azalan eğitim, geleneksel uygulamadan 10 milyon kat daha hızlıdır. " Makine çevirisinin sadece iki yıl içinde hızlı bir ilerleme kaydetmesinin nedeni budur. Sektör uzmanlarının kullandığı analoji şudur: "Bu, eğitilmesi bir hafta süren bir model ile 200.000 yıl arasındaki farktır."

Şekil | Görsel Çin

Bu, elbette, donanım grafik kartının güncellenmesinden ve paralel hesaplama yeteneklerinin geliştirilmesinden de yararlanır. Bundan önce, sinir ağları "görüntü tanıma" alanında büyük ilerleme kaydetmiştir ve altında yatan teorik mantık Hintonun öğrencilerinden gelmektedir. Turing Ödülü kazananlarından biri olan Yang Likunun CNN (Evrişimli Sinir Ağı, evrişimli sinir ağı) Geri yayılım algoritmasını CNN'e tanıttı ve CNN'i gerçekten daha kullanışlı hale getirmek için ağırlık paylaşımı ve havuzlama gibi teknikler icat etti. Evrişimli sinir ağları, robotların ve kendi kendine giden arabaların vizyonuna yardımcı olmanın yanı sıra, esas olarak yüzleri, nesneleri ve trafik işaretlerini tanımak için kullanılır.

ACM Başkanının ödül konuşmasında belirtildiği gibi, "Cebinde bir akıllı telefon olan herkes, doğal dil işleme ve bilgisayarla görmedeki gelişmeleri deneyimleyebilir."

Sonuç olarak, geri yayılım teknolojisi tüm sinir ağlarının temelidir ve "kolay kullanımı" da doğrudan bilgisayar çevresinde sinir ağlarını popüler hale getirir. "Son yıllarda, makine öğrenimi ile ilgili makaleler temelde derin öğrenmeyi tartışıyor ve oran en az% 50." Qian Buyue, bilgisayar alanının hızlı gelişimi nedeniyle sık sık bazı en iyi yapay zeka konferansları için makaleleri gözden geçiriyor, herkes genellikle makaleler yayınlıyor Uzun gözden geçirme döngüleri olan dergilerde değil, toplantılarda.

Herkes derin öğrenmeye katılır

Genel olarak, Hinton ve diğerlerinin araştırma başarıları, doğru zaman ve yerden ayrılamaz ve modeller ve veriler vardır. Yeterince büyük veriyle modelin etkisi çok iyi olacaktır; ancak model iyi inşa edilmezse veriler işe yaramaz.

Peki veriler nereden geliyor? Tabii ki sen ve ben yarattık. En tipik örnek, "bir doğrulama kodu girin" davranışıdır. Derin öğrenme çemberindeki insanlar bir zamanlar gülümseyerek "Doğrulama kodunu girdiğimizde aslında yapay zeka için çalışıyoruz" demişlerdi.

En yaygın olarak kullanılan doğrulama kodu sistemi reCAPTCHA'dır (Bilgisayarları ve İnsanları Ayırmak İçin Tamamen Otomatikleştirilmiş Genel Turing Testi). Bu şirket daha sonra Google tarafından satın alındı ve dünyadaki ağların çoğunu devraldı İnsan-makine doğrulama çalışması.

"Yapay Zeka" filminden fotoğraflar

Doğrulama kodunu girmenin ilk davranışı aslında sadece insan olup olmadığınızı doğrulamaktı, ancak bir gün reCAPTCHA'nın kurucularından biri olan Luis von Ahn aniden şöyle düşündü: "İnsanlar ve makineler bunda iyiyse, yapabilir misin? İnsanların ve makinelerin sorunları birlikte çözmesine izin vermek için doğrulama kodu sistemini kullanmaya ne dersiniz? "

Bu fikrin uygulanmasında Google, verileri etiketlemeye yardımcı olmak için reCAPTCHA'yı kullanır; yani, Google Street View'daki en yaygın, tanımlanması zor olan ev ve sokak işaretleri doğrulama koduna eklenir ve kullanıcılardan bunları etiketlemeye yardım etmeleri istenir. Ve bu kullanıcı on binlerce sizsiniz.

Doğrulama kodları için çalışan gerçek insanların anlamı budur. Google, reCAPTCHA'nın resmi web sitesinde ayrıca, verileri etiketleme ve yapay zekayı eğitme konusunda herkesin gücünü bir araya getiren reCAPTCHA'nın "kitle kaynaklı" modelini kamuya açıkladı.

Yakın gelecekte sanal aşıklar ve giderek zeki olan yapay zeka, bazı insanların aşk tercihleri olacak. (Örnek: Charlotte Fu)

Ve etiketleme, derin öğrenmenin dayanak noktasıdır. Teknolojik patlamaya kadar, aslında sen ve ben derin öğrenme verilerinin birikimine dahil oluyoruz.

Aynı zamanda, sinir ağları alanındaki bu üç araştırma sonucu, Çin'deki derin öğrenmenin patlayıcı büyümesine doğrudan katkıda bulundu. "Yang Likun geçen yıl Çin'e geldi. Çinli şirketlerin derin öğrenmeye olan coşkusunu gördükten sonra, doğrudan Twitter'da Çin halkının aşırı (çok fazla) yaptığını söyledi. Aslında bu, coşkumuzun baloncuklarla dolu olduğunu ima ediyor." Qian Bu Yue bu konuda biraz kötümser, "Mevcut derin öğrenme teknolojisi insanların beklentilerine tamamen uymayan seviyeye ulaşabilir. 10.000 kedi resmiyle bir makine eğitiyorsunuz ve makine önünüzdeki resmin bir kedi olup olmadığını hızla belirleyebiliyor. Ama. Bir makinenin çok elemanlı bir resimde kedi bulması hâlâ çok zor. "

Tabii ki, gelecek her zaman tahmin edilemez, ama sen ve ben, derin öğrenmenin bugünün yaşamlarında yaptığı değişiklikleri açıkça hissettik.

Turing Ödülü sahiplerine giriş

Geoffrey E Hinton

Google Başkan Yardımcısı ve Mühendislik Araştırmacısı, Vector Institute Baş Bilimsel Danışmanı, Toronto Üniversitesi Fahri Üniversite Profesörü.

Sinir ağları ve bilgisayarla görme eğitimine önemli katkılarda bulundu. 2012'de evrişimli sinir ağını geliştirdi ve ünlü ImageNet değerlendirmesinde harika sonuçlar elde etti.

Yann LeCun

New York Üniversitesi Veri Bilimi Merkezi'nin kurucularından biri olan Facebook Yapay Zeka Enstitüsü başkanı.

Geri yayılma algoritmasını CNN'e (Convolutional Neural Network) tanıttı ve CNN'i gerçekten daha kullanışlı hale getirmek için ağırlık paylaşımı ve havuzlama gibi teknikler icat etti. Ayrıca 1998'de ilk büyük ölçekli ticari CNN olan LeNet5'i geliştirdi ve Hinton'un "makine öğreniminin meyve sineği" olarak adlandırdığı klasik veri kümesi MNIST'i üretti.

Yoshua Bengio

Montreal Üniversitesi Bilgisayar Bilimi ve Yöneylem Araştırması Bölümü'nde tam zamanlı profesör, aynı zamanda akademide hala çalışan derin öğrenmenin "Büyük Üçlü" lerinden sadece biridir.

Son yıllarda derin öğrenmenin yükselişini ve gelişimini teşvik etmede büyük rol oynayan derin öğrenme mimarisi, tekrarlayan sinir ağı (RNN), yüzleşme algoritması, temsil öğrenimi vb. Hakkında birçok bilimsel araştırma biriktirmiştir.

Herkes izliyor

"Ben ve Ajanım": Ünlüler nasıl yapılır?
Jay Chou'dan Zheng Yunlong'a: 11 Yıllık Kovalayan Yıldızlarım

Yazının telif hakkı "Sanlian Life Weekly" ye aittir, Arkadaş çevrenize hoş geldiniz , Lütfen yeniden yazdırmak için arka planla iletişime geçin .