2020'de yapay zeka nereye gidiyor?
Soldan sağa: Google AI Direktörü Jeff Dean, California Üniversitesi Berkeley Profesörü Celeste Kidd, Pythorch Direktörü Soumith Chintala, Nvidia Makine Öğrenimi Araştırma Direktörü Anima Anandkumar ve IBM Araştırma Direktörü Dario Gil
Yapay zeka artık gelecekte bir gün dünyayı değiştirmeye hazır değil - dünyayı değiştiriyor. Yeni on yılın başında VentureBeat, yapay zeka topluluğundaki en keskin beyinlerle röportaj yaptı, 2019'da kaydedilen ilerlemeyi yeniden inceledi ve 2020'de makine öğreniminin olgun yolunu dört gözle bekledi. PyTorch'un yaratıcısı Soumith Chintala, California Üniversitesi profesörü Celeste Kidd, Google AI direktörü Jeff Dean, Nvidia'da makine öğrenimi araştırma başkanı Anima Anandkumar ve IBM'de araştırma başkanı Dario Gil ile röportaj yaptık.
Herkesin gelecek yıl için bir öngörüsü var ama bu insanlar bugünün geleceğinin-yapay zeka camiasında otorite sahibi bireyler yarattılar, geçmişte parlak sonuçlar elde ettiler. Bazı insanlar yarı denetimli öğrenme ve sinirsel sembolik yöntemler gibi alt alanlarda ilerleme öngörmüş olsalar da, aslında VentureBeat ile görüşen tüm düşünce kuruluşları 2019'da transformatörlere dayalı doğal dil modellerinin büyük ilerleme kaydettiğini kabul etti ve benzer şekilde bunu öngördü. Yüz tanıma teknolojisi tartışmalı olmaya devam edecek. Ayrıca yapay zeka teknolojisi için değerlendirme kriterlerinin sadece doğruluk olmadığını umuyorlar.
Soumith Chintala
Soumith Chintala, yönetici, baş mühendis ve Pythorch'un kurucusu.
Şu anda PyTorch, bugün dünyanın en popüler makine öğrenimi çerçevesidir. PyTorch, 2002'de piyasaya sürülen Torch açık kaynak çerçevesinin bir türev ürünüdür. 2015'te çıktı ve genişlemede istikrarlı bir şekilde büyümüştür.
Facebook, 2019 sonbaharında ölçüm ve TPU desteğinin yanı sıra Captum (derin öğrenme yorumlanabilirlik aracı) ve PyTorch Mobile'ı içeren PyTorch 1.3'ü piyasaya sürdü. Elbette PyRobot ve PyTorch Hub gibi, kodu paylaşmak ve makine öğrenimi uygulayıcılarını yeniden üretilebilirliği kabul etmeye teşvik etmek için başka şeyler de var.
Pythorch geliştiricisi ve VentureBeat arasındaki bir sohbette Chintala, 2019'da makine öğreniminde neredeyse hiç ilerleme olmayacağına inandığını söyledi.
"Aslında, herhangi bir çığır açan sonuçlar elde ettiğimizi sanmıyorum ... Temelde transformatörle başladı. 2012, ConvNets için en önemli zamandı ve transformatör için 2017 civarındaydı. Bu benim Kişisel görüş."
DeepMind'in AlphaGo'nun pekiştirmeli öğrenmeye katkısının çığır açıcı olduğunu söylemeye devam etti, ancak bu sonuçların gerçek dünyada pratik görevler için kullanılmasının zor olduğunu söyledi.
Chintala, Pythorch ve Google'ın TensorFlow gibi günümüzün makine öğrenimi uygulayıcıları arasında en popüler araçlar olan makine öğrenimi çerçevelerinin geliştirilmesinin, araştırmacıların fikirlerini ve çalışmalarını keşfetme şeklini değiştirdiğine inanıyor.
Dedi ki: "Bir anlamda bu bir atılım. Teknolojinin gelişimini geçmişe göre bir veya iki kat daha hızlı hale getiriyorlar."
Bu yıl, Google ve Facebook'un açık kaynak çerçeveleri, model eğitiminin hızını artırmak için nicelendirmeyi başlattı. Önümüzdeki birkaç yıl içinde Chintala, Pythorch'un JIT derleyicisinin ve Glow gibi sinir ağı donanım hızlandırıcılarının öneminin ve benimsenme oranının "patlayacağını" tahmin ediyor.
"PyTorch ve TensorFlow'a göre, çerçevelerin biraz benzer olduğunu göreceksiniz. Niceleme ve diğer verimsiz teknolojilerin ortaya çıkmasının nedeni, bir sonraki savaşın çerçeve derleyicilerinde olması - XLA, TVM, Pythorch zaten çok iyi. Pek çok yenilik gerçekleşmeyi bekliyor. Önümüzdeki birkaç yıl içinde, nasıl daha akıllı ölçüleceğini, nasıl daha iyi entegre edileceğini, GPU'nun nasıl daha verimli kullanılacağını ve yeni donanımla otomatik olarak nasıl derleneceğini göreceksiniz. "
VentureBeat'in bu makale için röportaj yaptığı diğer çoğu endüstri lideri gibi Chintala, 2020 yılına kadar yapay zeka topluluğunun yapay zeka modellerinin doğruluğunun ötesinde performansa daha fazla önem vereceğini ve dikkatini model oluşturma ihtiyacı gibi diğer önemli faktörlere çevirmeye başlayacağını öngörüyor. Tüketim, çıktının insanlara nasıl açıklanacağı ve yapay zekanın insanların inşa etmek istediği toplum türünü nasıl daha iyi yansıttığı.
"Geçmiş beş veya altı yılı geri düşünürseniz, NVIDIA'nın modelinin daha doğru olup olmadığı ve Facebook'un model modelinin ne kadar doğru olduğu gibi yalnızca doğruluk ve ham verilere odaklanıyoruz. Ama aslında, 2020'nin başladığımız yer olacağını düşünüyorum. Daha karmaşık bir şekilde düşündüğünüz bir yıl, eğer modeliniz iyi bir birlikte çalışabilirlik mekanizmasına sahip değilse (veya diğer standartları karşılıyorsa),% 3 daha doğru olup olmadığı önemli değildir. "
Celeste Kidd
CelesteKidd, Berkeley'deki California Üniversitesi'nde Kidd Lab'in direktörüdür ve ekibiyle birlikte çocukların nasıl öğrendiğini araştırmaktadır. Modeli çocuk yetiştirmeye pek benzemeyen bir şekilde eğitmeye çalışıyorlar ve bu araştırma sinir ağlarının kurulmasına yardımcı oluyor.
"İnsan bebeklerinin etiketli bir veri seti yok, ancak iyi bir iş çıkarıyorlar. Bunun nasıl olduğunu anlamalıyız." Dedi.
2019'da Kidd'i şaşırtan şeylerden biri, birçok sinir ağı oluşturucusunun, bebeklerin yapabileceklerini yapamayacaklarını düşünerek, kendisinin veya diğer araştırmacıların çalışmalarını keyfi olarak küçümsemeleri.
Bebeklerin davranışlarının ortalamasını aldığınızda, onların bir şeyi anladıklarına dair kanıtlar göreceksiniz, ancak kesinlikle mükemmel öğrenenler değiller.
İnsan bebeklerinin harika olduğunu, ancak çok fazla hata yaptıklarını söyledi.Gördüğü karşılaştırmalı deneylerin çoğu, bebeklerin davranışlarını demografik düzeyde idealleştiren insanlar tarafından gelişigüzel yapıldığını söyledi. "Şu anda bildiklerinizle daha sonra anlamak istedikleriniz arasındaki bağlantı giderek daha önemli hale gelebilir."
Yapay zekada "kara kutu" terimi uzun yıllardır var olmuştur. Sinir ağlarının yorumlanabilirlik eksikliğini eleştirmek için kullanılır, ancak Kidd 2020'nin açıklanamayan sinir ağları kavramının sonu anlamına gelebileceğine inanıyor.
"Kara kutu hakkındaki tartışma yanlıştır ve beyin de bir kara kutu. Beynin nasıl çalıştığını anlamada büyük ilerleme kaydettik." Dedi.
Bu sinir ağları anlayışını anlamak için Kidd, MIT-IBM Watson AI Lab'ın yönetici müdürü Aude Oliva gibi insanlara odaklandı.
"Bu konuyu tartıştığımızda, sistemin kara kutu olduğu hakkında bir şeyler söyledim, ancak bunların kesinlikle kara kutu olmadığını söyledi. Elbette, nasıl çalıştıklarını görmek ve onlarla deneyler yapmak için onları parçalara ayırabilirsiniz. Tıpkı bilişi anladığımız gibi. "Dedi Kidd.
Geçen ay Kidd, dünyanın en büyük yapay zeka araştırma konferansı NeurIPS'te açılış konuşması yaptı. Konuşması, insan beyninin inançlarda nasıl ısrar ettiğine, dikkat sistemini nasıl işlediğine ve Bayes istatistiklerini nasıl gerçekleştirdiğine odaklandı.
Bilgi aktarımının altın alanının, kişinin ilgisi ve kendisini şaşırtan şeylere dair anlayışı arasında olduğunu söyledi. İnsanlar, aşırı derecede şaşırtıcı içeriği sevmeme eğilimindedir.
Tarafsız bir teknoloji platformu olmadığı için, dikkatini içerik öneri sistemleri üreticilerinin insanların inançlarını nasıl manipüle ettiğini incelemeye yönelttiğini söyledi. Sistem, maksimum katılım arayışına dayanmaktadır ve insanların oluşturduğu inanç ve görüşler üzerinde önemli bir etkiye sahip olabilir.
Konuşmasının sonunda Kidd, makine öğrenimindeki bazı erkeklerin yanlış anlaşılmasından, kadın meslektaşlarla yalnız kalmanın cinsel taciz suçlamalarına yol açacağına ve erkek kariyerini sona erdireceğine inandıklarından bahsetti. Bu yanlış anlaşılmanın bu alandaki kadınların kariyerlerine zarar vereceğini söyledi.
Kidd, Rochester Üniversitesi'nde diğer kadınlarla birlikte cinsel istismarı kamuya açık olarak yayınladığı için 2017 yılında "Times of the Times" seçildi. Bu kadınlar, mevcut "Kadınlar için MeToo Kampanyası" nın tanıtımına yardımcı oldu. Ama o sırada Kidd bunun kariyerine son vereceğini düşünüyordu.
2020'de, insanların teknik araçların ve teknik kararların gerçek dünyadaki etkisine ilişkin farkındalığının arttığını görmeyi umuyor ve araç üreticilerinin, araçları kullanırken insanların davranışlarından sorumlu tutulması gerekiyor.
Dedi ki: "Pek çok kişinin kendilerini savunmaya çalıştığını ve" Ben gerçeği manipüle eden kişi değilim "dediğini duydum. Bu sahtekarlık konusunda farkındalık yaratmak gerektiğini düşünüyorum."
"Sosyal bir kişi olarak, özellikle bu araçları geliştirenler, onunla birlikte gelen sorumlulukların gerçekten farkında olmalısınız."
Jeff Dean
Dean, yaklaşık iki yıldır Google AI'da liderlik yapıyor. 20 yıldır Google'da çalışıyor. Şirket için birçok erken arama ve dağıtılmış ağ algoritmasının tasarımcısı ve Google Brain'in ilk üyelerinden biri.
Dean geçen ay NeurIPS'te ASIC yarı iletken tasarımının makine öğrenimi ve yapay zeka topluluğunun iklim değişikliğine yönelik çözümleri üzerine bir konuşma yaptı ve bunun zamanımızın en önemli sorunu olduğunu söyledi. Dean, iklim değişikliği hakkında konuşurken yapay zekanın sıfır karbonlu bir endüstri haline gelmeye çalışabileceğine ve insan davranışını değiştirmeye yardımcı olmak için de kullanılabileceğine inanıyor.
2020'de çok modlu öğrenme ve çok görevli öğrenme alanında ilerleme bekliyor.
2019'daki en büyük makine öğrenimi trendlerinden birinin Transformer tabanlı doğal dil modellerinin sürekli büyümesi ve yaygınlaşması olduğuna şüphe yok.Çintala modeli, daha önce son yıllarda yapay zeka alanındaki en büyük atılımlardan biri olarak biliniyordu. 2018 yılında, Transformer tabanlı bir model olan Google açık kaynaklı BERT. GLUE sıralamasına göre, Google'ın XLNet'i, Microsoft'un MT-DNN'si ve Facebook'un RoBERTa'sı gibi bu yıl piyasaya sürülen en iyi performans gösteren modellerin tümü Transformer'a dayanıyor.
Dean, kaydedilen ilerlemeye dikkat çekti ve şunları söyledi: "Makine öğrenimi modelleri oluşturmada oldukça verimli sonuçlar olduğunu düşünüyorum. Bu modeller, geçmişe göre daha karmaşık NLP görevleri yapmamıza izin veriyor." Büyümek için yer var. "Halen daha fazla bağlam tipi modeller yapabilmeyi umuyoruz. Şu anda olduğu gibi, BERT ve diğer modeller yüzlerce kelimeyi iyi idare edebiliyor, ancak bağlam olarak 10.000 kelimeyi kullanamıyor. Dolayısıyla bu ilginç bir yön."
Dean, en son teknolojide daha sağlam modellerin yaratılmasına çok fazla vurgu yapmayan küçük gelişmeler görmek istediğini söyledi.
Google AI ayrıca, Kasım 2019'da evde ve işyerinde ortak görevleri tamamlayabilen robotlar oluşturmak için başlatılan dahili bir proje olan DailyRobot gibi yeni araştırmaları ilerletmeye kararlı olacaktır.
Anima Anandkumar
NVIDIA'da makine öğrenimi araştırma direktörü Anima Anandkumar, AWS'de baş bilim insanı olarak da görev yapıyor. Nvidia'nın yapay zeka araştırması, sağlık hizmetlerinde ortak öğrenmeden otonom sürüşe, süper bilgisayarlar ve grafiklere kadar birçok alanı kapsıyor.
2019'da Nvidia ve Anandkumar'ın önemli bir araştırma alanı, giderek daha popüler ve olgun hale gelen pekiştirmeli öğrenmeye yönelik bir simülasyon çerçevesidir.
2019'da, Nvidia'nın Drive otonom sürüş platformunun ve Isaac robot simülatörünün yanı sıra, yüzleşme ağlarının neslinden sentetik veriler üreten modellerin yükselişini gördük.
Geçtiğimiz yıl yapay zeka benzeri StyleGAN (insanların bilgisayarda oluşturulmuş yüzlere mi yoksa gerçek insanlara mı baktıklarını sorgulamalarına olanak sağlayan bir ağ) ve GauGAN (boya fırçaları ile manzara oluşturabilen) ortaya çıkmaya başladı. StyleGAN2, geçen ay piyasaya çıktı.
GAN'lar gerçekliğin sınırlarını bulanıklaştırabilen teknolojilerdir ve Anandkumar, robotik elleri kavramak ve otonom sürüş gibi yapay zeka topluluğunun çözmeye çalıştığı ana zorlukları çözmeye yardımcı olabileceklerine inanıyor.
Anandkumar ayrıca gelecek yıl modellerin yinelemeli algoritmalarının, kendi kendini denetlemenin ve kendi kendine eğitiminin ilerlemesini görmeyi umuyor.Bu modeller etiketlenmemiş veriler kullanılarak kendi kendine eğitim yoluyla geliştirilebilir.
"Bence her tür yinelemeli algoritma gelecekteki geliştirme yönüdür, çünkü yalnızca ileri beslemeli bir ağ yaparsanız, sağlamlık bir sorundur. Birden çok yineleme yapmaya çalışırsanız ve istediğiniz veri türüne göre veya Yinelemeleri ayarlamak için doğruluk gerekir, bu durumda bu hedefe ulaşma olasılığı çok daha fazladır. "
Anandkumar, 2020'de yapay zeka topluluğunun, özellikle belirli endüstriler için modeller oluşturmak üzere alan uzmanlarıyla çalışma ihtiyacı gibi birçok zorlukla karşılaşacağına inanıyor. Politika yapıcılar, bireyler ve yapay zeka topluluklarının da temsil sorununu ve modeli eğitmek için kullanılan veri setinin farklı popülasyonların ihtiyaçlarını karşılayabilmesini sağlama zorluğunu çözmeleri gerekiyor.
Anandkumar, kişisel mahremiyetin istilası olduğunun farkına varmak kolay olduğu için yüz tanımanın en endişe verici olduğunu söyledi, ancak yapay zeka topluluğu 2020'de başka bazı etik sorunlarla da karşılaşacak.
Anandkumar'a göre 2019'daki en büyük sürprizlerden biri, metin oluşturma modellerinin hızla gelişmesidir.
"2019, dil modelinin yılı. Şimdi, ilk defa, daha önce imkansız olan, paragraf uzunluğunda daha tutarlı metin oluşturma hedefine ulaştık."
Ağustos 2019'da Nvidia, Megatron doğal dil modelini başlattı. Megatron, 8 milyar parametreye sahiptir ve dünyanın en büyük Transformer tabanlı yapay zeka modeli olarak bilinir. Anandkumar, insanların modelleri bireyler olarak tasvir etmeye başladığını, buna şaşırdığını ve daha çok sektöre özel metin modelleri görmeyi dört gözle beklediğini söyledi.
"Henüz diyalog oluşturmadık. Diyalog üretimi etkileşimli, bağlamı izleme ve doğal diyalog yürütme yeteneğine sahip. Bu nedenle, 2020'nin bu yönde daha ciddi girişimlerde bulunacağını düşünüyorum."
Bir metin oluşturma kontrol çerçevesi geliştirmek, insanları veya nesneleri tanımlamak için kullanılabilecek bir görüntü çerçevesi geliştirmekten daha zor olacaktır. Metin oluşturma modelleri, nöral modeller için gerçekleri tanımlama gibi başka zorluklarla da karşılaşabilir.
Son olarak Anandkumar, Kidd'in NeurIPS'teki konuşmasının ayakta alkışlandığını ve makine öğrenimi topluluğunda artan olgunluk ve hoşgörü belirtilerini görmekten heyecan duyduğunu söyledi.
"Bunun bir dönüm noktası olduğunu düşünüyorum. Başlangıçta küçük değişiklikler bile yapmak zor. Umarım bu ivmeyi koruyabilir ve daha büyük yapısal reformlar yapabiliriz."
Dario Gil
Gil, IBM Araştırma Direktörü olarak Beyaz Saray'a ve dünya çapındaki şirketlere aktif olarak danışmanlık yapan bir araştırma ekibine liderlik ediyor. 2019'daki büyük sıçramaların, üretken modeller etrafında ilerlemeyi ve üretilen güvenilir dilin kalitesindeki sürekli iyileştirmeyi içerdiğine inanıyor.
Yapıyı düzene sokarken eğitimin daha etkili bir yönde ilerlemeye devam edeceğini öngördü. Daha etkili yapay zeka modellerinin geliştirilmesi, NeurIPS'in odak noktasıdır ve IBM Research, NeurIPS'de 8 bitlik doğru modellerle derin öğrenme teknolojisini tanıttı.
Dedi ki: "Derin sinir ağlarını eğitmek için mevcut donanım ve GPU mimarilerini kullanma şeklimiz hala çok verimsiz. Bu nedenle, bu noktayı gerçekten düşünmek çok önemli. Yapabilmemiz için yapay zekanın hesaplama verimliliğini artırmalıyız. Daha fazla yap.".
Gil, her üç buçuk ayda bir ML eğitimine olan talebin ikiye katlandığını gösteren bir çalışmadan alıntı yaptı; bu, Moore Yasası tarafından öngörülen büyümeden çok daha hızlı.
Gil ayrıca yapay zekanın bilimsel keşfi hızlandırmaya nasıl yardımcı olabileceğiyle de ilgileniyor, ancak IBM'in araştırması makine öğreniminin sinirsel sembolik yöntemlerine odaklanacak.
Gil, 2020'de yapay zeka uygulayıcılarının ve araştırmacıların, üretimde modelleri dağıtmanın değerini göz önünde bulundurmak için doğruluğun ötesine geçen bir ölçüt geliştirebileceğini umuyor. Doğruluğa öncelik vermek yerine alanı güvenilir sistemler oluşturmaya kaydırmak, yapay zekanın sürekli benimsenmesinin temel dayanağı olacaktır.
"Bazı topluluk üyeleri endişelenme, sadece doğru ol diyebilir. Sorun değil, insanlar bazen verdiğimiz belirli kararları açıklamadıkları gerçeğine alışacaklar. Sanırım topluluğa odaklanıyoruz Bu konuda daha iyisini yapmak çok önemli. Yapay zeka sistemleri, görev açısından kritik uygulamalar için kara kutu olamaz. "
Gil, veri bilimi ve yazılım mühendisliği becerilerine sahip daha fazla insanın yapay zeka kullanmasını istiyorsanız, bunu yalnızca birkaç makine öğrenimi sihirbazının yapabileceği fikrinden kurtulmanız gerektiğine inanıyor.
"Yapay zekayı efsanevi bir alan olarak kabul edersek, sadece bu alanla ilgilenen seçilmiş doktoralar girebilir, o zaman bu yapay zeka uygulamasını gerçekten teşvik etmeyecektir." Dedi.
Gil, özellikle sinirsel sembol yapay zeka ile ilgileniyor. Önümüzdeki yıl IBM, yapay zekanın programları nasıl çalıştıracağını öğrendiği ve karar vermenin arkasındaki mantık modellerini paylaşabildiği olasılıklı programlama gibi işlevleri geliştirmek için sinirsel sembolik yöntemler arayacak.
Çağdaş yeni yöntemlerin hibrit bir yöntemini benimseyerek, bu sinirsel sembolik yöntemlerle öğrenme ve akıl yürütmeyi birleştirerek ve sembolik boyutu öğrenme programına yerleştirerek, ihtiyacınız olan verilerin küçük bir kısmıyla öğrenebileceğinizi kanıtladık. . Bir program öğrenirsiniz ve sonunda yorumlanabilir bir şey elde edersiniz, çünkü yorumlanabilir bir şeye sahip olursunuz, daha güvenilir bir şey elde edersiniz. "
Adalet, veri bütünlüğü ve veri setlerinin seçimi gibi konuların geniş çapta ilgi görmeye devam edeceğini ve "biyometri ile ilgili her türlü sorunun" dikkat çekmeye devam edeceğini söyledi. Yüz tanıma çok ilgi gördü, ancak bu sadece başlangıç. Ses verileri, diğer biyometri formları gibi giderek daha hassas hale gelecektir.
Gil, sinirsel sembollere ve sağduyu muhakemesine ek olarak, 2020'de IBM Research'ün hassaslığı azaltma mimarisinin ötesinde yapay zeka için kuantum hesaplamayı ve yapay zeka için simülasyon donanımını da keşfedeceğini söyledi.
Son düşünceler
Makine öğrenimi, işletmeyi ve toplumu şekillendirmeye devam ediyor ve VentureBeat, araştırmacılar ve uzmanlarla röportaj yaparken bazı yeni trendler gördü:
-
2019'daki en büyük ilerleme, doğal dil modellerinin gelişmesidir ve Transformer bu alanda büyük bir sıçramayı teşvik etmiştir. 2020'de BERT ve Transformer'a dayalı daha fazla model olacak.
-
Yapay zeka endüstrisi, modelin çıktısını değerlendirmenin yollarını aramalı, sadece doğrulukla sınırlı değil.
-
Yarı denetimli öğrenme, makine öğreniminin sinirsel sembolik yöntemleri ve çoklu görev ve çok modlu öğrenme gibi alt alanlar önümüzdeki yıl ilerleme kaydedebilir.
-
Biyometrik verilerle (ses kayıtları gibi) ilgili etik zorluklar tartışmalı olmaya devam edebilir.
-
PyTorch ve TensorFlow gibi makine öğrenimi çerçeveleri için, derleyiciler ve niceleme gibi yöntemler, model performansını optimize etme yöntemleri olarak giderek daha popüler hale gelebilir.
aracılığıyla: https://venturebeat.com/2020/01/02/top-minds-in-machine-learning-predict-where-ai-is-going-in-2020/
Lei Feng Ağı Lei Feng Ağı Lei Feng Ağı
