Yapay zekanın karanlık tarafını aydınlatmak: Yapay zeka insanların yerini alacak, ancak bunun makine öğreniminin nasıl olduğunu bilmiyorsunuz
[Lieyun.com (WeChat ID: ilieyun)] 17 Nisan'da bildirdi (derleyici: Cai Miaoxian)
Editörün notu: Bu makalenin yazarı Will Knight, MIT Technology Review'un kıdemli editörüdür. Esas olarak makine zekası, robotik ve otomasyon alanında yer almakla birlikte elektronik hesaplamanın çoğu yönüyle de ilgileniyor.
Geçen yıl, kendi kendine giden bir araba New Jersey, Monmouth County'ye gitti. Bu deneysel araba çip üreticisi NVIDIA'dan geldi Dışarıdan bakıldığında Google, Tesla veya GM'nin diğer sürücüsüz arabalarından pek de farklı değil.
Ama iç kısmı oldukça farklı. Bu araba mühendislerden veya programcılardan herhangi bir talimat gerektirmiyor; bunun yerine, bir insan sürücüyü izleyerek nasıl sürüleceğini öğrenmek için bir dizi algoritmaya güveniyor.
Bir arabaya bu seviyeyi yaptırmak gerçekten büyük bir gelişme.
Ama aynı zamanda insanları tedirgin ediyor, kim bilir bu arabanın kararı nasıl verdiğini. Sürüş programına göre, otomobilin sensörleri tarafından toplanan bilgiler doğrudan büyük bir yapay sinir ağına girecek, verileri işleyecek ve ardından direksiyon simidini, freni veya diğer eylemleri vb. Döndürmek için talimatlar gönderecek. Görünüşe göre bu araba, bir insan sürücünün tepki önlemlerini taklit edebiliyor.
Bununla birlikte, bir gün beklenmedik bir şey yaparsa - örneğin, bir ağaca çarparsa veya yeşil ışığın önünde durup ayrılmıyorsa - ne yapmalı? Mevcut duruma göre arkasındaki sebebi kolayca bulamayabiliriz. Bu sistem o kadar karmaşık ki, onu geliştiren mühendisler bile her eylemin arkasındaki nedenleri zorlukla çözebiliyor. Ve mühendislerden tüm eylemleri açıklayabilecek bir sistem tasarlamalarını isteyemezsiniz.
Otomobillerin "gizemli" düşünce tarzı, yapay zeka teknolojisinin potansiyel bir problemidir. NVIDIA arabalarının kullandığı yapay zeka teknolojisine derin öğrenme de deniyor. Son yıllarda, bu teknoloji sorunları çözme konusunda güçlü bir yetenek gösterdi ve yapay zeka, görüntü yakalama, konuşma tanıma ve çeviride yaygın olarak kullanıldı. Şimdi bazı insanlar ölümcül hastalıkları teşhis etmek ve işle ilgili kararlar almak için yapay zeka kullanmayı hayal etmeye başlıyor.
Bununla birlikte, teknik geliştiricilerin yapay zeka düşüncesini daha iyi anlayabilmesi ve aynı zamanda kullanıcılardan sorumlu olması için bir yol bulmadıkça böyle bir şey olmayacak veya olmamalı. Bu teknolojiyi yaygınlaştırmak için acele edersek, bir felaketin ne zaman olacağını tahmin edemeyeceğiz ve kesinlikle olacak. Nvidia'nın hala deney aşamasında olmasının nedeni budur.
Kimin şartlı tahliye başvurusunda bulunabileceği, kimin kredi alabileceği ve kimin iş bulabileceği gibi karar vermeye yardımcı olmak için uzun zaman önce matematiksel modeller kullandık. Bu matematiksel modellere erişiminiz varsa, karar verme modellerini anlayabilirsiniz. Ancak şimdi, bankalar, ordu, işverenler vb. Tüm karar verme sürecini otomatikleştirmek için daha gelişmiş makine öğrenimi yöntemleri aramaya başlıyor.
Derin öğrenme, karar verme yöntemlerinde en yaygın kullanılan teknolojidir ve eskisinden tamamen farklı bir bilgisayar programlama yöntemini temsil eder. Kendini makine öğrenimi teknolojisinin uygulamasını araştırmaya adamış MIT profesörü Tommi Jaakkola, "Bu sorun şu anda bizimle yakından ilgilidir ve gelecekte daha yaygın hale gelecektir. İster yatırım kararları ister hastalık teşhis kararları veya askeri kararlar olsun, tamamen olmak istemezsiniz Kara kutu modeline güvenin. "
Yapay zeka sisteminin karar verme nedeninin bir kanun olarak tesis edilip edilmeyeceği sorusu geniş çapta tartışıldı. 2018 yazından itibaren AB, şirketlerden otomatik sistemler tarafından alınan kararları açıklamalarını isteyebilir. Ancak bu kural, reklamları yerleştirmek veya şarkı önermek için derin öğrenmeyi kullanan uygulamalar ve web siteleri gibi görünüşte basit sistemler için bile hiç uygulanmayabilir. Bu hizmetleri sağlayan bilgisayarlar kendileri tarafından yeniden programlanmıştır ve nasıl programlandıklarını anlayamıyoruz. Bu uygulamaları geliştiren mühendisler bile davranışlarını tam olarak açıklayamıyor.
Bu, rakiplerin şüphelerini artırdı. Evet, biz insanlar her zaman düşünce süreçlerimizi açıklayamayız, ancak sezgilerimize dayanarak başkalarına güvenebilir ve onları değerlendirebiliriz. Düşünme ve karar verme süreci insanlardan tamamen farklı olan bir makine karşısında, sezgi yine de işe yarayabilir mi?
Asla geliştiricilerin bile anlayamayacağı bir makine icat etmedik, peki bu öngörülemeyen makinelerle iletişim kurmayı ve onlarla geçinmeyi nasıl bekleyebiliriz?
Bu sorularla, cevap bulmak için bir yolculuğa çıktım. Google'dan Apple'a, yapay zeka algoritmaları geliştiren firmaları gezdim, hatta zamanımızın en ünlü filozoflarıyla sohbet ettim.
2015 yılında, New York'taki Mount Sinai Hastanesi'ndeki bir grup araştırmacı ilham aldı ve hastanede çok sayıda tıbbi kaydı analiz etmek için derin öğrenme teknolojisini kullanmaya başladı. Bu veriler, hasta test sonuçları, ziyaret kayıtları vb. Dahil olmak üzere yüzlerce maddeye bölünebilir. Araştırmacılar analiz sistemine Derin Hasta adını verdiler ve geliştirme tamamlandıktan sonra 700.000 hasta verisi ile eğittiler. Sonuçlar, yeni verileri test ederken Deep Patient'ın son derece yüksek bir hastalık tahmin oranı gösterdiğini kanıtladı. Uzman rehberliği olmadan Derin Hasta, hastane verilerinde gizli modeller keşfetti ve bu modeller, diğer tarafın belirli hastalıklardan muzdarip olup olmayacağını tahmin etti. Elbette, tıbbi kayıtlara dayanarak hastalığı tahmin etmenin başka birçok yöntemi var, ancak Mount Sinai Hastanesi araştırma ekibinin yöneticisi Joel Dudley, "Bu yöntem daha iyi" dedi.
Ama aynı zamanda Derin Hasta doktorları da şaşırttı. Örneğin, Derin Hasta şizofreni gibi akıl hastalıklarını tahmin etmede çok iyidir. Tıp pratisyenleri şizofreninin doktorlar için teşhis edilmesinin son derece zor olduğunu biliyorlar ve Dudley, Derin Hastanın bunu nasıl tanıyabileceğini anlayamıyor. Bugüne kadar bilmiyordu.
Deep Patient gibi bir sistem gerçekten doktorlara yardım etmek istiyorsa, temel tahmin teorisini sağlamak daha iyidir, aksi takdirde insanları onun doğruluğuna nasıl inandırabiliriz. Dudley alaycı bir gülümsemeyle "Bu modelleri yaratabiliriz, ama nasıl çalıştıklarını bilmiyorum" dedi.
Yapay zeka böyle doğmaz. Yapay zekanın nasıl anlaşılması ve açıklanması gerektiğine dair iki ana fraksiyon vardır.
Pek çok insan, makinelerin belirli kurallara ve mantığa göre yapılması gerektiğini, böylece iç işlemlerinin açık ve şeffaf olması ve belirli kodları kontrol etmek isteyen herkes için uygun olduğunu düşünüyor. Bazı insanlar, zekanın ancak biyolojik ilhamın yardımıyla, yani insan faaliyetlerini gözlemlemek ve deneyimlemekle daha sorunsuz gelişebileceğine inanır. Bu aynı zamanda bilgisayar programlama görevini makinenin kendisine devretmemiz gerektiği anlamına gelir.
Mevcut makine öğrenimi şu şekildedir: programcılar belirli bir sorunu çözmek için talimatlar yazarlar ve program, örnek verilere ve beklenen hedeflere dayalı olarak kendi algoritmasını oluşturur. Bundan sonra, makine öğrenimi teknolojisi, bugünün en güçlü yapay zeka sistemine yükseltmek için ikinci yolu izleyecek - yani kendi programlarınızı yazacak.
Başlangıçta, yukarıdaki model için gerçek kullanım durumları çok sınırlıydı. 1960'larda ve 1970'lerde, makine öğrenimi teknolojisinin çoğu hala endüstrinin ucundaydı. Ancak çok geçmeden birçok endüstri hesaplamaya başladı, büyük veriler yeni ilgi alanlarını doğurdu ve özellikle yapay sinir ağları olmak üzere daha güçlü makine öğrenimi teknolojileri doğdu. 1990'lara gelindiğinde, sinir ağları el yazısı karakterleri çoktan dijitalleştirebiliyordu.
Ancak yapay zekanın gerçek yükselişi hala son 10 yılda. Geliştirme yöntemlerinde birkaç değişiklik ve iyileştirmeden sonra, süper büyük veya "derin" nöral ağlar, otomatik algılamada dikkate değer bir ilerleme gösterdi. Derin öğrenme aynı zamanda günümüzün yapay zeka patlamasının da temelini oluşturuyor ve bilgisayarlara neredeyse insan seviyesinde konuşma tanıma yetenekleri gibi sonsuz yetenekler veriyor. Konuşma tanıma sistemi çok karmaşık olduğu için, programcılar daha önce başarılı bir şekilde geliştirme yapamıyorlardı. Günümüzde bu sistem tıp, finans, imalat gibi birçok sektörde kullanılmaktadır.
Bilgisayar bilimcileri için bile, makine öğrenimi teknolojisinin işleyişi belirsiz ve manuel programlamadan çok daha az anlaşılır. Ancak bu, gelecekteki tüm yapay zeka teknolojilerinin bilinemeyeceği anlamına gelmez, ancak özünde derin öğrenme görünmez bir kara kutu gibidir.
Sinir ağının içini doğrudan keşfedemez ve nasıl çalıştığını gözlemleyemezsiniz. Sinir ağı muhakemesi, düzinelerce veya yüzlerce karmaşık birbirine bağlı katmana dağılmış binlerce analog nörona dayanır. İlk katmandaki her nöron, resmin piksel yoğunluğu gibi veri girişini almaktan sorumludur ve daha sonra bu nöronlar verileri hesaplayacak, yeni bir sinyal oluşturacak ve onu bir sonraki katmana gönderecek ve böylece nihai sonuç elde edilene kadar devam edecektir. Ek olarak, geri yayılım, sinir ağının istenen sonucu vermesini sağlayabilir.
Derin ağın çok katmanlı yapısı, nesneleri birden çok soyutlama düzeyinden tanımasına da olanak tanır. Örneğin, yavruları tanımak için tasarlanmış bir sistemde, düşük seviyeli nöronlar çizgiler veya renkler gibi basit nesneleri tanımaktan sorumludur, yüksek seviyeli nöronlar saç veya gözler gibi nesneleri tanımaktan sorumludur ve üstteki nöronlar tanıyabilir. Bu bir köpek. Kabaca konuşursak, bu yöntem aynı zamanda dilde telaffuzu, harfleri, metindeki kelimeleri tanıma veya sürüş sırasında direksiyonu çevirme gibi makinenin kendi kendine öğrenmesi için de kullanılabilir.
Birkaç yıl önce, araştırmacılar bu sistemlerde neler olduğunu anlamaya çalışmak için stratejiler geliştirmeye başladılar. 2015'te Google araştırmacıları, derin öğrenmeye dayalı bir dizi görüntü tanıma algoritmasını değiştirerek nesne tanıma işlevini bir nesil veya değiştirme işlevine dönüştürdü. Algoritmayı tersine çalıştırdıkları sürece, bu programların kuşları, binaları ve diğer nesneleri nasıl tanıdığını bilebilirler. Kısa süre sonra, Deep Dream kod adlı bu ters araştırma projesinin sonuçları yayınlandı.Program, bulutlara ve bitkilere, ormanlar ile vadiler arasında ve halüsinasyonlara dayalı olarak uzaylılara benzeyen bir grup saçma ve korkunç hayvan resimleri oluşturdu. Görünecek pagoda.
Deep Dream tarafından çizilen resimler, derin öğrenmenin tamamen anlaşılmaz olmayabileceğini kanıtlıyor. Gaga ve dil gibi tanıdık görsel özellikleri tanıyabilmelerine rağmen, yine de insanın bilişsel yeteneklerinden uzaktırlar. Örneğin, hepimiz resimlerdeki eserleri görmezden gelmemiz gerektiğini biliyoruz, ancak derin öğrenme ağları bunları anlamıyor. Google araştırmacıları, algoritma bir dambıl resmi çizmeye hazırlanırken, sistem kolu halterin bir parçası olarak gördüğü için otomatik olarak bir insan kolu ekleyeceğini belirtti.
Yukarıdaki problemlere yanıt olarak, bilim adamları daha fazla iyileştirme yapmak için sinirbilim ve bilişsel bilimden bilgi aldılar. Örneğin, Wyoming Üniversitesi'nde yardımcı doçent olan Jeff Clune, bir ekibi yukarıdaki resme benzer halüsinasyon görüntüleriyle derin sinir ağlarını test etmeye yönlendirdi. 2015'te Clune ekibi, bazı resimlerin sistemi aldatabileceğini ve var olmayan nesneleri tanımasını sağladığını araştırdı ve kanıtladı. Bunun nedeni, bu resimlerin sistem aramasının desen özelliklerini yakalamasıdır.
İhtiyacımız olan şey tek delikli bir görünüm değil, yapay zeka düşünme modellerinin kapsamlı bir keşfi, ancak bu kolay değil. Derin sinir ağı hesaplamalarının etkileşimi, üst düzey örüntü tanıma ve karar verme için gereklidir, ancak bu hesaplama sonuçlarının arkasında çok sayıda matematiksel işlev ve değişken vardır. "Sinir ağınızın ölçeği küçükse, o zaman işleyişini hala anlayabilirsiniz." Jaakkola, "Ancak ölçek yüzlerce katmana genişletildiğinde ve her katmanda binlerce nöron birimi olduğunda, bu sizin için zor olacaktır. Anladım."
Jaakkola'nın yanındaki ofiste MIT profesörü Regina Barzilay, ilaç endüstrisine makine öğrenimi teknolojisini uygulamaya kararlı. 43 yaşında, Barzilay'a meme kanseri teşhisi kondu ve bu onu şok etti. Bununla birlikte, onu daha da şok eden şey, en son istatistiklerin ve makine öğrenme yöntemlerinin kanserojen araştırma veya hasta tedavisinde kullanılmamasıydı. Barzilay, yapay zekanın ilaç endüstrisinde devrim yapma konusunda büyük bir potansiyele sahip olduğunu, ancak bu potansiyellerden yararlanmak için tıbbi kayıt analizi temelinde daha ileri gitmek gerektiğini söyledi. Barzilay, gelecekte görüntü verileri, patoloji verileri vb. Gibi daha fazla ham veri kullanmayı umuyor.
Geçen yıl kanser tedavisini bitirdikten sonra Barzilay, öğrencilerini Massachusetts General Hospital'daki doktorlarla birlikte patoloji raporlarını analiz etmek ve araştırmacıların incelemek istediği özel klinik özellikleri bulmak için ortak bir sistem geliştirmeye yönlendirmeye başladı. Ancak Barzilay, bu sistemin kendi muhakeme sürecini açıklayamayacağını biliyordu. Böylece, Kaakkola ve bir öğrenciyle birlikte sisteme bir adım ekledi: metinde belirli bir patolojik modeli temsil eden paragrafları seçme ve işaretleme. Barzilay aynı zamanda öğrencilerle derin öğrenme algoritmaları yazmaya devam ediyor, meme kanserinin erken belirtilerini mamogramlarda bulmaya çalışıyor ve analiz sonuçlarının arkasındaki nedenleri sunuyor.
İnsan davranışının tam olarak açıklanamaması gibi, yapay zeka da neden bu kararı verdiğini bilemeyebilir. Clune şöyle dedi: "Biri size belirli bir davranışın arkasındaki nedeni söylese bile, nedeni tek taraflı olabilir. Yapay zeka bu prensip için de geçerlidir. Kendi sezgisi, bilinçaltı veya gizemli olabilir. . "
Durum buysa, gelecekte bir noktada, yalnızca yapay zekanın yargısına güvenmeyi seçebiliriz, yoksa onu hiç kullanmayacağız. Benzer şekilde, yapay zeka yargısı da sosyal zeka ile birleştirilmelidir. İnsan toplumu beklenen davranış sözleşmelerine dayanır.Sosyal normlara saygı duymak ve entegre olmak için yapay zeka sistemlerine ihtiyacımız var. Robot tankları ve diğer ölüm makinelerini yapmayı planlıyorsak, karar verme süreçleri ahlaki yargı standartlarını karşılamalıdır.
Bu bağlamda, Tufts Üniversitesi'nde ünlü bir filozof ve bilişsel bilimci olan Daniel Denneyy şunları söyledi: Soru şu ki, yapay zeka sistemlerine ihtiyaç duymak için hangi standartları benimsemeliyiz? Yoksa kendimiz mi? Yapay zeka sistemleri kendi davranışlarını açıklamada yetersiz kalıyor mu? İnsanlar, o zaman onlara güvenmeyin. "
Bu makale Lieyun.com'dandır. Yeniden basıldıysa lütfen kaynağı belirtin:
