Touted veya çılgınca vurulmuş? Yapay zeka gelişimini yanlış tahmin etmenin "yedi ölümcül günahını" sayın
[Lieyun.com (WeChat ID: ilieyun)] 12 Ekim raporu (derleme: Tian Xiaoxue)
Editörün notu: Bu makalenin yazarı Rodney Brooks, dünyaca ünlü bir robot üretim uzmanı ve Ulusal Mühendislik Akademisi'nin bir akademisyeni ve aynı zamanda bir Boston robotik şirketi olan Rethink Robotics'in kurucusudur.
Şu anda, yapay zeka ve robotların gelecekteki yönü hakkında hepimizin aşırı fanatik tahminleri var, ne kadar güçlü olacaklarını, ne kadar hızlı olacaklarını ve işgücü ve istihdam üzerinde ne gibi etkileri olacağını bilmek istiyoruz.
Geçenlerde, önümüzdeki 10 ila 20 yıl içinde robotların insan emeğinin yaklaşık yarısının yerini alacağını söyleyen bir makale gördüm, hatta kanıtlamak ve açıklamak için bir grafik bile kullandım.
Ama bence bu makalede tamamen saçma olan birçok görüş var. Örneğin, önümüzdeki 10 ila 20 yıl içinde, ABD'deki toplam yer bakım personeli sayısının mevcut 1 milyondan 50.000'e düşeceğini, çünkü robotların işlerinin yerini alacağını belirtti. Ama aslında şu anda bu alanda normal işleyen robotlar yok ve ileride bu alana robotlar koyma fikri veya planı yok. Zemin bakımına ek olarak, aynı durum diğer endüstriler için de geçerlidir. Gelecekte, sabit yerlerde insan gücü gerektiren işlerin% 90'ından fazlası robotlarla değiştirilecek, ki bu tamamen gerçekçi değil.
Bazı insanlar gelecekte yapay zekanın büyük ölçekte insan gücünün yerini alacağını tahmin ediyor. Bazı insanlar gelecekte yapay zekanın yaratacağı farklı değerlerin insanlık üzerinde olumsuz bir etki yaratacağını tahmin ediyor. Her iki durumda da, bu tür yanlış tahminler, insanları paniğe kapılmamaları gereken bir paniğe sevk edecektir. Bu nedenle, geri dönüp bu yanlış tahminlerin temel nedenlerini keşfetmemiz gerekiyor.
Aşağıda, bu yanlış tahminlerin yedi ana nedenini kısaca açıklayacağım.
(1) Fazla tahmin ve eksik tahmin
Roy Amara, tanınmış bir Amerikalı bilim adamı ve California Gelecek Enstitüsü'nün kurucu ortağıdır. Bu, Silikon Vadisi'nin kalbi olan Palla Alto'dan kar amacı gütmeyen bir düşünce kuruluşudur. Amara'nın şu anda Amara yasası olarak bilinen ünlü bir sözü vardır:
Kısa vadede belirli bir teknolojinin etkisini abartmak ve uzun vadede etkisini küçümsemek bizim için kolaydır.
Bu cümlenin sadece 21 kelimesi olmasına rağmen anlaşılması zor. İyilikseverin iyilikseverliği gördüğü ve bilgeliğin bilgeliği gördüğü söylenebilir. İyimserler ve kötümserler genellikle tamamen farklı anlayışlara sahiptir.
Yasanın ikiliğinin en iyi örneği, Amerika Birleşik Devletleri'ndeki GPS küresel konumlandırma sistemidir. İlk kez 1978'de konuşlandırıldığında, ABD ordusu için doğru askeri malzeme tedarikini sağlama umuduyla yörüngeye yalnızca 24 uydu yerleştirdi. Ancak ilerleyen yıllarda, bu sistemin gelişimi katliamlar ve dönüşler yaşadı. Gerçekten işe yaradığı ilk sefer 1991'deki Çöl Fırtınası Operasyonu sırasında oldu, yani Birleşik Devletler Kuveyt'i Irak'tan kurtarmak için Birleşmiş Milletler operasyonuna öncülük etti.
Ama şimdi, yani Amara'nın söylediği uzun vadeli perspektiften bakıldığında, sistemin işlevi büyük ölçüde genişletildi ve orijinal fikri tamamen ortadan kaldırdı. Örneğin, GPS işlevine sahip bir Apple Watch, kullanıcının koşu rotasını doğru bir şekilde kaydedebilir. Bu, sistemi ilk günlerde geliştiren mühendislerin kesinlikle beklenmedik bir şeydi. Bu teknoloji, küresel ölçekte çeşitli hareketlerin senkronizasyonunu sağlayabilir, ABD elektrik şebekesinde ve operasyonunda hayati bir rol oynar ve hatta borsayı sık sık kullanan tüccarların zaman hatası riskinden büyük ölçüde kaçınmasına yardımcı olabilir.
Başka bir deyişle, GPS sistemi başlangıçta belirli bir amaç için konuşlandırıldı. Beklenen etkiyi almasa da hayatımızın her alanına beklenmedik bir şekilde nüfuz etti. Bu sistem olmadan donabilir, aç kalabiliriz, hatta ölebiliriz.
Son 30 yılda, GPS sistemi geliştirme modeline benzer birçok teknoloji ortaya çıktı. Tek bir cümleyle özetlemek gerekirse, bu teknolojilerin tümü başlangıçta "ağır sorumluluklar alıyor". Sonraki performans tatmin edici olmasa da, yavaş yavaş orijinal beklenen aralığı aştı ve hasat başarılı olana kadar diğer alanlarda ilerleme kaydetti. Bu, bilgi işlem, genom dizileme, güneş ve rüzgar enerjisi geliştirme modelleri için geçerlidir.
Yapay zeka bir istisna değildir. 1960'lar, 1980'ler veya şimdi olsun, gerçekten abartıyoruz. Ancak uzun vadeli bir perspektiften bakıldığında, gelecekteki gelişimi ve performansı muhtemelen hafife alınacaktır. Ancak soru, burada bahsedilen uzun vadenin ne kadar uzun olduğu. Aşağıda listelenen altı hata, yapay zekanın gelecekteki gelişiminde zaman boyutunun neden büyük ölçüde hafife alındığını açıklamaya yardımcı olacaktır.
(2) Büyülü bir büyü olarak düşünün
Ben gençken, Arthur C. Clarke, Robert Heinlein ve Isaac Asimov, muhtemelen "Bilim Kurgunun Büyük Üçlüsü" idi. Bunlar arasında Clark sadece bir bilim kurgu yazarı değil, aynı zamanda bir mucit ve fütüristtir. 1962 ile 1973 arasında, art arda şu anda Clark'ın Üç Yasası olarak bilinen üç görüş ileri sürdü:
Birincisi, saygın ama daha yaşlı bir bilim adamı bir şeyin mümkün olduğunu anlarsa, o zaman temelde haklıdır. Ama bir şeyin imkansız olduğunu iddia ederse, muhtemelen yanılıyordur.
İkincisi, olasılıklardaki çeşitli sınırlamaları bulmanın tek yolu, onları imkansız kategoriye sokma riskini almaktır.
Üçüncüsü, yeterince gelişmiş ve yeterince gelişmiş herhangi bir teknoloji, neredeyse sihir kadar büyülüdür.
Bunların arasında üçüncü kuralı detaylandırmak istiyorum. Newton'un 17. yüzyılın sonlarından 21. yüzyıla seyahat etmesini sağlayan bir zaman makinemiz olduğunu varsayalım. Bulunduğu yer Cambridge Üniversitesi, Trinity College'dır.
Ancak burada "Apple" ın değiştirilmesi gerekiyor. Düşen Apple'ın yerine iPhone'ları kullanıyoruz. Newton, beyaz ışığın tek renkli ışık olmadığını kanıtlayan bir prizma kırılma deneyi ile beyaz ışığı yedi renge ayırsa bile, telefon ekranında çeşitli simgelerin farklı renklerini görünce kesinlikle şaşıracak. Ardından, cep telefonunuzu aşina olduğu film sahnelerini veya kilise müziğini çalmak için kullanabilir, ona yazdığı "Doğa Felsefesinin Matematiksel İlkeleri" ni gösterebilir ve ayrıntıları görüntülemek için ekranda nasıl yakınlaştırıp uzaklaştıracağını öğretebilirsiniz.
Öyleyse, Newton tüm ilkeleri açıklayabilir mi? Evet, hesabı icat etti ve optik ve yerçekimi ilkelerini açıkladı, ancak simyadan modern kimyaya başarılı bir şekilde geçiş yapamadı. Bu nedenle kesinlikle kafasının karışacağını ve bu cihaz hakkında hiçbir şey bilmediğinde büyülü bir büyülü duygu yaşayacağını düşünüyorum.
Bir öğe "sihir" ve "sihir" olarak etiketlendikten sonra sınırlarını hayal etmek zordur. Farz edelim ki, Newton'a iPhone'un nasıl fotoğraf çektiğini, nasıl kaydedileceğini, büyüteç olarak nasıl kullanılacağını, aritmetik işlemlerin nasıl hızlı bir şekilde gerçekleştirileceğini, atılan adımların nasıl sayılacağını ve anında arama nasıl yapılacağını daha da gösterelim.O halde Newton nasıl tepki verirdi? Böyle bir cihazı şarj etmeyi düşünür mü? Ateşsiz bir ışık kaynağı olarak kullanılabileceği için bu cihazın kurşunu altına dönüştürebileceğini mi düşünüyor?
Geleceğin teknolojilerini hayal ettiğimizde karşılaşacağımız sorun budur. Bir teknolojiyi anlamak şimdi daha zorsa, sınırlarını bilmemiz imkansızdır. Aynı şekilde, belirli bir teknoloji sihir kadar büyülü hale gelirse, o zaman ne tür bir tahmin yorumu olursa olsun, artık doğrulanamaz.
Aynı zamanda bu, genel yapay zeka konusunda başkalarıyla tartışırken sıklıkla karşılaştığım bir sorundur. Bu teknolojinin ne kadar etkili olduğunu bilmediğimi söyleyerek, insanların genel yapay zekaya dikkat etmesi, hatta korkması gerektiğini söylediler. Ama bence bu hiç de bir argüman değil, ne de olsa, var olup olmayacağını bile bilmiyoruz. Tabii ki, ben şahsen var olduğunu düşünme eğilimindeyim, uzun yıllardır robotik ve yapay zeka araştırmalarıyla uğraşmamın motivasyonu ve nedeni bu. Ancak günümüzde genel yapay zeka araştırmaları pek sorunsuz ilerlemiyor. Gördüğüm neredeyse tüm kanıtlar, insanların genel yapay zekayı nasıl düzgün bir şekilde geliştireceklerini bilmediklerini gösteriyor. Açıkça söylemek gerekirse, onun hakkında hiçbir şey bilmiyoruz. Öyleyse, benzetme yoluyla, yakında kısıtlanmayacak kadar çok etkiye sahip büyülü bir teknoloji haline gelecektir.
Ama evrendeki her şeyin sınırları olduğunu bilmelisiniz. Dolayısıyla, son tahlilde bu, bilime dayalı bir argüman değil, inanç temelli bir argümandır.
(3) Kafa karıştırıcı performans ve yetenek
Genellikle, belirli bir görevi tamamlarken benzer performansla başka görevleri yerine getirebilmesi gerektiği sonucuna varmak için birinin performansını kullanırız. Örneğin, garip bir şehirde yol tarifi sorarsanız, diğer kişi güvenle cevap verirse, otobüse binmek için nasıl ödeme yapacağınızı da söyleyebileceğini kabul edersiniz.
Örneğin şu anda bir fotoğraf varsa, birisi parkta frizbi çalıyor. Sonra, onu gördükten sonra, doğal olarak Frizbiyi anladıklarını düşünecek ve şu sorulara cevap verebileceklerini göreceksiniz: Birincisi, Frizbinin şekli nedir? İkincisi, Frizbi oynarken genellikle ne kadar durursunuz? Üçüncüsü, aynı anda en fazla kaç kişi Frizbi oynayabilir? Dördüncüsü, bugünün hava koşulları Frizbi oynamak için uygun mu?
Evet, bilgisayar resimleri gerçekten "parkta frizbi oynamak" gibi işaretleyebilir, ancak yukarıdaki sorulara özel cevaplar veremez. Sadece bu da değil, insana ne denilebileceğini hiç bilmiyorlar, parkların genellikle açık havada olduğunu bilmiyorlar ve fotoğrafların etkilerinin bir dereceye kadar hava şartlarına göre belirlendiğini bilmiyorlar.
Ama öyle olsa bile, bu sistemler hala çok kullanışlıdır. Arama motorları için daha fazla değer getirebilirler. Peki sorun nedir? İnsanlar, belirli robotların veya yapay zeka sistemlerinin belirli görevleri tamamlayabileceğini öğrendikten sonra, daha önce gördükleri belirli performansları sabit bir yetenek olarak özetleyebileceklerini ve bu robotların ve Yapay zeka sistemleri, diğer farklı görevleri de tamamlama yeteneğine sahiptir.
Ama aslında günümüzde robotların ve yapay zeka sistemlerinin uygulama yelpazesi çok dar. İnsanoğlunun bilinçaltında yaptığı çıkarımlar ve indüksiyonlar tamamen uygulanamaz.
(dört) " Bavul kelime " Daha fazla anlam, doğru anlaşılması zor
MIT Yapay Zeka Laboratuvarı'nın kurucu ortağı Marvin Minsky, bir zamanlar daha fazla anlama sahip kelimeleri "bagaj kelimeleri" olarak tanımladı. Bunlar arasında, "öğrenme", birçok farklı öğrenme deneyimini temsil edebilen çok tipik bir çanta kelimedir. Örneğin, yemek çubuklarının nasıl kullanılacağını öğrenmek ve yeni bir şarkının nasıl söyleneceğini öğrenmek çok farklı bir deneyimdir.
Bu nedenle, insanlar makine öğreniminin bazı yeni alanlarda büyük ilerleme kaydettiğini duyduğunda, insanların da bu yeni alanları anlamak için aynı zihinsel modeli kullanabileceğini düşünmek kolaydır. Ama aslında makine öğrenimi çok kırılgandır. Peki kırılganlık nedir? Bu teknolojinin sorunsuz uygulanması nedeniyle, araştırmacıların ve mühendislerin önceden yeterli hazırlıkları yapmaları gerekir. Ek olarak, amaç tanımlı bir programlama kodu ve eğitim veri setinin yanı sıra her yeni problem için tasarlanmış kişiselleştirilmiş bir öğrenme yapısına ihtiyaç vardır. Bu aşamadaki makine öğrenimi, insanların eskiden yaptığı "sünger" öğrenme modeli değildir. Dolayısıyla, bazı değişiklikler yapmak için inisiyatif almazsanız veya amacınız konusunda net değilseniz, yeni alanlarda hızlı bir şekilde ilerleme kaydetmek zor olacaktır.
Benzer şekilde, insanlar bilgisayarların dünya satranç şampiyonunu (1997) veya dünyanın en iyi Go oyuncularını (2016) yenebileceğini duyduklarında, bilgisayarların satranç oynadığını veya kazanmanın, insanlarla satranç oynamanın veya kazanmanın yolu olduğunu düşünmek kolaydır. Yöntemler benzer veya hatta aynıdır. Tabii ki, gerçek hayatta, bu kod programları gerçek satranç oyununun ne olduğunu veya hatta satranç oynayıp oynamadığını bilmiyor. Oyundaki değişikliklere uyum sağlama yetenekleri insanlardan çok daha kötü. Çünkü gerçek oyuncular satranç oynuyorlarsa, kurallardaki küçük değişikliklerin çok fazla olumsuz etkisi olmayacak ve değişikliklere uyum sağlayabilecekler. Ancak şu ana kadar ne AlphaGo ne de Deep Blue bunu yapamaz.
Bagaj kelimeleri, insanları yanlışlıkla makinelerin insanların mükemmel bir şekilde tamamlamak istediği görevleri başarabileceğine inandırır. Bu yanıltıcı olgunun nedenlerine gelince, bazıları yapay zeka araştırmacıları ve hatta kurumsal haber ofisleri, yapay zekanın ilerlemesini ve başarılarını dış dünyaya göstermeye hevesli. Bu sayede birçok detay kaybolacaktır. Haber manşetleri, insanların yapay zekanın gelişme durumu ve ilerleyişi hakkındaki anlayışını çarpıttı ve gelecekteki gelişme olanaklarını abarttı.
(5) Çok fazla " endeks artışı "
Gerçek hayatta birçok insan "üstel büyüme" sorunundan rahatsızdır. Muhtemelen herkes Moore Yasasını biliyor, bu da gelecekte bilgisayarların bir saat gibi son derece düzenli ve hassas bir şekilde mükemmelleştirileceği ve optimize edileceği anlamına geliyor. Ama aslında Gordon Moore, başlangıçta mikroçiplere uygun parça sayısının gelecekte her yıl ikiye katlanacağını belirtmek istemişti. Sonraki 50 yılda mikroçiplerin gelişimi de bu cümleyi başarıyla doğruladı.
Mikroçiplere uygun bileşen sayısının ikiye katlanması, bilgisayarların hızını ikiye katlamaya devam etti ve bellek yongalarının kapasitesi de her iki yılda bir dört kez artırılacak. Sadece bu değil, aynı zamanda dijital kameraların çözünürlüğünü artıracak ve LCD ekranın piksel sayısının katlanarak artmasına izin verecek.
Üstel büyüme problemlerinden rahatsız olanlar için, belirli bir argümanı yargılamak için kullanılan endeks değerinin hızla artmaya devam edeceğini düşünebilirler. Ancak ne yazık ki Moore Yasası ve diğer bazı üs yasaları iyi çalışmayabilir, bu nedenle sürekli hızlı artış gerçekleşmeyebilir.
On yılların başlarında, MIT Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı'nın (CSAIL) başındaydım ve 90'dan fazla farklı araştırma grubunun fon toplamasına yardım etmem gerekiyordu. O zaman, sponsora teknolojinin gelecekte de hızla değişmeye devam edeceğini anlatmak için iPod'daki bellek artışını kullandım. İşte iPod üzerinden son birkaç yıl içinde 400 dolara satın alınabilen müzik depolama alanı:
2002: 10 GB
2003: 20 GB
2004: 40 GB
2006: 80 GB
2007: 160 GB
Benzetme yaparsak, şimdi bir iPod'da 160.000 GB depolama alanını 400 dolara satın alabilmeliyiz. Peki ya gerçeklik? 400 ABD Dolarından daha pahalı olan iPhone'lar yalnızca 256GB depolama alanına sahiptir. Diğer bir deyişle, belirli kısıtlamalarla karşılaşılırsa veya desteklenecek daha fazla ekonomik ilke yoksa, o zaman üstel büyüme artık geçerli değildir.
Benzer şekilde, derin öğrenmenin başarısı sayesinde, yapay zeka sistemlerinin son zamanlardaki performansı büyük ölçüde iyileştirildi. Birçok kişi bu cümleyi duyduğunda bilinçaltında yapay zeka performansının gelecekte de belirli kurallara göre geliştirilmeye devam edeceğine inanabilir. Aslında derin öğrenmenin başarılı olması 30 yıla kadar sürdü ve bu sadece münferit bir olay.
Elbette bu, gelecekte daha fazla münferit olay olmayacağı anlamına gelmez. Belki de yapay zeka araştırmacılarının çabaları ile bu yapay zeka uygulamaları hızlı ve önemli bir gelişme sağlayabilir. Kısacası, tek bir cümleyle bu konuda doğru bir öngörüde bulunamayız ve bu olayların sıklığını açıkça gösterebilecek bir kural veya kanun yoktur.
(6) Hollywood sahnesi
Hollywood bilim kurgu filmleri genellikle öyle bir olay örgüsüne sahiptir ki, dünya yeni değişkenler ortaya çıkmadan önce olduğu gibi kalır.
"The Robot Butler" filminde robot uşağın kahvaltısını yapmak için sahibini beklediği bir sahne var. Ev sahibi, kahvaltısını yerken gazeteyi okur ve bunun Amazon Echo'da ne tablet ne de podcast değil, basılı sıradan bir gazete olduğuna dikkat çeker.
Yani pek çok yapay zeka araştırmacısı ve akademisyeni, özellikle karamsar bir tavır sergileyenler, gelecekte yapay zekanın kontrolden çıkacağına ve hatta insan hayatını tehdit edebileceğine inanmasına rağmen, aslında bunlar Bu onların hayal gücü. Sonunda böyle akıllı cihazlar geliştirebilirsek tüm dünyanın büyük ölçüde değişeceği gerçeğini görmezden geliyorlar. Bu süper zekanın varlığına aniden şaşırmamalıyız. Teknik bir bakış açısından, zaman içinde yavaş yavaş gelişecekler. İnsanları değiştirmeye ve tehdit etmeye çalışan süper zekayı düşünmeden önce, daha az agresif ve daha az zeki olan makineleri düşünebiliriz. Ondan önce düzgün ve can sıkıcı olmayan beceriksiz makineleri düşünebiliriz. Kısacası, içinde yaşadığımız ve yaşadığımız dünyayı kademeli olarak değiştireceğiz, yeni teknolojilere ve içinde yaşadığımız çevreye sürekli uyum sağlayacak ve adapte olacağız. Burada zorluk olmadığını söylemiyorum, ancak çoğu insanın düşündüğü gibi beklenmedik zorluklar olmayacağını unutmayın.
(7) Yazılım sistemlerinin ve donanım tesislerinin dağıtım hızı
Bazı sektörlerde, yazılımın yeni sürümlerinin kullanım sıklığı oldukça yüksektir. Facebook gibi platformlar neredeyse her saat bazı yeni özellikler yayınlıyor. Diğer birçok yeni işlevde olduğu gibi, entegrasyon testini geçtikleri sürece, orijinal sürüm, bir sorun oluşur oluşmaz değişiklik ve güncelleme için geri çekilmelidir. Bu, Silikon Vadisi'nin ve web yazılım geliştiricilerin alışkın olduğu şeyleri yapma ritmi. Bu ritmin herkes tarafından benimsenmesinin ve kabul edilmesinin nedeni, temel olarak yeni kod dağıtmanın marjinal maliyetinin neredeyse sıfır olmasıdır.
Bununla birlikte, diğer yandan, yepyeni bir donanımın dağıtımının önemli ve hatta önemli marjinal maliyetleri olabilir. Gerçek hayatta böyle pek çok vaka var. Örneğin, şu anda satın aldığımız arabaların çoğu otonom değil, tamamen yazılım sistemleri tarafından kontrol edilemiyor ... Belki 2040 yılına kadar hala yolda olacaklar. Dolayısıyla bu bizi zor bir soruna getiriyor, yani yoldaki tüm arabalar ne zaman sürücüsüz arabalara dönüşecek?
Maliyet sorunları nedeniyle, donanım cihazlarının devreye alınması ve güncellenmesi uzun zaman alıyor. Bazı fabrikalarda onlarca yıldır "yetenekli" olan masaüstü bilgisayarları sık sık görebiliyorum ve hala 1990'da piyasaya sürülen Windows 3.0 sistemini kullanıyorum. Fabrikanın fikri, kırılmadıkları sürece asla tamir edilmeyecekleridir. 20 yıldan fazla bir süredir, bu bilgisayarlar ve yazılımları aynı uygulamayı çalıştırıyor, aynı görevi tamamlıyor ve son derece güvenilir.
Amerika Birleşik Devletleri, Avrupa ve Çin dahil olmak üzere çeşitli ülkelerdeki fabrikalar tarafından benimsenen en önemli kontrol mekanizması, programlanabilir bir mantık denetleyicisine (yani, Programlanabilir Mantık Denetleyicisi, kısaca PLC) dayanmaktadır. Bu kontrolör 1968'de tanıtıldı ve esas olarak elektromekanik rölelerin yerini almak için kullanıldı. Fabrikanın bilgi akışını veya kontrol akışını değiştirmesi gerekiyorsa, çeşitli konfigürasyonları ayrıntılı olarak değerlendirmek ve yeniden tasarlamak en az birkaç hafta sürecektir. Ek olarak, donanımı yeniden konuşlandırmak için çok sayıda insan kaynağına yatırım yapılması gerekiyor.
Pek çok yapay zeka araştırmacısı, artık dijital bir dünyada yaşadığımıza inanıyor, bu nedenle yeni yapay zeka sistemi, en kısa sürede hayatın her alanında muazzam değişiklikler getirecek. Ancak durum böyle değil, robotlar ve yapay zeka ile ilgili hemen hemen tüm yeniliklerin, yabancıların hayal gücünün çok ötesinde yaygın bir popülerliğe ulaşması biraz zaman alacak.
Bu makale Lieyun.com'dandır, yeniden basıldıysa lütfen kaynağı belirtin:
