[Demir Adam Öfkeli] Musk Harvard Üniversitesi Profesörü: Genel yapay zeka hakkında hiçbir şey bilmiyorsunuz
Xinzhiyuan Raporu
Kaynak: Fortune, Wired
Yazar: Zhang Qian, Xiao Qin
Xin Zhiyuan Rehberi Son zamanlarda Harvard Üniversitesi profesörü Steven Pinker, Musk'ı yapay zekanın insanları otonom sürüş yaparken tehdit edeceğini iddia etmekle suçladı ki bu bir çelişki. Musk, Twitter üzerinden havadan yanıt verdi: Pinker, genel yapay zeka tehdidini ve dar yapay zekayı anlamıyor. Çoğu insan da "siyah veya beyaz" önyargılıdır. Ek olarak, eski Google CEO'su Schmidt de en azından önümüzdeki on yıl içinde makinelerin insanları köleleştiremeyeceğine veya ortadan kaldıramayacağına inanıyor.
Dünyada çok fazla siyah beyaz şey yok.
Musk, L5 otonom sürüşü yaparken yapay zekanın bir insan tehdidi olduğunu söylüyor ve birçok kişi onun yaklaşımının tutarsız olduğunu düşünüyor. Son zamanlarda, Harvard Üniversitesi profesörü Steven Pinker atlayıp Musk'ı suçlayan kişi oldu. Pinker bir zamanlar "Times" tarafından "Şu Anki En Etkili 100 Kişi" arasında listelenmiştir ve önemli bir üne sahiptir.
Ancak "Iron Man" Musk bir vejeteryan değil, Twitter'da bir mesaj bıraktı: Pinker bile işlevsel / dar yapay zeka (kendi kendine giden arabalar gibi) ile genel yapay zeka arasındaki farkı bilmiyorsa ... insan Büyük bir sorun var. "
Musk, Harvard profesörünü kızdırdı: yapay zekayı anlamayın
"Elon Musk yapay zeka tehdidini gerçekten ciddiye alırsa, bu sürücüsüz arabaları üretmeyi bırakacak. Bu göreceğimiz ilk gelişmiş yapay zeka." Pinker at Wired'da geçen ayın 24'ünde Dergide söyledi. Şu anda Tesla Motors, L5'i tamamen sürücüsüz olarak desteklediğini iddia ediyor, ancak ilgili yazılım henüz yükseltilmedi.
Steven Pinker
Pinker, Harvard Üniversitesi'nde bir profesör ve Ulusal Bilimler Akademisi'nde bir akademisyen olan Pinker, iki kez Pulitzer Ödülü'ne aday gösterildi, 9 fahri doktora kazandı ve Zamana Göre "Şu Anki En Etkili 100 Kişi" arasında yer aldı. Ayrıca Wired dergisinde, Ayrıca, son derece gelişmiş uzaylı uygarlıklarının barışçıl ve hoşgörülü olma eğiliminde olduğuna, bu nedenle gelişmiş uzaylıların arkadaş canlısı olma ihtimalinin daha yüksek olduğuna inanıyor.
Pinker'ın yarım ay önce söylediği bu sözler o zamanlar çok fazla ilgi görmedi ama heyecanı izlemek çok da büyük değil.İyi haberi olan Twitter netizenleri Pinker'ın Musk'un yorumlarıyla ilgili yorumlarını paylaştı ve manuel olarak @ , tıklayın Oğul, "Demir Adam" ın dikkatini çekti.
"Vay canına, Pinker bile işlevsel / dar yapay zeka (ör. Kendi kendine giden arabalar) ile genel yapay zeka arasındaki farkı bilmiyorsa, ikincisi bilgisayarlardan 1 milyon kat daha fazla işlem gücüne sahipken, insanların başı büyük belada. . "
Açıktır ki Musk, Pinker gibi tanınmış bir bilginin yapay zekayı anlamadığına ve bu büyük profesörde "siyah beyaz" sorununun ortaya çıktığına inanıyor.
Otonom sürüşün gelişimi, genel yapay zekanın gelişimine bir miktar katkı sağlayabilir ve bu da makineleri nasıl eğittiğimiz konusunda kesinlikle etik sorular ortaya çıkaracaktır. Bununla birlikte, Musk'ın da işaret ettiği gibi, tamamen mükemmel bir sürücüsüz araba bile marjinalize etmeyecek veya insanlara zarar vermeyecek.
Musk'ın "siyah beyaz" sorunları: otonom sürüş genel bir yapay zeka değildir
Geçen ay Musk, OpenAI'yi bizzat kurduğu yönetim kurulundan çekildi.
OpenAI, genel yapay zekayı incelemek için açık yöntemler kullanan ve yapay zekanın büyük şirketler tarafından tekeline alınmasını önleyen kar amacı gütmeyen bir araştırma kuruluşudur.Musk, OpenAI'nin en büyük yatırımcılarından biridir.
Resmi olarak Musk'ın geri çekilmesi, gelecekte OpenAI ve Tesla arasında olası bir çıkar çatışmasını önlemek içindir. Haber çıkar çıkmaz birçok kişi Musk'ın artık yapay zekanın insanlar için bir tehdit olmadığını düşündüğüne ve Tesla'nın L5'ini tam olarak tanıttığına inanıyordu.
Ve bu sefer Musk, Harvard Üniversitesi profesörü Pinker'ı kızdırdı, Bu "siyah beyaz" görüşe bir yanıt olarak da görülebilir. Aslında Musk, OpenAI'den tamamen vazgeçmedi. O hala bir OpenAI bağışçısı ve takıma tavsiyelerde bulunmaya devam edecek.
Buna ek olarak Musk, yapay zekanın tehlikeleri konusunda sık sık bunların silahları kontrol etmek veya küresel çatışmaları tetiklemek için bilgileri manipüle etmek için kullanılabileceği konusunda uyardı. Fizikçiler Hawking ve Bill Gates de benzer bir şekilde, yapay zekanın biyolojik zekamızı aştığında insanları "değiştirebileceği" konusunda uyardılar.
Ancak bu endişeler, sistem tüm insan kararlarını kopyalayabilen sözde "genel amaçlı" yapay zeka (AGI) ile ilgilidir. Ancak Tesla'nın Otopilot, AlphaGo ve Facebook'un haber akışı algoritması gibi sistemler, Musk'ın sözleriyle işlevsel / dar yapay zekadır.İkisi tamamen farklıdır.Küçük AI sistemi, ayrı bir görevi yerine getirmek için tasarlanmıştır.
Yapay zeka insanlığı ne kadar süreyle "yönetiyor"? Eski Google CEO'su: En az bir ya da yirmi yıl kaldı
Dar yapay zeka insanlar için bir tehdit oluşturmasa da Musk ve diğerlerinin genel yapay zeka konusundaki endişeleri temelsiz değil, ancak kaç yıl sonra genel yapay zekanın insanlar için bir tehdit haline geleceği konusunda kesin bir açıklama yok.
Birkaç gün önce, eski Google CEO'su Eric Schmidt, Münih Güvenlik Konferansı'nda yaptığı bir konuşmada, en azından önümüzdeki on yıl içinde robotların insanları köleleştiremeyeceğini veya ortadan kaldıramayacağını söyledi. Dedi ki:
"Herkes film tarzı kıyamet sahneleri hakkında konuşmayı sever, ancak bu tür sahnelerin bizden en az on ya da yirmi yıl uzakta olduğunu güvenle tahmin edebilirim. Bu yüzden endişelenebiliriz, ancak bu gelecekte uzun bir zaman olacak."
Eski Google CEO'su Eric Schmidt
Schmidt'in sözleri pek rahatlatıcı değildi.
Son yıllarda, yapay zeka ve robotik teknolojisinin hızlı gelişimi tartışma kapsamını genişletti. Bir nesil bilimkurgu filmlerinde büyüdü.Filmler robotların ayaklanmasını anlatıyor.Robotların geleceğini düşündüğümüzde bu sahnelerin tam olarak hayal ettiğimiz gibi olduğu neredeyse kesindir.
Bu elbette makul, ancak olası değil. Schmidt şöyle devam etti:
"Bir başka nokta, herkese bu teknolojilerin kendilerinin de ciddi hataları olduğunu ve hayati önem taşıyan kararlar için kullanılmaması gerektiğini hatırlatmak istiyorum. Bu nedenle, uçuşla ilgili tüm kararların bir bilgisayarın sorumlu olduğu bir uçakta oturmak istemiyorum. Bu Bu teknoloji yeterince güvenilir değil - kullanımında çok fazla hata var. Önerebilir, sizi daha akıllı yapar ve benzeri şeyler, ancak komuta ve kontrolden sorumlu olmasına izin vermeyeceğim. "
Son cümle anahtardır.
Araştırmacılar çok nettir (sıradan insanların çoğu öyle düşünmese de), AI insanların yerini almaya uygun değildir, çünkü bu insanları geliştirmek içindir. İnsan beyni çok karmaşık. Genel olarak konuşursak, 40 yaşındakiler Wikipedia'yı hatırlayamazlar ve en güçlü poker oyuncularını yenemezler, ancak tipik robotlar, insanların iyi olduğu basit doğaçlamalarla başa çıkamazlar.
Ama aslında, yapay zeka ve robotların iyi olduğu işlerin çoğu beceri gerektirmeyen, basit ve tekrarlanabilir hedefler, bu hedeflerin tanımlanması ve ölçülmesi kolaydır. Robotlar doğaçlama yapmakta iyi değildir; Bir arıza durumunda makineleri kapatmak için giderek daha fazla hata önleyici tedbirler içermesi gereken net bir kurallar dizisine ihtiyaçları vardır.
Bu teknolojiler gelişmeye devam edecek olsa da, algı henüz ortaya çıkmayacak. Bir robot tehlikeli olarak programlanacaksa, tehlikeli olarak programlanmalıdır. Yani robotlar için endişelenmemeliyiz, kodu yazmaktan sorumlu kişiler.
