Yapay zekanın insanlara şiddetle saldırmasından mı endişeleniyorsunuz? Uzman: Robotların dünyayı fethetmek için küstah bir arzusu yok
Editörün Notu : AI daha akıllı hale geliyor mu? Go'nun "İnsan-makine Dünya Savaşı" nda, yapay zeka programı AlphaGo, Go'nun dünya şampiyonu Lee Sedol'u yendi. "Yapay zeka çağı geliyor" sesi, ister bilgisayarların insan beyninin yerini alması, ister AI dünyayı yönetmesi olsun, belli bir ölçüde paniğe neden oldu. Öngörülebilir gelecekte zaten var gibi görünüyor. 2020 Dünya Yapay Zeka Konferansı'nın konuk konuşmacısı Gary Marcus, bu konuda farklı bir anlayışa sahip.Yeni kitabında, yapay zekanın derinlemesine anlama ve öğrenme yeteneklerini tartışmak için yapay zekanın geleceği için bir yol haritası dikkatle çizildi. .
Dünyayı fethetmek için, bir robotun önce böyle bir arzusu, saldırgan, hırslı ve asla tatmin olmayan bir karakteri ve şiddet eğilimi olması gerekir. Şimdiye kadar gördüğümüz robotların hiçbiri ona dokunmadı.
Robotların insanlara karşı bilimkurgu tarzında bir ayaklanma başlatacağını düşünmek için hiçbir nedenimiz yok. AI'nın 60 yıllık gelişiminde, AI'daki en küçük kötü niyetli kişiyi fark etmedik. AI, topraklara, mülke, kazananın kral olma gücüne veya insanlık tarihinde tartışılan herhangi bir kaynak veya menfaatle ilgilenmez. AI erkeklik hormonlarıyla dolu değildir ve dünyayı fethetmek için küstah bir arzusu yoktur. Yapay zeka, kuyunun dışında daha büyük bir dünya olduğunu fark etmeden, kuyunun dibindeki kurbağa gibi en iyi ihtimalle inek ve aptal bir uzmandır, yalnızca içinde bulunduğu küçük daireye odaklanır.
Örnek olarak Go'yu ele alalım. Go'nun özü, bölge için rekabet etmektir. Go oynayabilen AI, temelde bugün dünyayı fethetmek için en güçlü yeteneğe sahip AI'dır. 1970'lerde bilgisayar Go programının seviyesi çok düşüktü ve küçük bir seviyeye sahip bir insan oyuncu onu kolayca yenebilirdi. O sırada bilgisayar, insanlarla oyun oynamaya çalıştığına dair herhangi bir işaret göstermedi. Şimdi, Go programının becerileri o kadar mükemmel hale geldi ki, en iyi insan oyuncular bile buna dayanamıyor. Ancak bilgisayarlar, insan programcıları hayvanat bahçelerindeki kafeslere koymak bir yana, insan topraklarını fethetmekle ilgilenmiyor. Satranç tahtasında olmadığı sürece ilgilenmiyorlar.
"Go panosunun dışında başka ilginç şeyler var mı" sorusuyla ilgili olarak, AlphaGo hiç umursamıyor, "İnsan ustalarım tüm gün Go oynamama izin veriyorlar ve başka bir şey yapmama izin vermiyorlar. Bu adil mi? "Böyle sorular.
Satranç tahtasının dışında, AlphaGo'nun hayatı veya merakı yoktur. Go'nun satranç taşları olarak taşlarla oynandığını veya satranç tahtasının dışında başka şeyler olduğunu bile bilmiyor. Fişe takılması gereken bir bilgisayar olduğunu ya da rakibinin yemek yemeye ihtiyacı olan bir insan olduğunu bilmiyor. Geçmişte pek çok Go oyunu oynadığını hatırlamıyor, gelecekte daha fazla Go oyunu oynayacağını da öngörmüyor. Bir satranç oyunu kazanmak mutlu olmayacak ve bir satranç oyunu kaybetmeyecek. Go'da inanılmaz bir ilerleme kaydetti ve gurur duymayacak.
Gerçek dünyada, insanların ilerlemesi için gereken itici güç makinelerde yoktur. Algoritmaya gerçekten biraz insanlık tasvir etmek istiyorsanız (burada söylemek için bir neden yok), AlphaGo'nun şu anda yaptığı şeyden çok memnun olduğunu ve başka şeyler için hiç arzusu olmadığını söyleyebilirsiniz.
Tıbbi teşhis, reklam tavsiyesi, navigasyon veya diğer alanlarda yapay zeka için yukarıdaki mantığı ödünç alabiliriz. En azından mevcut uygulama senaryosunda, makine yalnızca programda belirtilen işi yapacaktır, başka hiçbir şey yapmayacaktır. Bu durumu devam ettirebildiğimiz sürece bilim kurguda hayal edilen sahneler için endişelenmenize gerek yok.
Şu anda robotlar, dünyada yürümek için gereken bilgeliğe veya el becerisine henüz sahip değiller ve yalnızca dikkatlice kontrol edilen bir ortamda çalışabilirler. Robotların insanlara karşı bilimkurgu tarzında bir ayaklanma başlatacağını düşünmek için hiçbir nedenimiz yok.
En azından öngörülebilir gelecekte böyle bir durum olmayacak.
Henüz çözülmemiş bir sorun, makinelerin insan tonlarıyla ve hatta belirsiz ifadelerle karşı karşıya kaldıklarında insan niyetlerini doğru bir şekilde tahmin edebilmeleri gerektiğidir. Bir yanda "kafası karışmış hizmetçiler" dediğimiz bir sorun var. "Kafası karışmış bir hizmetçi", bir çocuk resimli kitabında anlatılan bir hizmetçidir ve sadece sahibinin talimatlarının gerçek anlamını takip edecektir. Sabah dışarı çıkmadan önce temizlik robotuna "Dolaptaki oturma odasından eşyaları al" dediğinizi ve eve gittiğinizde oturma odasındaki her şeyin aslında dolaba konduğunu ve içine koyabilmek için, Robot ayrıca televizyonu, mobilyayı ve halıyı küçük parçalara ayırmak için hiçbir çabadan kaçınmadı.
23 Mart 2016'da Microsoft heyecanla Tay adında yeni bir chatbot yayınladı. Eliza adlı orijinal sohbet robotu gibi Tay, tüm içeriği önceden manuel olarak önceden ayarlamadı, ancak kullanıcılarla etkileşime girerken yavaş yavaş öğrenmeye ve geliştirmeye devam etti. Microsoft daha önce Çin'de büyük başarı elde eden "Xiaobing" adlı Çinli bir chatbot yayınladı. Sonuç olarak Microsoft, Tay'den de yüksek beklentiler oluşturdu.
Ancak bir gün içinde proje aceleyle durduruldu. Bir grup kötü niyetli kullanıcı nedeniyle Tay, kasıtlı olarak Tay'den ırkçılık, cinsiyetçilik ve anti-Semitizm hakkındaki öfkeli sözleri öğrenmesini istedi. Masum Tay iyi bir iş çıkardı ve çirkin bir şekilde tweet attı.
İnternetin başka yerlerinde de irili ufaklı çeşitli sorunlar vardır. Amazon'un dil asistanı Alexa, kullanıcının saçını ürkütücü hale getirerek aniden uyarıda bulunmadan güler. İPhoneun yüz tanıma sistemi anne ve oğulların kafasını karıştırıyor. Bir de "bir bok yığınının neden olduğu kanlı bir vaka" var - süpürme robotu bir bok yığınının yanından geçerken bir ressama dönüşecek, bu "boya" yığınına dalacak ve zemininizin geçip çıkabileceği her yerde bir resim çizecek Jackson Pollock tarzında soyut çizgi çizme.
Sağduyu, insanların genel olarak ustalaştığı bilgidir, yani sıradan insanların sahip olduğu temel bilgilerdir, örneğin "insanlar parasını kaybetmek istemezler", "cüzdana para koyabiliriz", "cüzdanı cebe koyabiliriz", "bıçak Bir şeyleri kesmek için kullanılır ve eşyaların üzerine bir battaniye koymak, bir şeyleri ortadan kaldırmaz . Fil taşıyan bir köpeğin ya da sandalyenin televizyona dönüştüğünü görürsek şaşırırız.
Sağduyunun en büyük ironisi, aslında YZ'nin de en büyük ironisidir: Sağduyu herkes tarafından anlaşılıyor, ancak kimse sağduyunun ne olduğunu ve sağduyu ile bir makinenin nasıl yapılacağını tam olarak bilmiyor gibi görünüyor.
Yapay zekanın ne tür bir bilgiye sahip olması gerektiğini saymak ve tanımlamak için anlamsal ağ kavramını tanıtmalıyız. Bunun gibi anlamsal bir ağ hayal edin.Bir bakışta sorun yok: Michael Jordan 1.98 metre boyunda, Brooklyn'de doğdu, vb. Bununla birlikte, derinlemesine gözlem, sistem sadece resimdeki içeriği biliyorsa ve diğer her şeyi bilmiyorsa, her türlü aptalca hatayı yapmanın kolay olduğunu ortaya çıkaracaktır. Sistem, Michael Jordan'ın doğumda 1.98 metre olduğunu veya Ürdün'ün aynı anda Wizards ve Bulls için oynadığını düşünebilir. "Basketbol oynamak" terimi, hem kariyeri hem de şimdiye kadar çocukken basketbolla ilk teması anlamına gelebilir (şimdi ara sıra eğlence amaçlı arkadaşlarıyla basketbol oynadığını varsayarsak).
Sisteme Ürdün'ün 1970'ten günümüze basketbol oynadığını söylersek, 7 yaşında oynamaya başladığını ve bugüne kadar devam ettiğini varsayarsak, sistem yanlışlıkla Ürdün'ün son 48 yılda günde 24 saat 365 yıl oynadığına inanmalıdır. Durmadan basketbol oynamak.
Bilgisayarların yeterince akıllı olmamasının gerçek nedeni, dünyanın nasıl çalıştığına dair temel bir anlayışa sahip olmamalarıdır. Ne yazık ki sağduyuya hakim olmak insanların düşündüğünden çok daha zordur.
Kısa vadeli çözüm, kendi yaptığımız yapay zekayı sınırlamak, yapay zekanın ciddi sonuçları olabilecek herhangi bir şeyi yapmasının imkansız olmasını sağlamak ve bulduğumuz her hatayı düzeltmektir.
Ancak uzun vadede, hatta kısa vadede bu sorunu çözmeyecektir. Kapsamlı çözümler sunmak yerine genellikle baş ağrılarını ve ayakları tedavi ediyoruz. Bu kaostan kurtulmanın tek yolu, sağduyu, bilişsel modeller ve güçlü akıl yürütme araçlarıyla makineler üretmeye başlamaktır. Yukarıdaki yetenekleri bir tanede birleştirmek, kendi davranışının sonuçlarını güvenilir bir şekilde tahmin edebilen ve değerlendirebilen bir makine inşa etmek için kendi başına bir ön koşul olan derin bir anlayış oluşturabilir. Ancak tüm endüstri dikkatini istatistiksel simülasyondan ve büyük verilere ciddi ve yüzeysel güveninden ayırdığında, bu büyük girişim resmi olarak başlatılabilir. Riskli yapay zekayı iyileştirmek için daha iyi yapay zeka kullanmalıyız ve daha iyi yapay zekaya giden güneşli yol, dünyayı gerçek anlamda anlayan yapay zeka yaratmaktır.
Güvenilir YZ, yani akıl yürütmeye, sağduyu değerlerine ve iyi mühendislik uygulamalarına dayalı yapay zeka, ister 10 ister yüz yıl sonra ortaya çıksın, bir gün gerçekleştirilebilirse, kesinlikle büyük bir değişiklik getirecektir.
Ancak, hiç kimse gelecekteki tüm dalları tahmin etme yeteneğine sahip olduğunu iddia edemez. 1982 yapımı "Blade Runner" filminde, gelişmiş yapay zeka klonları dünyanın her yerinde bulunuyor ve insanlardan neredeyse ayırt edilemez görünüyorlar. Ancak kritik bir anda, Harrison Ford'un canlandırdığı Rick Dika, bir arama yapmak için bir telefonun önünde durdu. Gerçek dünyada, ankesörlü telefonları cep telefonlarıyla değiştirmek, insan seviyesinde yapay zeka oluşturmaktan çok daha kolay, ancak film ekibinden hiç kimse bu çağın sorunlarını tahmin etmedi. Hızlı teknolojik ilerleme hakkındaki herhangi bir tahminde, ister bizim tarafımızdan ister başkaları tarafından yapılmış olsun, bazı çok bariz sapmalar olması kaçınılmazdır.
Thales, MÖ 600'de "elektrik" üzerine çalışmaya başladığında, olağanüstü bir şey keşfettiğini biliyordu, ancak o zamanki koşullar bu şeyin tam amacını tahmin edemiyordu. Elektriğin bir gün sosyal ağların gelişimini tetikleyeceğini ve akıllı saatler ve Wikipedia gibi büyülü şeyleri doğuracağını kesinlikle hayal edemezdi. Bu açıdan bakıldığında, yapay zekanın gelecekteki gelişim trendini ya da yapay zekanın bin yıl, hatta 500 yıl sonra tüm dünya üzerindeki etkisini tahmin etmek istiyorsanız, gerçekten kibirli.
Yapay zekanın sürekli gelişim sürecinde olduğunu bildiğimizden, bundan sonra olacak her şeyin güvenli, inanılır ve güvenilir olmasını ve rehberliğimiz altında olmasını sağlamak için elimizden gelenin en iyisini yapmalıyız. Ardından, yapay zekanın mümkün olduğunca tüm insanlığa yardım etmesine izin verin.
Alıntıdır "
Editör: Xu Yang
Sorumlu editör: Wei Zhong
