"Westworld" ün ilk sezonunun sonu: Yapay zeka bilinçli olabilir mi? Bir robotun "beyni" nasıl tasarlanır?
1 Xinzhiyuan derlemesi
"Inception" yönetmeni Christopher Nolan'ın küçük kardeşi Jonathan Nolan tarafından yönetilen ve tanınmış bir TV dizisi yapımcısı olan HBO'nun yatırım yaptığı bu yeni drama, yayınlanmasından bu yana toplam 9,2 IMDb puanıyla büyük ilgi gördü. Son tarih istatistiklerine göre bu sezonun son bölümü için izleyici sayısı 2,2 milyonu buluyor. Her platformdaki toplam izleyici sayısının 12 milyona ulaşacağı tahmin edilmektedir (yalnızca ABD). Reytingler "Game of Thrones" u bile geçti.
HBO'nun "Batı Dünyası" yayını, kamuoyunun dikkatini "güçlü yapay zeka" ya çekmiştir. "Westworld" i izlemediyseniz, kısaca tanıtmama izin verin: "Westworld" ün hikayesi, geleceğin dünyasında geçiyor. Devasa bir yüksek teknoloji tema parkında, çevre Amerika Birleşik Devletleri'nin batı vahşi doğasına benziyor. Turistler, antropomorfik robot "resepsiyonistin" ziyaretçilerin hoşgörü ve şiddet gibi arzulara kapılmalarına izin verdiği bu tema parkına gelmek için çok para harcıyor. Ziyaretçiler robotu öldürebilir ve robot her "öldüğünde" gövdesi temizlenecek, hafıza silinecek ve ardından yeni bir komut dosyası başlatılacaktır.
Yalnızca bir satır kod, robotun insana zarar vermemesini sağlar
"Westworld" serisi, Amerikalı bilim kurgu yazarı ve senarist Michael Crichton'ın aynı adlı filminden uyarlanmıştır. Crichton aynı zamanda "Jurassic Park" ın da senaristidir. Dizi için yarattığı hikaye çizgisi yardımcı olamaz ama izin verir. Seyirci, bilimin gelişmeye devam ettiği bir gelecekte insanların dünyanın kontrolünü elinde tutup tutamayacağını merak etti.
Filmin orijinal versiyonunda robot kötü ama dizinin uyarlamasında robot sempatik ve tartışmasız en insancıl karakter olarak tasvir ediliyor.
Parkın güvenliğiyle ilgili endişeler kısa sürede su yüzüne çıktı. Park, robotu başka kişilerin deneme operasyonlarından veya güvenlik denetiminden geçmeden istediği herhangi bir programda güncelleyebilen bir kişi tarafından denetleniyor. Robot, kötüye kullanımın izlerini kaydedecek. Karakterlerden biri, robotun insanlara zarar vermemesini sağlamak için programda sadece bir satır kod bulunduğundan bahsetti.
Bunlar, gerçek AI güvenliği ile ilgili güncel endişelere değinen, gösteride yer alan birçok sorundan sadece birkaçı: sadece yüksek seviyeli bir AI "kötü ajan" kullanmak kasıtlı olarak insanlara zarar verebilir; yazılımdaki küçük hatalar da Ölümcül kazalara neden olabilir ve kod, insan güvenliğini sağlamak için fazlalık ve sağlamlıktan yoksundur.
Ancak gösterideki güvenlik ve etik sorunların çoğu, robotun otonom bilince sahip olup olmadığına bağlı. Aslında oyunda tartışılan asıl soru ve en zor soru şudur: Bilinç nedir? İnsanlar özerk ajanlar yaratabilir mi? Eğer öyleyse, onları kontrol edebilir miyiz? Cevabı bulmak istiyor muyuz?
Bu problemleri çözmek için Georgia Institute of Technology'de bir AI araştırmacısı olan Mark Riedl ile röportaj yaptım.Araştırma yönü yaratıcı AI ve New York Üniversitesi'nden ünlü "zor bilinç problemini" öne süren Profesör David Chalmers.
AI acı hissedebilir mi?
Önce Riedl'e sorayım, eğer robot ağrı hissetmeye programlanmışsa, robot ne kadar acı hissedebilir? Riedl şunları söyledi: "Öncelikle insanlara, hayvanlara veya antropomorfik robotlara ve yapay zekaya karşı şiddete tahammül edemem." Ardından, insanlarda ve hayvanlarda ağrının "belirli uyaranlardan kaçınmak" için bir uyarı sinyali olduğunu açıkladı.
Ancak, robotlar için " En benzer olanı, tekrarlanan deneme yanılma yoluyla öğrenmeyi gerçekleştiren pekiştirici öğrenme aracıları olabilir. "Yapay zeka, kendilerine özgü davranışlarına göre olumlu veya olumsuz ödüller alacak ve gelecekteki davranışını buna göre ayarlayacak. Riedl, olumsuz ödüllerin" acı hissetmek "gibi değil, daha çok" bir video oyununda puan kaybetmek "olduğuna inanıyor. .
Riedl şunları söyledi: Robotlar ve yapay zeka, insanlara benzer şekilde acıyı ifade edecek şekilde programlanabilir, ancak bu aslında bir yanılsamadır. Bu yanılsamanın nedenlerinden biri, robotların içsel durumlarını anlaşılır bir şekilde anlayabilmeleridir. İnsanlara iletmek ve insanlarda sempati uyandırmak için. "
Riedl, yapay zekanın gerçek acı çekeceğinden endişelenmiyor, robotun hafızası her gece tamamen silinirse, bunun hiçbir şey olmamış gibi olacağını düşünüyor. Ancak olası güvenlik sorunları olduğuna da inanıyor. Takviye öğrenmenin işe yaraması için yapay zekanın olumlu ödüller için optimize edilmesi gerekir. Robotun belleği tamamen silinmemişse - robot başına gelen kötü şeyleri hatırlamaya başlarsa, bu olumsuz ödülleri tetikleyen davranışlardan veya insanlardan kaçınmaya çalışabilir.
Riedl, teoride, bu ajanların önceden plan yapmayı öğrenebileceklerini ve olası en düşük maliyetle olumsuz ödül olasılığını azaltabileceklerini söyledi. Robotlar olumsuz ödüllerden kaçınmanın diğer olası etkilerini anlamazsa, bu aynı zamanda insanların onlara zarar vermesini önlemek için önceden harekete geçtikleri anlamına da gelir.
Ancak Riedl, öngörülebilir gelecekte, insani endişeye neden olması gereken bu yeteneklere sahip robotlar yaratamayacağımızı da belirtti. Ancak bu tür robotlar ortaya çıkarsa, olumsuz ödüllerin neden olduğu sorunlar insanlar için potansiyel bir tehdit olabilir.
AI özerk olabilir mi?
Chalmers'ın farklı bir görüşü var. Chalmers şöyle dedi: "Benim bilinç görüşüm aynı zamanda çoğu insanın bilinç hakkında düşündüğü şeydir - bu insanlar şüphesiz öz-bilinçlidirler. Acı, sorunlar hakkında düşünme vb. Olarak ifade edilebilecek çok zengin bir duygusal deneyime sahipler. Emirlere sadece pasif bir şekilde tepki vermiyorlar, aynı zamanda kendi durumlarını da düşünüyorlar. Muhakeme ediyorlar. Açıkçası, insanların duyguları var. "
Bir robotu neyin bilinçli yaptığını anlamaya çalışmak yerine, robotta neyin eksik olduğunu düşünmelisiniz. En bariz olanı, özgür irade ve hafızadan yoksun olmalarıdır. Bununla birlikte, çoğumuz insanlar da kırılmaz gelenekler içinde yaşıyoruz ve çoğumuzda ciddi hafıza sorunları var, ancak kimse bu insanların ortadan kaldırılması gerektiğini düşünmüyor.
Chalmers geri sordu: "Bu gösteride, bu robotların kötüye kullanım özgürlüğü olduğu düşünülüyor. Bunun nedeni, bu robotların kusurlu olmasından mı yoksa başka nedenlerden mi?"
"Westworld" te tasvir edilen sahne gerçekçi değil, çünkü Chalmers, iki meclisli zihin teorisinin robotlar için bile bilinç getiremeyeceğine inanıyor. "Bir teori olarak bunun umutsuz olduğunu düşünüyorum. Robotların bilinci veya robotların otonom bilinci önceden programlanandan çok daha karmaşık. Robotların kendi fikirlerini doğrudan izlemelerine izin verecek programlama çok daha basit. . "
Her durumda, kötüye kullanılan robotlar, insan güvenliğine kolayca tehdit oluşturabilir. Otonom bilinç olmadan robotlar yaratmak için risk alıyoruz, onlar olumsuz geri bildirimlerden öğreniyorlar; ya da farkında olmadan (ya da örneğin Batı Dünyası durumunda kasıtlı olarak) bilinçli robotlar yaratıyoruz ve sonunda robot istismarı ile karşı karşıya kalacağız. Ve baskı.
Gösterinin ikinci bölümünde bir robot "resepsiyoniste" onun "gerçek" olup olmadığı soruldu ve "Söyleyemiyorsan doğru mu, önemli mi?" Diye cevapladı.
Buluttaki Beyin: "Westworld" deki robot tasarımları kötü mü?
"Westworld" birden fazla zaman çizelgesine sahiptir, ancak öykünün "mevcut" zaman çizelgesi, parkın yaklaşık 35 yıldır var olduğu 21. yüzyılın ortalarından sonlarına kadar olmalıdır. Başka bir deyişle, Batı Dünyası tema parkı "yakın gelecekte" ortaya çıkıyor, bu da en erken "Resepsiyonist" robot (sonraki versiyondan daha mekanik olacak şekilde tasarlandı), mevcut teknolojimizden çok da uzak olmayan bir teknoloji kullanılarak yapıldı.
Masaüstü işlemciler altın çağda her yıl katlanarak büyüdü ve bu altın çağ on yıldan daha önce sona erdi. Böyle bir işlemci, yapay zeka oluşturmak için çok sakıncalıdır, bu nedenle insanlar iki stratejinin bir kombinasyonunu kullanırlar. İlk olarak, bir çevrimiçi hizmet olarak orijinal işleme yetenekleri sağlarken "büyük verileri" toplamak ve işlemek için büyük ölçekli bir sunucu merkezi kurun. İkincisi, büyük verileri işlemek için özel grafik yongaları kullanın ve genel amaçlı işlemcilerden daha iyi performansa sahip oldukları ortaya çıkıyor.
Bu süre zarfında tüketiciler masaüstü bilgisayarlardan mobil cihazlara veya dizüstü bilgisayarlara geçtiler. Bu cihazların pillere güvenmesi gerekiyor ve pil teknolojisinin yükseltilmesi istediğimiz kadar hızlı değil, bu nedenle yonga üreticileri orijinal performanstan ziyade çipin enerji verimliliği konusunda endişeli. Açıkçası, enerji tasarrufu yapmanın bir başka yolu, mobil cihazlarda işlenen görevleri azaltmak ve buluta daha fazla görev koymaktır. Böylelikle mobil cihaz düşük güçlü bir arayüz haline geldi, bu arayüz sayesinde başka yerlerde depolanan verilere ve işleme yeteneklerine erişip kullanabiliyoruz.
Örneğin, Apple'ın Siri'si ve Amazon'un Yankısı gibi akıllı asistanlar, fiziksel varlıkları varmış gibi görünseler de, "beyinleri" başka yerdedir. Onlarla ucuz, değiştirilebilir cihazlar aracılığıyla konuşuyoruz ve bu cihazlar rölelerden başka bir şey değil. Bu cihazlar, alınan talimatları İnternet üzerinden uğultulu bir kara kutuya aktarır - dünyanın dört bir yanındaki veri merkezlerinde okunmayı ve cevaplanmayı bekleyen bu tür binlerce kara kutu vardır. Bu mantıklı, öyleyse neden Batı Dünyası resepsiyonistleri de bu yöntemi kullanamıyor?
Resim: CERN'de bir sunucu merkezi. Şimdi "resepsiyonistler" yapmak istiyorsak, "beyinleri" böyle görünmeli.
İlk "resepsiyonist" robotu tasarladığınızı hayal edin. Bazı çok net gereksinimleriniz var. Bu resepsiyonistlerin zarar göreceğini zaten biliyoruz. Belirgin şarj yöntemleri olmadan uzun süre aktif olabilirler. Güvende olmalılar. Komut dosyasından saparlarsa, kontrol edilebilir bir yöntem olması gerekir. Düzenli kalite kontrolleri yapmaları gerekir. Parktan çıkmalarına asla izin verilmiyor, Delos bunu çok önemsiyor, resepsiyonistlerin algılanan konumlarına göre fünyelere sahip olduklarına inanılıyor.
"Beyni" resepsiyoniste fiziksel olarak koymak anlamsızdır. Bu, enerji tüketimini büyük ölçüde artıracaktır. Fiziksel hasar, rolü kalıcı olarak değiştirebilir. Örneğin, Clementine oyunda frontal lob rezeksiyonu yaptı. Bu, uzaktan kumandayı engelleyecektir. Yöneticinin tanı koymak için gerçekten ortaya çıkması gerekiyor ve resepsiyon görevlisinin manuel olarak eğitilmesi gerekiyor.
Sonra Maeve'nin hikayesi var: Parktan çıkıp "anakaraya" gitmeye çalışıyor (oyundaki bir sahne programında böyle bir kod görebilir). Zekası yerel ağdaki bir sunucuda bulunuyorsa, bu "ayrılma" kavramı kendi başına imkansızdır. Son kablosuz yönlendiricinin kapsama alanından çıktığında vücudu hemen aşağı inerdi. Bu, robotun içine patlayıcı yerleştirmekten daha güvenli bir çözüm gibi görünüyor.
Denge ve hareket gibi otomatik kontrol işlevlerini yerel olarak ele almak anlaşılabilir, ancak neden ağ üzerinden bağlanan sunucu yerine resepsiyonist içinde bu kadar çok gelişmiş işlem yapılıyor? Sonuçta bunun sadece bir yazılım olduğunu, bir tür kara kutu olmadığını biliyoruz. Karakterlerini gelecekteki iPad'de düzenleyebiliyorlarsa, bunları sunucuda çalıştırabilmeleri gerekir.
Aklıma gelen tek teknik neden bant genişliği. Resepsiyon görevlisi, binoküler görme, stereo işitme ve dokunma özelliklerine sahiptir. Ayrıca bir tür propriyosepsiyona sahiptirler - vücut kısımlarının göreceli konumlanma hissi. Yüzlerce resepsiyonistin tüm verileri aynı yerde saklanır ve iletilirse, kablosuz ağ felç olabilir. Ancak Delos, duyarlı makineler oluşturma yeteneğine sahip olduğundan, daha iyi yönlendiriciler oluşturabilmelidir.
"Saçma felsefe" dediğim bir görüş var. Bunların arasındaki anahtar kelime "somutlaşmış biliş", yani insan zekasının bedenle, duyu-motor becerilerle ve çevreyle yakından bağlantılı olması, başka bir deyişle insan deneyimine ihtiyacı var.
Bu mantıklıdır, ancak burada önemli değil çünkü böyle bir bağlantı fiziksel konuma bağlı değildir. Beyniniz Luton'da bir depoya yerleştirilmişse ve süper hızlı bir ağ bağlantısı ve bir yönlendirici üzerinden konuşmanıza izin veriyorsa, bu "insan deneyimi" arasında gerçek bir fark yoktur. Bu gerçeği keşfettikten sonra biraz tuhaf hissetmeniz dışında.
Ayrıca iki olasılık daha var. Biri "olay örgüsü yüzünden", söyleyecek bir şey yok. Daha da ilginci, resepsiyon görevlilerinin gereksinimleri karşılamak istemedikleri için karşılamamasıdır. Yaratıcıları, en başından itibaren algısal yetenek ve özerklik kazanmalarına izin vermeyi amaçladılar. Kendi beyniniz yoksa bağımsız olamazsınız Belki de bu tür bir düşünce diğer tüm gereksinimleri aşar.
Kim bilir? Jonathan Nolan, gösterinin ikinci sezonda daha fazla resepsiyonist işlevi keşfedeceğini söyledi. Tasarım seçimlerinin mantıklı olup olmadığını görmek ilginç olacak. Sonuçta, gelecekte bir gün gerçek bir Westworld tema parkı inşa etmek isteyebiliriz.
