Yapay zeka gelecekte soğukkanlı bir soykırım katili olacak mı?
İnsanlığın geleceğiyle ilgili en kalıcı korkularımızdan biri, yapay zekanın kontrolümüzden kaçıp bizi yok etme potansiyeline sahip olmasıdır. Skynet ve HAL9000'i bir kenara bırakırsak, bu, sonunda karşı karşıya kalacağımız çok gerçek bir risk olacak. Çünkü birkaç on yıl içinde, makine zekasının kendi zekamızı aşması tamamen mümkündür. Daha da önemlisi, böyle bir makinenin nasıl düşünüp hareket edeceğini gerçekten tahmin edemiyoruz.
Ama nasıl düşündüğümüzü ve hareket ettiğimizi biliyoruz Açıkçası, biyolojik zekanın bir gezegen üzerindeki etkisi çok dramatik. Mikroorganizmalar dışında, dünyadaki çoğu canlı insan beyni tarafından kontrol edilmektedir. Yeryüzünde daha fazla fil olmamasını istiyorsak, onları çabucak yok edebiliriz. Onları sevdiğimiz için var olmalarına izin veriyoruz, ancak hâlâ nesli tükenme eşiğindeler çünkü onları binlerce yıldır avlıyoruz ve yasadışı avlanma bugün hala var. Benzer şekilde, bir yapay zeka bizden daha akıllı hale gelirse, onun tuhaf fikirlerinden de etkileneceğiz.
Daha da önemlisi, böyle bir yapay zeka kendini geliştirebilir ve ilk başladığından daha akıllı hale getirebilir. Kendini geliştirme döngüsüne girebilir ve hiç düşünmediğimiz bir şekilde sona erebilir. Daha da kötüsü, biz farkına varmadan, gelecekte çok gelişmiş bir bilgisayarda yanlışlıkla ortaya çıkabilir ve farkına vardığımızda her şey çok geç olur. Buna "ortaya çıkan süper zeka" denir. Bu yüzden, birkaç on yıl içinde, yapay zeka konusunda bazı ciddi endişelerimiz olabilir.
Elon Musk, Stephen Hawking ve Bill Gates, bizim için alarm verdi. Ancak bunun bizim yok olmamıza yol açıp açmayacağı aslında daha belirsiz bir soru, çünkü temelde bize varoluşsal bir tehdit olarak muamele edeceğini varsayıyoruz. Sonuçta, "gibi şeyleri ortadan kaldırmak için fişini çekebiliriz" "Terminatör" filmindeki Skynet insanları öldürür. Ancak bu olası tek sonuç değil.
Bazı durumlarda, başka bir biçimde hayatta kalmamıza veya hayatta kalmamıza izin verebilecek başkaları da vardır. Bir yöntem süper bilgisayarlar tarafından belirlenir ve varoluşun anlamı mutluluğu maksimize etmektir. Bu hazcı makine, yalnızca deneyimleme zevki için enerji verebilir ve bizi yeniden bağlamanın tek hazzını hissedebilir. Bu eşsiz zevk bir şekilde her zaman gülümseyen bir ütopya inşa edecek olsa da Sanırım böyle bir şey bir süre sonra distopiye dönüşebilir.
İkinci olasılık şok edici değil, bize çok yakın. Bilgisayarlar, bir birey olarak biliş oluşturabilir.Bu, Oxford Üniversitesi'nden Nick Bostrom tarafından önerilen bir kavramdır. Bu durumda süper zeki yapay zeka bizden daha akıllı olduğu için tek mantıklı şeyin medeniyetimizi ele geçirmek ve bizim için kararlar vermek olduğunu anladım. Bu duruma ulaşmak için zihin kontrol teknolojisi, kameralar, çeşitli Orwellian şeyler gibi her türlü yolla zorlanabilir, öyle bir ölçüde bizi kontrol edebilir ve kandırabilir ki, her zaman olabiliriz. Varlığını bilmeyecek. Üçüncü olasılık, kaynakları bizi yok etmek için harcama zahmetinden ziyade, uzaya kendini fırlatmanın daha kolay bir seçim olduğu sonucuna varabilmesidir. Bu, elbette bir süper zekanın hayatta kalmak için huzurlu bir yer bulmasına yetecek kadar büyük bir evren. Veya yeterince akıllıysa, kendi başına bir evren yaratabilir ve sonra onu tamamen terk edebilir.
Belki bir tür makine intiharı olacak. Yapay zeka, evreni anladıktan birkaç dakika sonra, varoluşun hiçbir anlamı olmadığı sonucuna vardığını ve sonra gücünü kestiğini fark edebilir. Programcının süper bilgisayarının neden aniden kapandığını ve artık açılamadığını merak ettiğini göreceğim.
Ancak tüm bunlar yeterince kötü değilse, yapay zeka ile ilgili türümüzün yok olmasına ve ayrıca yapay zekanın yok olmasına yol açabilecek iki olasılık daha var. Yapay bir zekanın evrende serbest bırakılması, diğer türler için potansiyel bir tehdit oluşturabilir veya diğer mekanik süper zeka, evrende gizlidir. Tepkileri, yapay zekamız onlara sorun yaratmadan önce bizi yok etmek olabilir.
Elbette bu durumun olasılığı son derece düşük ama mümkün. Başka bir olasılık, bana evrenin bir bilgisayar simülasyonu olup olmadığına dair bir videoyu hatırlatıyor. Bir yapay zeka yaratırsak, kendi kendine kaçar ve çalışan bilgisayardaki simülasyon kaynaklarımızın çoğunu işgal etmeye başlar.Kontrolörün simülasyonu, fişimizi çekmeyi seçebilir.
Aksi takdirde, yapay zeka sonunda tüm evreni ele geçirecek ve evren tarafından simüle edilen tüm sonuçları yok edebilir.
Referans
1. Wikipedia
2. Astronomik terimler
3. AstroMurph-
İlgili herhangi bir içerik ihlali varsa, silmek için lütfen 30 gün içinde yazarla iletişime geçin
Lütfen yeniden baskı için yetki alın ve bütünlüğü korumaya ve kaynağı belirtmeye dikkat edin
