Twitter paylaşımları, akşam yemeği tartışmaları, konferans tartışmaları, AI tehdit teorisinde ısrar eden Musk ve Zuckerberg
Lieyun.com (WeChat ID :) 14 Haziran'da bildirildi (Derleme: Anna)
Yapay zekanın potansiyel risklerini çevreleyen tartışma, tüm teknoloji endüstrisine yayıldı ve tüm Silikon Vadisi'nin yapay zekanın öngörülemeyen etkisini anlamak istemesine neden oldu.
Zuckerberg, arkadaşı ve Silikon Vadisi milyarderi Musk'ın biraz asılsız olduğuna inanıyor.
SpaceX ve elektrikli otomobil üreticisi Tesla'nın kurucusu Musk, dünyayı televizyon röportajlarında ve sosyal medyada yapay zekanın "nükleer silahlardan daha tehlikeli olabileceği" konusunda uyardı.
19 Kasım 2014'te Zuckerberg, Kaliforniya'daki Palo Alto'daki evinde Musk için bir ziyafet düzenledi. Onlara, Facebook'un yeni kurulan yapay zeka laboratuvarından en iyi iki araştırmacı ve diğer iki şirket yöneticisi eşlik ediyor.
Yemek sırasında Facebook ekibi Musk'ı yapay zeka konusundaki görüşlerinin yanlış olduğuna ikna etmeye çalıştı. Ama bununla sarsılmadı. Facebook Yapay Zeka Laboratuvarı'nda akşam yemeğine katılan araştırmacı Yann LeCun, "Musk o sırada 'Yapay zekanın gerçekten tehlikeli olduğunu düşünüyorum' dedi.
Esasen Musk'ın yapay zeka konusundaki endişesinin sebebi aslında çok basit ... İnsanlardan daha akıllı makineler yaratırsak bize ihanet edebilirler. ("The Terminator", "The Matrix" ve "2001: A Space Odyssey" filmlerinde olduğu gibi) Tüm teknoloji endüstrisine yapay zekanın tamamen popüler hale gelmeden önce lütfen yapay Akıllı teknolojinin gelecekte ne gibi beklenmedik sonuçlar getireceği.
Daha önce Musk ve Zuckerberg'in bu yemekte yapay zekanın artılarını ve eksilerini ayrıntılı olarak tartışmayacaklarına ve uzun süredir tartışmayacaklarına dair bir medya haberi yoktu.
Superintelligence terimi, yapay zekanın daha yüksek bir seviyeye yükseltildiğini ve birçok yapay zeka makinesinin üretildiğini belirten süper yapay zeka teknolojisinin atılımını tanımlıyor. Bu makineler insanlar adına sadece basit ve tekrarlayan görevleri (sürücüsüz arabalar gibi) yerine getiremez, aynı zamanda bilim kurguda olduğu gibi insan yeteneklerinin ötesinde görevler de yerine getirebilir. Bununla birlikte, yapay zekayı çevreleyen tartışma tüm teknoloji endüstrisine yayıldı.
4.000'den fazla Google çalışanı, şirketin ABD Savunma Bakanlığı ile yaptığı 9 milyon dolarlık yapay zeka sözleşmesini protesto etmek için kısa süre önce bir dilekçe imzaladı. Şirketin yapay zeka araştırmacılarının çoğu, bu yetersiz işlemden derinden rahatsız. 1 Haziran'da Google Cloud Computing CEO'su Diane Greene, çalışanlara güven vermeye çalıştı ve mevcut sözleşmelerinin 2019'da sona ereceğini söyledi. Bundan sonra, Google yeni sözleşmeleri yenilemeyecek.
Yapay zeka araştırmaları büyük bir potansiyele ve etkiye sahiptir, hem ekonomik bir lokomotif hem de askeri avantaj kaynağıdır. Çin hükümeti, Çin'i dünyanın önde gelen yapay zeka teknolojisi ülkesi yapmak için önümüzdeki birkaç yıl içinde milyarlarca dolar yatırım yapmaya istekli olduklarını ve Pentagon'un da aktif olarak teknoloji endüstrisinden yardım istediğini belirtti. Yeni bir tür yapay zeka silahı doğmak üzere.
Çeşitli sektörlerden herkes bu tartışmaya katıldı. Amazon CEO'su Jeff Bezos, Palm Springs, California'da yıllık bir konferans düzenledi ve orta kıyı bölgelerinden birçok filozof ve bilim insanı katıldı.
Future of Humanity Institute yapay zeka projesinin başkanı Allan Dafoe, "Bilim kurgu sahnelerini şimdi unutun ve ardından yapay zekanın risklerinden bahsedin." Dedi. İnsan Geleceği Araştırma Enstitüsü, Oxford Üniversitesi'nin ileri teknolojinin riskleri ve fırsatları konusunda uzmanlaşmış araştırma merkezidir.
Geçtiğimiz birkaç ay içinde Facebook ve diğer teknoloji şirketleri, Silikon Vadisi'nin Ar-Ge teknolojisinin getireceği öngörülemeyen riskler konusunu gündeme getirmek amacıyla halka çok sayıda tanıtım çalışması yaptı.
Nisan ayında Zuckerberg, kongre üyelerinin veri gizliliği hakkındaki sorularını ve Facebook'un 2016 seçimlerinden önce yaydığı yanıltıcı haberleri yanıtlamak için iki gün geçirdi. Daha geçen ay Avrupa'da da benzer sorunlarla karşılaştı.
Facebook, yapay zekanın insanlığa fayda sağlayabileceği algısını değiştirmenin ve insanların beğenip beğenmesin de üzerinde düşünmenin tüm dünya için zor olduğunun farkında.
Microsoft'un kurucusu Bill Gates ve merhum Stephen Hawking gibi etkili figürler bile, yaratılan makinelerin insanlardan daha akıllı olacağından endişe ediyordu. İnsanüstü zekanın olgunlaşması için onlarca yıldır geliştirilmesi gerekiyor gibi görünse de, bu sorunu çok geç olmadan düşünmemiz gerekmez mi?
Cornell Üniversitesi'nde bilgisayar bilimi profesörü ve Bell Labs'ta eski bir araştırmacı olan Bart Selman, "Üzerinde çalıştığımız yapay zeka teknolojileri çok güçlü, ancak bunların sahip olabileceği etkiyi bilmiyoruz" dedi.
Kusurlu iletişim yazılımı
Pacific Grove, Kaliforniya'nın merkezi kıyısında küçük bir kasabadır. 1975 kışında, bir grup genetikçi, mevcut çalışmalarının (gen düzenleme) sonunda dünyaya zarar verip vermeyeceğini tartışmak için orada toplandı. Ocak 2017'de aynı yapay zeka geliştirme ekibi de bu küçük kasabada benzer bir tartışma yaptı.
Asilomar Oteli'ndeki özel parti, Hayatın Geleceği Enstitüsü tarafından düzenlendi. Bu toplantıya katılanların hepsi yapay zeka ve diğer teknolojilerle ilgili potansiyel tehditleri tartışmak için buradaydı.
Yapay zeka alanındaki en önemli araçlardan birinin geliştirilmesine yardımcı olan Palo Alto'daki akşam yemeğine katılan Facebook yapay zeka laboratuvarının sahibi Bay LeCun da dahil olmak üzere yapay zeka alanındaki ağır toplar burada toplanıyor. Nöral ağlar. Nick Bostrom da yemeğe katıldı.2014 yılında yayınlanan "Süper Zeka: Yollar, Tehlikeler, Stratejiler" adlı kitabı yapay zeka tartışmalarında büyük bir etkiye sahip. Seattle'daki Allen Yapay Zeka Enstitüsü'nü devralan Washington Üniversitesi'nde eski bir bilgisayar bilimi profesörü olan Oren Etzioni de bu grup arasında yer alıyor. DeepMind'ı (Google'ın etkili yapay zeka araştırma enstitüsü) yöneten Demis Hassabis de toplantıya davet edildi.
Elbette Musk da vazgeçilmezdir, 2015 yılında Massachusetts Enstitüsü'ne 10 milyon ABD doları bağışlamıştır. Çocukluğunda, OpenAI adında bağımsız bir yapay zeka araştırma enstitüsünün kurulmasına yardım etti ve bunun için net bir hedef belirledi: süper zeki bir makine yaratmak ve kontrolünü kaybetmemesini sağlamak. Bu aynı zamanda Musk'ın Bay Bostrom'un yanında olduğunu da ortaya koyuyor.
Bostrom'un kitabını okuduktan sonra çok faydalandım. Yapay zeka konusunda tetikte olmalıyız. Nükleer silahlardan daha tehlikeli olabilir.
- Elon Musk (@elonmusk) 3 Ağustos 2014
Tatilin ikinci gününde Musk, süper yapay zeka konusunu tartışmak için dokuz kişilik bir gruba katıldı. Her ekip üyesine yapay zekanın bu soruna ulaşıp ulaşamayacağı soruldu. Mikrofon Musk'a geçene kadar, mikrofon kime geçerse geçsin, cevap evettir. Musk kararlı bir şekilde hayır dedi. Küçük oditoryum kahkahayı bilmekle doluydu. Herkes Musk'ın sadece yapay zekanın mümkün olmadığını hissetmediğini, hatta bunun tehlikeli olduğunu bile bilir.
Musk daha sonra şunları ekledi: "Ya yapay zekanın gerçekleştirilmesine ya da uygarlığın sonuna doğru gidiyoruz."
Bu forumun sonunda Musk'a toplumun yapay zeka ile bir arada var olmak için nasıl gelişebileceği soruldu. Yapmamız gereken şeyin beyinlerimizi süper zeka ile birleştirmek olduğunu söyledi. Birkaç ay sonra Neuralink adlı bir girişim kurdu ve toplam 100 milyon dolar yatırım aldı. Bu şirketin amacı, bilgisayarı insan beyniyle birleştirerek sözde sinirsel bir arayüz oluşturmaktır.
Elbette son yıllarda yapay zeka risklerine ilişkin bazı uyarılara değinildi. Ancak bu uyarıları yapan hiç kimse Musk ile aynı teknik güvenilirliğe sahip değildi. Olsa bile, çok az insan bu alanda gerçekten çok para ve zaman harcıyor. Ve muhtemelen hiç kimsenin Musk kadar karmaşık bir teknik geçmişi yoktur.
Muskın Zuckerbergin evinde verdiği akşam yemeği yapay zeka konusundaki endişelerini dile getirdi. Birkaç hafta sonra Musk, yapay zeka alanındaki kıdemli araştırmacıların adlarını bilmek isteyen LeCun'u aradı ve bu araştırmacılar Tesla'nın sürücüsüz programına katılmaya yardımcı olabilir.
Yakın tarihli bir Tesla kazanç konferans görüşmesinde Musk, haber medyasını, otomatik teknolojiyle açıkça önlenebilecek ölümlere yeterince dikkat etmediği için eleştirdi ve bu, yapay zekanın tehlikeli olduğu konusunda dünyayı uyarmaya devam eden biri için de geçerli. önemli. Musk ayrıca son zamanlarda şirketinin mali kayıpları ve araç kalitesiyle ilgili endişeler hakkında kamuoyunun endişelerinden muzdaripti.
Palm Springs Savaşı
Silikon Vadisi'nde bir söz vardır: Üç yıl içinde neler yapabileceğimizi abartıyoruz ve zamanında neler yapabileceğimizi küçümsüyoruz.
27 Ocak 2016'da Google'ın DeepMind Laboratuvarı, eski Go oyununda profesyonel satranç oyuncularını yenebilecek bir makine başlattı. Birkaç ay önce oynanan bir oyunda AlphaGo adlı makine, Avrupa şampiyonu Fan Hui'yi 5-0 mağlup etti.
Üst düzey yapay zeka araştırmacıları bile, bu oyunu tamamen çözebilecek bir makine geliştirmenin bir on yıl daha alacağına inanıyor. Go çok karmaşıktır (tahtada evrendeki atomlardan daha fazla koltuk olabilir) ve en iyi satranç oyuncusu satrancı yalnızca salt hesaplamayla değil, aynı zamanda kendi sezgisiyle de kazanır. AlphaGo piyasaya sürülmeden iki hafta önce, Bay LeCun, böyle bir makine yapmanın neredeyse imkansız olduğunu da söyledi.
Ancak birkaç ay sonra AlphaGo, son on yılın en iyi Go oyuncularından biri olan Lee Sedol'u yendi. Bu makinenin satranç yöntemi uzmanların kafasını karıştırdı ve sonunda kazandı.
DeepMind ve OpenAI liderleri de dahil olmak üzere birçok araştırmacı, AlphaGo'nun arkasındaki kendi kendine öğrenme teknolojisinin "süper zeka" için bir yol sağladığına inanıyor. Bu alandaki ilerlemenin önümüzdeki birkaç yıl içinde önemli ölçüde hızlanacağına inanıyorlar.
OpenAI kısa süre önce bir sistemi "eğitti" ve onu kürek çekme video oyunlarını oynamak için kullandı; burada araştırmacılar onu mümkün olduğunca çok oyun puanı kazanmaya teşvik edeceklerdi. Puan kazanmaya devam ediyor, ancak bu süreçte zaman zaman dönecek veya taş duvarlara ve diğer yarış teknelerine çarpacak.
İnsanların yapay zeka (süper zeka dahil) konusunda endişelenmesine neden olan bu istikrarsızlıktır.
Ancak bu yılın Mart ayında Amazon ve Bay Bezos Palm Springs'te gizli bir toplantı yaptılar ve bu endişelere karşı çok sayıda güçlü muhalefet vardı.
Bir akşam, Massachusetts Institute of Technology'den robotikçi Rodney Brooks ve bir nörolog, filozof ve podcast yazarı olan Sam Harris, yapay zekanın potansiyel tehlikelerini tartıştılar. The New York Times tarafından elde edilen bir kayıt, bu tartışmanın çok kişisel olduğunu gösteriyor.
Harris, dünya şu anda bir yapay zeka araştırma ve geliştirme yarışmasında olduğu için, araştırmacıların süper zekanın tam bir güvenlik içinde geliştirilmesini sağlamak için zamanları olmayabileceği konusunda uyardı.
Brooks cevap verdi: "Bu tam da hayal ettiğim şey." Bay Harris'in argümanının bilimsel olmayan bir mantığa dayandığını ima etti. Bu, yapay zekanın iyi mi yoksa kötü mü olduğunu kanıtlamak için kullanılamaz - bilim adamlarına hakarettir.
Harris, "Söylediği şey mantıklıysa, bunu alçakgönüllülükle kabul ediyorum," dedi.
Bir sunucu sonunda tartışmayı sonlandırdı ve dinleyicilere sorular sordu. Allen Enstitüsü müdürü Etzioni mikrofonu aldı. "Konuşmak için sahneye çıkmayacağım" dedi. Ama Brooks'un ısrarı üzerine yine de sahneye çıktı ve Harris'le üç dakika konuştu. Bugünün yapay zeka sistemi gelişiminin hala çok sınırlı olduğunu ve süper zeka konusunda endişelenmek için bu kadar çok zaman harcamanın bir anlamı olmadığını söyledi.
Musk açısından, filozoflar, sosyal bilimciler ve yazarlar ortak - ve yapay zeka alanında çalışan çok az araştırmacı var, dedi Etzioni. Yapay zeka bilimcileri arasında, süper zeka kavramı hakkında endişelenmeye başlamamız gereken şey, bunun "çok marjinal bir argüman haline gelmesidir."
Zuckerberg Washington'a doğru yola çıktı
İkili üç yıl önce yemek yediğinden beri, Zuckerberg ile Musk arasındaki tartışma tatsız hale geldi. Geçen yaz arka bahçesinde eşiyle birlikte Facebook'ta bir barbekü videosunu canlı olarak kaydeden Zuckerberg, Musk'ın yapay zeka konusundaki görüşlerinin "çok sorumsuz" olduğunu belirtti.
Yapay zeka henüz gelişmediğinde böyle bir panik, otonom araçlar ve yapay zeka tıbbi koruma gibi yapay zeka ile ilgili birçok faydalı şeyi tehdit edeceğini söyledi.
Zuckerberg, "Yapay zekaya karşı her zaman olumlu bir tavır aldım. Melodiye karşı olanların neden bu kıyamet senaryolarını savunduğunu anlayamıyorum." Dedi.
Başka bir deyişle: Çok düşünüyorsun Musk. Boşver.
Musk da Twitter ile yanıt verdi. Musk, "Zuckerberg ile bunun hakkında konuştum, yapay zeka konusundaki anlayışı hala sınırlı."
Zuckerberg ile bunun hakkında konuştum ve yapay zeka konusundaki anlayışı hala sınırlı.
- Elon Musk (@elonmusk) 25 Temmuz 2017
Bu yılın Nisan ayında Zuckerberg, Facebook'un kendi bıçaklamasını nasıl çözeceğini açıklamak için bir duruşmaya katılmak üzere Kongre'ye gitti.
Bir yol yapay zeka teknolojisine güvenmektir. Ancak ifadesinde Zuckerberg, bilim adamlarının belirli yapay zeka türlerinin kendi kendilerine nasıl öğrendiğini henüz çözemediklerini itiraf etti.
Bu, önümüzdeki birkaç on yıl içinde yapay zeka sistemlerine nasıl bakacağımız konusunda çok merkezi bir konu olacak. Günümüzde, insan anlayışının çok ötesinde birçok yapay zeka sistemi var. Karar verdi. "
Teknoloji devleri ve bilim adamları, Musk'ın yapay zeka konusundaki korkutucu tavrına gülebilirler, ancak görünüşe göre onun görüşlerine yaklaşıyorlar.
Google'ın içinde bir ekip, bilgisayar sistemlerini kandırabilecek ve insanların var olmayan şeyleri görmesini sağlayabilecek yapay zeka kusurlarını arıyor. Araştırmacılar, otomatik olarak gerçek görüntüler ve videolar oluşturan yapay zeka sistemlerinin, yakında çevrimiçi gördüklerimize inanmamızı zorlaştıracağı konusunda uyarıyor.
DeepMind ve OpenAI'nin araştırma ekipleri artık "yapay zeka güvenliği" konusu üzerinde çalışıyor.
DeepMind'in kurucusu Hassabis, Musk'ın görüşlerinin biraz aşırı olduğunu düşünüyor. Ve görüşlerinin Zuckerberg ile tutarlı olduğunu söyledi. Yapay zekanın en azından şu anda tehlikeli olmadığına inanıyor. Ama şimdi Facebook'un sorunları gerçekten bir uyarı.
Hassabis, "Bu krizden yararlanmamız gerekiyor. Tüm teknolojiler hala kontrol altında, bu yüzden durumun daha ciddi hale gelmesi için alınacak tüm önlemlere önceden hazırlanabiliyoruz. Şu anki zamanımız çok değerli. Bu yüzden onu daha eksiksiz kullanmalıyız. "
