Musk ile birlikte gizemli bir organizasyon oluşturmak için insanlığın ve yapay zekanın geleceğini yeniden yazıyor
pocheng Xinzhiyuan dün
Xinzhiyuan önerilir
Kaynak: Zhanlu Kültürü (ID: cheerspublishing)
Eser sahibi: pocheng
Editör: Craig
Xin Zhiyuan Rehberi 2014 yılında, TAGmark, Stewart Russell ve Stephen Hawking, Huffington Post'ta yapay zeka güvenliği ve Tekmark'ın ardındaki gelecek yaşamı medyaya yansıtan "Süper Akıllı Makinelerle Rahatlığımızın Ötesinde" adlı makaleyi birlikte yayınladı. Enstitü de ünlüdür. Future Life Enstitüsü hangi koşullar altında doğdu? Musk ve Hawking neden bilimsel danışma kuruluna katıldı? Bu makale, Gelecek Yaşam Enstitüsü'nün geçmişini ve bugününü anlamanızı sağlar.
İnsanlığın geleceğini etkileyen bir konferans ve bir organizasyon
2015 yılının ilk Pazar günü öğleden sonra, bir grup insan Porto Riko'daki bir tatil beldesinde düzenlenen kapalı bir toplantı için sessizce toplandı. Bu konferans Oxford Üniversitesi yapay zeka etiği uzmanı Nick Bostrom, Skype kurucusu Jan Tarian ve Google AI uzmanı Sean Legge'i bir araya getirdi. Konferansın çok iyimser bir teması var: "Yapay Zekanın geleceği: fırsatlar ve zorluklar bir arada var oluyor" ve bu konferansı daha da gizemli kılan şey , Tüm medya muhabirlerinin katılması yasaktır , Aynı zamanda, katılımcılar görüşlerini konferans sırasında özel olarak açıklayamazlar.
Porto Riko Konferansı katılımcılarının grup fotoğrafı
Hafta boyu süren toplantının bitmek üzere olduğu akşam, herkes bir sonraki kutlama partisine katılmak için bara gidiyordu. Konferansın organizatörü Profesör Tegmark, herkesten bir süre kalmasını istedi, "Açıklanacak büyük bir şey var." Sonra sahneye sağlam bir figür yürüdü, Elon Musk . Işık altında Musk'ın görünümü seyircide bir kargaşaya neden oldu.
Musk boğazını temizledi ve yapacağını duyurmaya başladı. 10 milyon USD MIT profesörünün sadece bir yıllık-Future of Life Institute (FLI) için kurduğu kuruluşa bağışlandı.
Gelecek Yaşam Enstitüsü'nün Doğuşu
Musk kutlamaya son birkaç dakika içinde geldi. İki gün sonra SpaceX, deniz platformundaki bazı roketleri kurtarmaya çalışan önemli bir roket fırlatma gerçekleştirecek. Ancak olay yerine acele etmekte ısrar etti, çünkü bu konferansın ve bu yeni doğan örgütün dünya için olağanüstü bir önemi olduğuna inanıyordu.
Birçok basında çıkan haberlerde, Elon Musk genellikle bir firma olarak tanımlanır. Yapay Zeka Tehditçisi . Nedeni, Ağustos 2014'te gönderdiği iyi bilinen tweet'tir: "AI konusunda dikkatli olmalıyız. Bunlar nükleer silahlardan daha tehlikeli olabilir."
Kar amacı gütmeyen bir kuruluş olarak Future Life Institute
"Yapay zeka yararlı hareketinin" gelişimini teşvik etmek için akademi ve teknoloji iş çevrelerini birbirine bağlayın
Neredeyse aynı zamanda, bir MIT profesörü bu inançla planını tanıttı. Musk'ın biraz "garanti" tweetinden dolayı, iki hikaye kesişiyor. Musk, ilk telefon görüşmelerinde Gelecek Yaşam Enstitüsü Bilimsel Danışma Kurulu'na katılmayı kabul etti ve açılış paragrafında bahsedilen Porto Riko konferansına hazırlanırken Gelecek Yaşam Enstitüsü'nü finanse etme isteğini ifade etti.
Peki bu gelecekteki yaşam araştırma enstitüsü hangi koşullar altında doğdu? Kuruluşundan sonra hangi araştırmaları teşvik edecek?
Çılgın Max
Gelecek Yaşam Enstitüsü'nün kurulmasından önce, MIT'de kadrolu bir fizik profesörü olarak, Tegmark paralel evren araştırmalarında çoktan dikkate değer başarılar elde etmişti. Richard Feynman ve Kip Thorne ile birlikte John Wheeler tarafından öğretildi. Matematiksel evren hipotezi onu " Bugünün en özgün bilim adamı ".
Yıllar içinde Tekmark, araştırma alanını yapay zeka ile genişletti. Pek çok insan şaşıracak, bir fizikçi neden "kayıp" yapay zeka üzerinde çalışmak ister?
Tegmark
bir taraftan, MIT, yapay zeka alanında derin bir birikime sahip . Yapay zeka ilk olarak Dartmouth College'da önerilmiş olsa da, bunu ilk gerçekleştiren Massachusetts Teknoloji Enstitüsü olmuştur. Öte yandan, Tekmarkın birçok araştırması En son bilgisayar teknolojisine dayalı , Kozmik mikrodalga arkaplanının incelenmesi için veri analizi araçları geliştirdi. Geçtiğimiz birkaç yılda, AI araştırması alanında MIT ekibiyle çalışıyorum ve biri Yang Likun (derin öğrenme alanındaki üç devden biri) ile işbirliği içinde yayınlanan AI teknolojisi alanında 5 makale yayınladım.
Özel olarak, "Çılgın Max" lakabını tercih ediyor. Bir bilim adamının kılığında bir hayalperestin kalbi var. Onun sözleriyle, "Nükleer silah yarışını 14 yaşımdayken öğrendiğimden beri, teknolojik gücümüzün onu kontrol etmek için bilgeliğimizden daha hızlı büyüdüğünden endişelendim." Bu endişe, akademik kariyeri boyunca onunla olmuştur ve onu yapmıştır. Rol yapmaya devam edin. Onu Elon Musk ve Stephen Hawking ile buluşturan işte bu romantizmdi. İlk kitabında " Paralel evrenlerde seyahat edin Yeni kitap turu sırasında dünya için bir şeyler yapmaya kararlıdır. İlk olarak, gelecekteki yaşam koşullarını iyileştirmek için teknoloji yönetiminin kullanımına odaklanmak için kar amacı gütmeyen bir organizasyon kurulmalıdır.
Future Life Institute ve üyeleri
Sonra, Tegmark arkadaşlarıyla buluşmaya başladı. Londra'da Tegmark, Deepmind'ın kurucusu Dennis Hassabis'i buldu. İki kişi, teknolojik gelişmeler ve yapay zeka alanındaki değişiklikler hakkında sohbet ettikten sonra, Tegmark Hassabis'e hesaplaşma , AI güvenlik araştırmaları üzerine kendi fikirleri ve Institute of Future Life için planlar dahil. Hassabis, Tegmark'ın fikirlerine katılıyor ve araştırmada destek ve yardım sağlayacak.
Ve başka bir arkadaş, Jan Tarian (Skype kurucusu) daha da gerçektir. Tekmark ona Gelecek Yaşam Enstitüsü vizyonunu vaat ettikten sonra, Her yıl ona 100.000 dolar veriyor . Bir yıl sonra Porto Riko konferansında, Tarian yarı şaka yaparak şunları söyledi: Bu şimdiye kadar yaptığım en iyi yatırım ve benim için basitçe tüm dünya anlamına geliyor. Ardından, üniversitelerden bir grup gönüllü Gelecek Yaşam Enstitüsü'ne katıldı.
Komite, yapay zeka alanındaki araştırmacıları, girişimcileri, bilim adamlarını ve hatta filozofları içerir.
Ayrıntılı giriş için lütfen https://futureoflife.org/team-chinese/ adresine bakın.
Future Life Institute, dünya çapındaki araştırma ekiplerini finanse ederek AI güvenlik araştırmalarının ilerlemesini garanti ediyor. Öte yandan, dünyanın en iyi uzmanları ve girişimcileri ile düzenli toplantılar ve tartışmalar yoluyla, AI güvenlik araştırması üzerine sosyal fikir birliği teşvik edilmektedir. Ve Gelecek Yaşam Enstitüsü Bilimsel danışma kurulu lüks , Kozmolog Stephen Hawking, SpaceX ve Tesla Motors kurucusu Elon Musk, Oxford Üniversitesi Future Human Institute Direktörü Nick Bostrom ve MIT Dijital İşletme Direktörü Eric Brinyo dahil Harvard Üniversitesi'nde genetik profesörü olan Ersson, George Church, MIT'de fizik profesörü olan Alan Guss ve Cambridge Üniversitesi ve Berkeley, California'daki ünlü yapay zeka profesörlerinin hepsi bu projede yer alıyor.
"AI yararlı hareketi" - AI güvenlik araştırmasını ana akıma bırakın
2014 yılında Future Life Enstitüsü ilk atışını yaptı. Tegmark, Stewart Russell ve Stephen Hawking birlikte yayınladı " Süper akıllı makinelerle gönül rahatlığımızın ötesinde "Bir makale. Yazarın hızla gelişen AI ile ilgili potansiyel risklerini ve endişelerini ifade eder.
Diğer medya kuruluşları tarafından sıklıkla yanlış yorumlanan "orijinal" makale:
https://www.huffingtonpost.com/stephen-hawking/art artificial-intelligence_b_5174265.html
Bu makale, yapay zeka güvenliğinin medyada yer almasını tetikledi.Elon Musk ve Bill Gates gibi teknoloji liderleri tartışmaya katıldı ve görüşlerini dile getirdi. Maalesef birçok Medya yanlış yöne gitti , "Stephen Hawking, robotların yükselişinin insanlığa feci zararlar verebileceği konusunda uyarıyor."
Yani, AI güvenlik araştırmasını gerçekten ana akıma getiren şey Ocak 2015'te yapıldı Porto Riko Kongresi . Yazının başında ortaya çıkan sahne budur, bu konferans, hemen hemen tüm katılımcılar bu konuda fikir birliğine varmıştır.
Bu çağın en parlak beyinleri bir araya geliyor
Konferanstan bir hafta sonra Future Life Enstitüsü, bir AI araştırma hibe başvuru kanalı başlattı. Dünyanın dört bir yanından yaklaşık 300 ekip başvurdu.Görüntülemenin ardından 37 ekip araştırmanın ilk aşamasına başladı.
Ayrıca iyi bilinen bir açık mektup da kamuoyunun gözüne girdi. "Güçlü ve Yararlı Yapay Zeka için Öncelikli Araştırma Planı" başlıklı bu açık mektupta "Araştırma, yapay zekanın yeteneklerini genişletmekle sınırlı kalmamalı, aynı zamanda yapay zekanın topluma faydalarını en üst düzeye çıkarma ihtiyacı da vurgulanmıştır. "Ve araştırmanın bir sonraki aşaması için öncelikli hedefleri listeledik. Bu açık mektup yakında toplandı 8000+ imza , Dünyaca ünlü birçok AI geliştiricisinin yanı sıra Elon Musk ve Stephen Hawking dahil.
Aynı zamanda, medya "AI Faydalı Kampanyası" nda ince değişiklikler bildirdi ve Terminatör'ün daha fazla fotoğrafı yoktu. Yapay zeka güvenlik araştırması nihayet artık sadece boş bir konuşma değil, yapacak çok sayıda pratik ve faydalı iş var. Dahası, birçok mükemmel araştırma ekibi katılmak için kolları sıvadı.
Asiloma Konferansı'nın grup fotoğrafı aynı zamanda AI faydalı hareketinin bir "kahramanlar yelpazesidir". Larry Page ve Eric Schmidt, Wu Enda, Danmis Hassabis gibi girişimcileri bulabilirsiniz. Bu tür teknik uzmanların yanı sıra Daniel Kahneman gibi psikoloji, ekonomi ve sosyolojiden en iyi uzmanlar. DeepMind, Google, Facebook, Apple, IBM, Microsoft ve Baidu gibi şirketlerin temsilcileri hazır bulundu.
Daha sonra, 2017 Asilomar Konferansı'nda "AI faydalı hareketi" ilk zirveye itildi.
Yapay zekaya faydalı sporların patlaması
AI faydalı hareketi hızla artıyor. Kurumsal dünyada Amazon, DeepMind, Facebook, Google, IBM ve Microsoft "iyi bir AI" endüstri ortaklığı başlattı.
Akademik dünyada, yapay zeka güvenliği alanındaki araştırma ekipleri ve kurumlar, Berkeley Üniversitesi'ndeki Makine İstihbaratı Enstitüsü, Oxford Üniversitesi'ndeki İnsanlığın Geleceği Enstitüsü ve Cambridge Üniversitesi'ndeki Varoluşsal Risk Araştırma Merkezi dahil olmak üzere bağış almaya devam ediyor. Ayrıca Cambridge Üniversitesi'nin Liverham Akıllı Gelecek Merkezi, Pittsburgh'daki High Gates Etik ve Hesaplama Teknolojisi Vakfı ve Miami'deki Yapay Zeka Etik ve Yönetim Vakfı gibi başlatılan başka "iyi AI" projeleri de var. Yapay zeka güvenlik araştırması bu şekilde şekilleniyor.
Kurumsal dünyada, AI fayda hareketinin de derin bir etkisi oldu. Musk'ın yüz milyonlarca dolar yatırım yaptığı kar amacı gütmeyen bir araştırma kuruluşu olan OpenAI, genel yapay zekayı incelemek ve insanlığa fayda sağlamak için açık yöntemler kullanmaya kendini adamıştır.
Hükümet düzeyinde, hükümetler ve IEEE (dünyanın en büyük teknik uzmanlar örgütü) düzinelerce rapor ve görüşe ek olarak uzun raporlar ve tavsiyeler yayınladı.
Tegmark ayrıca yakın zamanda yayınlanan " Yaşam 3.0 "(Life 3.0: Yapay Zeka Çağında İnsan Olmak). Çoklu evren gibi oldukça teorik ve ezoterik kavramlar yazdığı için, Tegmark sağlam temellere sahip ancak yine de yaratıcı görüşleri idare edebilmektedir.
Life 3.0'ın İngilizce sürümü yayınlandıktan sonra, hızla Amerikan Amazon teknoloji kitapları listesinin en üstüne çıktı ve Elon Musk, Stephen Hawking, Ray Kurzweil ve diğerleri tarafından önerildi. Daha da nadir olan şey, bu kitabın iki yetkili akademik dergi, Science and Nature tarafından tavsiye edilmesidir.
Yazar Tegmark önce bu konudaki tartışma ve tartışmayı panoramik bir perspektiften sundu ve yapay zekanın yakın gelecekte hukuk, savaş, istihdam ve toplum üzerindeki etkisini tartıştı. Ancak, Tegmark'ın hırsları burada bitmiyor, gözünü bu değişimin en geniş kapsamlı yönüne dikti: Yapay zeka bilinci olabilir mi? Yapay zeka ile 10.000 yılda ortak yaşam ve refah elde edebilir miyiz? Evrendeki yaşamın gelişimi için nihai fiziksel sınır yasası nedir? Daha da önemlisi, krize düşmeden ve insan olmanın anlamını yitirmeden bu dönüşümde refahı nasıl başlatabiliriz?
Yazar, bu noktayı iletmek için Life 3.0 kavramını kullanıyor: Yapay zeka, insanlığın son evrimini tamamlayacak . Bizim için ne tür düşünce ve eylemlerle uğraşmalıyız?
Bu kitap, yapay zeka çağında sizin düşünme aracınız olacak, bu çağın en önemli sohbetlerine katılmaya hoş geldiniz.
Bazı referanslar:
Tegmark'ın resmi web sitesi:
Gelecek Yaşam Enstitüsü: https://futureoflife.org
Musk ile Tegmark röportajı (video): https://www.youtube.com/watch?v=rBw0eoZTY-g
