Musk, BM Konferansı'na bir mektup göndermeleri için dünya çapında yüz yapay zeka uzmanına liderlik ediyor
Son yıllarda yapay zeka kavramı popüler hale geldikçe, ilgili uygulama fikirlerine de bir patlama eşlik etti. Halk tarafından en önemlileri ve en çok ihmal edilenlerden biri ordudur. Şu anda, dünyadaki büyük askeri güçler akıllı otomatik silahlara büyük enerji yatırıyor ve insansız araçlar, insansız hava araçları ve insansız gemiler gibi yeni ekipmanlar durmadan ortaya çıkıyor.
Şekil ABD Ordusu "Reaper" İHA
Aynı zamanda, askeri teknolojinin bu yükseltilmesi, insanlara bir güvenlik duygusu veriyormuş gibi görünmüyor, bunun yerine, daha fazla insan "büyük ölçekli savaşlar" ve "kontrolden çıkan robotlar" gibi olası olaylardan endişe duyuyor.
Bugün Avustralya'nın Melbourne kentinde düzenlenen 2017 Uluslararası Ortak Yapay Zeka Konferansı'nın açılış konuşmasında, Elon Musk'ı alın DeepMind'ın kurucu ortağı Mustafa Süleyman liderliğindeki 26 ülkeden 116 uzman, Birleşmiş Milletler'e resmi olarak açık bir mektup göndererek, "akıllı silahlar" etrafındaki silahlanma yarışını durdurmak için gerekli tedbirler çağrısında bulundu. Mümkünse, bu tür silahlar Birleşmiş Milletler Belirli Konvansiyonel Silahlara İlişkin Sözleşme (CCW) silah yasakları listesine dahil edilmelidir.
Şekil Elon Musk
New South Wales Üniversitesi'nde yapay zeka profesörü olan Toby Walsh şunları söyledi: "Tüm teknolojilerin iki yönü vardır ve yapay zeka bir istisna değildir. Yoksulluk, iklim değişikliği, finansal kriz vb. Gibi birçok güncel sosyal sorunu çözmemize yardımcı olabilir. Teknolojinin silahlarda kullanılması da savaş makinesini daha kanlı hale getirecek. Şu anda bir karar vermemiz gerekiyor, yapay zekayı tam olarak ne yapmalıyız? "
Şekil Yeni Güney Galler Üniversitesi'nde Yapay Zeka Profesörü Toby Walsh
Bu nedenle uzmanlar açık mektupta şiddetle konuştular ve hatta askeri alandaki mevcut teknolojik dalganın barut ve nükleer silahların peşinde olacağına dair ciddi bir uyarı bile yayınladılar. "İnsan Savaşı Biçiminde Üçüncü Devrim" . Böyle bir çağda, bir savaş çıktığında, sonuç yıkıcı olacaktır. Sadece savaşın ölçeği eşi görülmemiş boyutta olmayacak, aynı zamanda savaşın ilerleyeceği hız bile insanın hayal gücünü aşacak.
Dahası, bu tür silahlar teröristlerin veya bilgisayar korsanlarının eline geçerse, kuşkusuz tüm insan uygarlığı için büyük bir tehdit olacaktır. Birinin haykırmasına şaşmamalı: "Bize fazla zaman kalmadı. Bu korkunç Pandora'nın Kutusu açıldığı sürece, onu tekrar kapatmak daha zor olacak."
Pratik bir bakış açısından, bu endişe hiçbir şekilde temelsiz değildir. Savaş robotları kavramı sadece bilim kurgu filmlerinde kalmaz, gerçek gelişme insanların beklediğinden daha hızlıdır. Şu anda çok sayıda akıllı silah icat edilmiş ve kullanıma sunulmuştur. Örneğin, Güney Koreli Samsung tarafından on yıldır geliştirilen SGR-A1 robot nöbetçi otonom ateş etme kabiliyetine sahiptir.Maliyeti yaklaşık 200.000 ABD dolarıdır ve muhtemelen Kuzey Kore ile Güney Kore arasındaki sınırda konuşlandırılacaktır.
Şekil SGR-A1 Robot Sentry
Anlaşılana göre, bu tür otomatik silah sistemi çok güçlüdür, yalnızca dahili kamera, ısı sensörü ve hareket sensörü aracılığıyla gözetleme, ses tanıma ve diğer görevleri yerine getiremez. Hatta otomatik olarak hedeflere el bombası atıp fırlatabilir ve prototip ekipmanı ayrıca donanma, kara ve hava kuvvetlerinin silah platformlarına uyarlanabilir. Ancak korkutucu olan, SGR-A1'in şu anda düşmanın ve düşmanın kimliğini ayırt edememesi ve savaş alanına kolayca sokulursa öngörülemeyen felaketler getirmesidir.
Şekil SGR-A1 düşmanı kendimizden tam olarak ayıramaz
Kara muharebe gücünün gelişimi bunun çok ötesine geçiyor. Rusya, Amerika Birleşik Devletleri ve diğer ülkeler otonom işletim sistemlerine sahip tank araçları geliştiriyor. Bunlardan en örnek olanı Rusyanın Uran-9 çok işlevli insansız savaş aracı. Giderek daha fazla geleneksel tank, otonom işletim sistemleriyle yüklenecek.
Şekil Rusya'nın Uran-9 çok işlevli insansız tankı
Aynı zamanda askeri insansız hava araçlarının gelişimi son yıllarda zirveye ulaştı.Örneğin İngiliz BAE firmasının geliştirdiği Taranis drone, otonom uçuş için havadan havaya füzeler ve havadan yüzeye füzeler taşıyabiliyor. Uçan kanat aerodinamik yerleşim tasarımı, geleneksel radarla tespit edilmesi zor olan gizli ihtiyaçlara çok uygundur ve 2030 yılı civarında Kraliyet Hava Kuvvetleri'nin önemli bir parçası olması beklenmektedir.
Şekil Thor İHA
Donanma açısından, ABD ordusu tarafından 2016 yılında başlatılan insansız savaş gemisi "Deniz Avcısı" en temsilci olanıdır. Sadece iki veya üç ay kontrolsüz seyredemez ve maksimum hız 27 deniz miline ulaşabilir, aynı zamanda güçlü denizaltı karşıtı yeteneklere de sahiptir. Ayrıca Boeing tarafından geliştirilen insansız su altı aracı Echo Voyager, ABD ordusu tarafından da askeri amaçlarla kullanılacak.
Şekil "Deniz Avcısı" insansız savaş gemisi
Tüm bunlar, birçok yapay zeka uzmanının, AI teknolojisinin hızla gelişmesiyle birlikte, bu tür tam otomatik akıllı silahların birkaç yıl içinde orduda standart ekipman haline geleceği konusundaki önceki uyarılarını doğruluyor. Bazı insanlar, savaşta robotların insanların yerini almasına izin vermenin askerlerin kayıplarını büyük ölçüde azaltacağını söyleyebilir mi? Ancak sonuç tam tersi olabilir, Yapay zeka teknolojisinin olgunluğu ve akıllı muharebe robotlarının popülaritesi, savaş eşiğinin büyük ölçüde azaltılacağı anlamına gelir.Herkes bir savaşı kışkırtmak için bir kuvveti manipüle edebilir ve bunun sonucunda ortaya çıkan insan kayıpları yalnızca artabilir. birçok.
Aslında bu, akıllı silahların geliştirilmesinin yasaklanması için ilk defa kimsenin kamuya açık bir şekilde çağrıda bulunmuyor. İki yıl kadar erken bir tarihte, Musk ve Hawking tarafından temsil edilen yapay zeka ve robotik endüstrisindeki binlerce uzman benzer bir açık mektup ortaya attı. Bu aynı zamanda o dönemde Birleşmiş Milletler'in dikkatini çekti ve akıllı silahların yasaklanması ve diğer ilgili konular üzerine tartışmaları teşvik etti.
Günümüzde yapay zekayı çevreleyen tartışmalar hiç durmadı.Musk ve Zuckerberg'in temsil ettiği her iki partiden insanlar yapay zekanın gelişimi ile ilgili görüşlerini ve fikirlerini ortaya koydu. Neyin doğru neyin yanlış olduğu konusunda doğru yargılarda bulunamasak da, Hangi teknoloji olursa olsun, savaşa hizmet ettiği sürece, medeniyetin yok edilmesi için "kendi kendini kazan bir mezar" olacaktır.
Ekle:
Birleşmiş Milletler Belirli Konvansiyonel Silahlar Konvansiyonu toplantısına açık mektup
Pek çok firmanın geliştirdiği yapay zeka ve robotik, otomatik silahların geliştirilmesinde kullanılabileceği için uyarı verme sorumluluğumuz var. BM'nin "Belirli Konvansiyonel Silahlar Konvansiyonu" (CCW) toplantısının bir "GGE" (Ölümcül Otomatik Silah Sistemleri Hakkında Düzenleyici Uzman Grubu) kurma kararını çok memnuniyetle karşılıyoruz. Araştırmacılarımızın ve mühendislerimizin çoğu, görüşmeleriniz için teknik önerilerde bulunmayı umuyor.
GGE uzman grubunun başkanı olarak Hindistan'dan Büyükelçi Amandeep Singh Gil'i öneriyoruz. Ayrıca GGE taraflarını, sivilleri bu tür silahların kötüye kullanılmasının yol açtığı zararlardan korumak için bir şekilde ölümcül otomatik silahlar alanındaki silahlanma yarışını durdurmak ve bu tür teknolojilerin dünya üzerindeki etkisini önlemek için çok çalışmaya çağırıyoruz. kararsız faktör.
Başlangıçta bugün (21 Ağustos 2017) yapılması planlanan ilk GGE toplantısının planlandığı gibi yapılmamış olmasından büyük üzüntü duyuyoruz çünkü az sayıda üye devlet planlandığı gibi BM aidatlarını ödemedi. Ayrıca, belirlenen hedeflere ulaşmak için Kasım ayına ertelenen ilk GGE toplantısında tüm tarafları çabalarını iki katına çıkarmaya davet ediyoruz.
Ölümcül otomatik silahlar, üçüncü silah devrimine dönüşme potansiyeline sahiptir.Başarılı bir şekilde geliştirildikten sonra, gelecekteki silahlı çatışmalar eşi görülmemiş bir ölçeğe ulaşabilir ve geliştirme hızları, insan beklentilerini çok aşacaktır. Bu bir terör silahı, tiranlığın ve teröristlerin masum insanları öldürmek için kullanacakları bir silah, bilgisayar korsanları tarafından ele geçirilip yasadışı amaçlarla kullanılabilecek bir silah olacak. Bize fazla zaman kalmadı, Pandora'nın kutusu açıldıktan sonra kapatmak zor olacak. Bu nedenle tarafları, tüm insanlığı ölümcül otomatik silah tehdidinden korumanın etkili yollarını bulmaya çağırıyoruz.
Açık mektubun imza sahiplerinin listesi aşağıdadır (ülkeye göre alfabetik sırayla):
Avustralya
Ambiata'nın kurucusu ve baş bilim adamı Tiberio Caetano;
Ingenious AI'nın kurucusu Mark Chatterton, Leo Gui;
Hivery'nin kurucusu Charles Gretton;
Premonition.io'nun kurucusu ve CEO'su Brad Lorge;
Microbric'in kurucusu ve CEO'su Brenton OBrien;
Robonomics AI'nın kurucusu ve CEO'su Samir Sinha;
Blue Ocean Robotics'in kurucusu ve CEO'su Ivan Storr;
Kanada
Tribotix'in kurucusu Peter Turner;
Element AI ve Montreal Learning Algorithm Lab'in kurucusu Yoshua Bengio;
Ryan Gariepy, Clearpath Robotics'in kurucusu ve CTO'su, OTTO Automotive'in kurucusu ve CTO'su;
Çin
Youbitan Technology'nin kurucusu Zhou Jian;
Sankobot'un kurucusu ve CEO'su Li Lei;
Çek Cumhuriyeti
GoodAI'nin kurucusu ve CEO'su Marek Rosa;
Danimarka
Brainbotics'in kurucusu ve CEO'su Søren Tranberg Hansen;
Universal Robotics'in kurucusu ve CEO'su Esben Østergaard;
Estonya
Krakul'un kurucusu ve CEO'su Markus Järve;
Finlandiya
ZenRobotics'in kurucusu ve CTO'su, Curious AI Company'nin kurucusu ve CEO'su Harri Valpola;
Fransa
DIBOTICS'in kurucusu ve CEO'su Raul Bravo;
Qucit'in kurucusu ve CEO'su Raphael Cherrier;
Aldebaran Robotics'in kurucusu ve CCO'su olan Spoon.ai'nin kurucusu ve CEO'su Jerome Monceaux;
Heuritech'in kurucusu ve Ar-Ge direktörü Charles Ollion;
Enova Robotics'in kurucusu ve CEO'su Anis Sahbani;
SNIPS ve Ants Open Innovation Lab'in kurucusu Alexandre Vallette;
Almanya
NEXT.robotics'in kurucusu ve CEO'su Marcus Frei;
İzlanda
İzlanda Makine Zekası Enstitüsü'nün kurucusu Kirstinn Thorisson;
Hindistan
Robosoft Systems'ın kurucusu Fahad Azad;
Debashis Das, Ashish Tupate, Jerwin Prabu, Bharati Robotics'in kurucusu;
Gridbots Technologies'in kurucusu ve CTO'su Pulkit Gaur;
Phi Robotics Research'ün kurucusu ve CEO'su Pranay Kishore;
Vanora Robots'un kurucusu ve CTO'su Shahid Memom;
Krishnan Nambiar, Shahid Memon, Vanora Robotics'in kurucusu
Sastra Robotics'in kurucusu ve CTO'su Achu Wilson;
İrlanda
Neill Gernon, Atrovate ve Dublin.AI'nin kurucusu;
Aylien'in kurucusu ve CEO'su Parsa Ghaffari;
Keelvar Systems'ın kurucusu ve CEO'su Alan Holland;
LogoGrab'ın kurucusu ve CTO'su Alessandro Perst;
İtalya
MindIT'in kurucusu ve CEO'su Alessio Bonfietti;
ICan Robotics'in kurucusu ve CTO'su Angelo Sudano;
Japonya
HiBot Corporation'ın kurucuları Shigeo Hirose, Michele Guarnieri, Paulo Debenest, Nah Kitano;
Meksika
QOLbotics'in kurucusu ve CEO'su Luis Samahí García González;
Hollanda
Koen Hindriks, Joachim de Greeff, Interactive Robotics'in kurucuları;
Robot Bakım Sistemlerinin kurucusu ve CEO'su Maja Rudinac;
Blue Ocean Robotics Benelux'ün kurucusu ve CEO'su Jaap van Leeuwen;
Norveç
Dyrkoren Erik, Martin Ludvigsen, Christine Spiten, BlueEye Robotics'in kurucuları;
Polonya
BaltRobotics'in kurucusu ve CEO'su Sergii Kornieiev;
Rusya
NaviRobot'un kurucusu ve CEO'su Igor Kuznetsov;
Promobot'un kurucuları Aleksey Yuzhakov, Oleg Kivokurtsev;
Singapur
Deniz Operasyonları Departmanının belirli bir bölümünün eski başkanı olan Infinium Robotics'in kurucusu ve CEO'su Junyang Woon;
Güney Afrika
DeepData'nın kurucusu Jasper Horrell;
ispanya
RO-BOTICS'in kurucusu ve CEO'su Toni Ferrate;
Aioy Robotics'in kurucusu ve CEO'su José Manuel del Río;
Macco Robotics'in kurucusu ve CEO'su Victor Martin;
İsviçre
NViso'nun kurucusu ve CEO'su Timothy Llewellynn;
K-Team'in kurucusu Francesco Mondada;
Jurgen Schmidhuber, Faustino Gomez, Jan Koutník, Jonathan Masci, Nnaisense'nin kurucusu Bas Steunebrink;
BAE
AROBOT'un kurucusu Satish Ramachandran;
Birleşik Krallık
Reach Robotics'in kurucusu ve CEO'su Silas Adekunle;
FiveAI'nin kurucusu ve CTO'su Steve Allpress;
Joel Gibbard, Samantha Payne, Open Bionics'in kurucuları;
Richard Greenhill, Rich Walker, Shadow Robot Company'nin kurucusu;
React AI Ltd'nin (Aiseedo) kurucusu Nic Greenway;
Satalia'nın kurucusu ve CEO'su Daniel Hulme;
CognitionX'in kurucusu olan Charlie Muirhead, Tabitha Goldstaub;
R U Robots'un kurucusu Geoff Pegman;
DeepMind kurucusu ve Applied AI Direktörü Mustafa Suleyman;
Donald Szeto, Thomas Stone, PredictionIO'nun kurucusu Kenneth Chan;
Amerika Birleşik Devletleri
Sentient Technologies'in kurucusu ve CEO'su Antoine Biondeau;
Open Source Robotics'in kurucusu ve CEO'su Brian Gerkey;
TickTock.AI kurucusu Ryan Hickman, Soohyun Bae;
Cafe X Technologies'in kurucusu ve CEO'su Henry Hu;
Swarm Technology'nin kurucusu ve CEO'su Alfonso Íñiguez;
Geometric Intelligence'ın kurucusu ve CEO'su Gary Marcus (Uber tarafından satın alındı);
Latently'in kurucusu ve CTO'su Brian Mingus;
Deepen AI'nın kurucusu ve CEO'su Mohammad Musa;
Elon Musk, SpaceX kurucusu, CEO, CTO, Tesla Motors'un kurucu ortağı ve CEO'su;
Rosanna Myers, Dan Corkum, Carbon Robotics'in kurucusu;
PlusOne Robotics'in kurucusu ve CEO'su Erik Nieves;
Steve Omohundro, Possibility Research'ün kurucusu ve CEO'su;
Giant Otter Technologies'in kurucusu ve CEO'su Jeff Orkin;
Electric Movement'ın kurucusu ve CEO'su Dan Reuter;
Alberto Rizzoli, AIPoly'nin kurucusu Simon Edwardsson;
Legal Robot'un kurucusu ve CEO'su Dan Rubins;
Bayesian Logic Inc.'in kurucusu ve başkan yardımcısı Stuart Russell;
WeRobotics'in kurucusu Andrew Schroeder;
Zippy.ai'nin kurucusu Gabe Sibley, Alex Flint;
GeckoSystems'in kurucusu ve CEO'su Martin Spencer;
Cogitai'nin kurucuları Peter Stone, Mark Ring, Satinder Singh;
Lucid Holdings'in kurucusu ve CEO'su Michael Stuart;
Massimiliano Versace, Neurala Inc.'in kurucusu ve CEO'su
