AI öldürücü silahların geliştirilmesine asla izin vermeyin! Musk, 2.400 bilim insanının ortak bildiriyi imzalamasına öncülük ediyor
İçbükey tapınaktan Yunzhong
Qubit Raporu | Genel Hesap QbitAI
Üretkenlik "cehenneminden" dönen Musk, 2.000'den fazla yapay zeka uzmanıyla özel bir anlaşma imzaladı.
Bu anlaşmanın temel amacı bir ve tek: ölümcül AI silah sistemleri geliştirmeyeceğine söz vermek.
İsveç'in Stockholm kentindeki IJCAL 2018'de, ünlü MIT fizikçisi Max Tegmark tarafından başlatıldı ve Yaşamın Geleceği Enstitüsü (FLI) başkanı taslağı hazırladı. Anlaşma yayınlandıktan sonra cevap açıktı.
Musk, DeepMind'ın kurucu ortakları Hassabis, Mustafa, Shane Legg; Skype kurucusu Jaan Tallinn; dünyanın en iyi yapay zeka uzmanları Yoshua Bengio, Stuart Russell, Jürgen Schmidhuber vb. Dahil 2.400 küresel yapay zeka bilimcisi, hepsi ciddiyetle İsmi imzaladı.
Milliyet ve kurumsal mülkiyet açısından, 90 ülkede 160'tan fazla AI şirketi veya kurumuna aittirler.
Bu aynı zamanda, AI silah sistemlerinin geliştirilmesi için dünyanın ilk sivil muhalefet örgütüdür ve şaşırtıcı olmayacak şekilde, aynı zamanda en etkili olanı olacaktır.
"Ölümcül Otonom Silahlar Bildirgesi"
Bu anlaşmanın tam adı "ölümcül otonom silah taahhüdüdür" ve temel içerik katılmama yemin etmektir Ölümcül Otonom Silah Sistemi (LAWS) LAWS'nin geliştirilmesi, araştırma ve geliştirme çalışmaları ve geliştirilmesi ve kullanılması kesinlikle yasaklanmalıdır.
Bildiride şöyle deniyordu: Bireysel insan yaşamının ve ölümünün karar verme yetkisi makineye devredilmemelidir. Bu yön ahlaki mülahazalara dayanır, "Hayatını ve ölümünü kontrol etmek" suçu uyandıran şey duygusuz bir makine tarafından yapılmamalıdır.
Dahası, ölümcül AI silahları insan müdahalesi içermez ve hedeflerini bağımsız olarak seçer. Hesap verebilirlik ve zorluk emsalsizdir.Özellikle izleme ve veri sistemleriyle birleştirildiğinde şiddet içeren faaliyetlerde güçlü araçlar haline gelecektir.
Bildiride ayrıca, ölümcül otonom silahların özelliklerinin nükleer, kimyasal ve biyolojik silahlardan farklı olduğu vurgulandı.Ar-Ge ekipleri tek taraflı olarak silahlanma yarışı başlatabilirken, uluslararası toplum kontrol uygulamak için teknik imkanlardan yoksun. Bu silahlanma yarışını kınamak ve önlemek, küresel güvenliğin sürdürülmesinde bir önceliktir.
Bu nedenle, bugün imzalanan anlaşma hükümetleri ve tüm ülkelerin başkanlarını gezegenin geleceği için YASALARA aykırı uluslararası normları ve yasaları ortaklaşa tartışmaya çağırıyor.
"LAWS'ye dahil olmayanlarımızın daha yüksek standartlar talep etmesi gerekiyor: LAWS'nin geliştirilmesine, üretimine, ticaretine ve kullanımına asla katılmayacağız veya desteklemeyeceğiz. Teknoloji şirketlerini, kuruluşları ve liderlerini, karar vericileri ve diğer insanları birlikte çalışmaya çağırıyoruz Sözü yerine getirin. "
Ordu hızlanıyor, akademisyenler karşı çıkıyor ve işletmeler sıkışıyor
Yapay zekanın ölümcül konusu artık yeni değil.
AI'nın tüm uygulama senaryoları arasında bu en tartışmalı olanıdır ve farklı kuruluşların farklı ilgi talepleri olduğu için devlet çok utanç vericidir.
Orduda, özerk silahlar 2013'ten beri Amerika Birleşik Devletleri, İngiltere, İsrail ve Güney Kore'deki askeri laboratuvarlarda doğdu.
Diğer silahlardan farklı olarak, ölümcül otonom silahlar, hedef bulma, konumlandırma ve insansız kontrol olmaksızın düşmanları öldürme görevlerinin tamamını özerk bir şekilde tamamlayabilir. AI sistemleri ve teknik uygulamalar, bu silahların en güçlü "sürücüleri" dir. güç".
Bu silahlar savaş alanına konduktan sonra, düşmanı bağımsız olarak belirleyebilir ve ölümcül bir darbe indirebilirler. Duygu ve yargılama yok. İnsanın yaşama ve ölüm hakkı, makinenin gözünde dualistik "düşman = ölüm" dür.
Bununla birlikte, madalyonun diğer tarafında, bu silahların kötü adamın eline geçmesi veya kötü niyetle hedef olarak belirlenmesi imkansız değildir ve sonuç felaket olacaktır.
Dolayısıyla, AI'nın ölümcül silahının ortaya çıkmasından bu yana, kamuoyunun sesi asla durmadı.
Bilimsel toplulukta, Stephen Hawking, Musk gibi tanınmış figürler ve 1000'den fazla AI akademisyeni ve bilim insanı, 2015'in başlarında Birleşmiş Milletler'e, AI'nın ölümcül silahlarının potansiyel riskleri ve devam eden silahlanma yarışı konusunda uyarıda bulunan ortak bir açık mektup sundu ve ilan edilmesi çağrısında bulundu İlgili yasaklar.
Şimdiye kadar bazı ön sonuçlar var. 2016 Birleşmiş Milletler Konvansiyonel Silahları İnceleme Konferansı'nda, AI ölümcül silahları ilk kez tartışmaya dahil edildi.
Ardından, bu yılın Nisan ayında yapılan en son toplantıda, Çin dahil 26 ülke, AI öldürücü silahların yasaklanmasını destekleyen ortak bir bildiri yayınladı.
Bu yasağın bir emsali var: Daha önce insani, etik nedenlerden ve olası zararlardan dolayı Birleşmiş Milletler biyolojik silahlar, kimyasal silahlar ve uzay silahlarına yasak getirmişti.
Bununla birlikte, ölümcül silahlara ilişkin resmi AI uluslararası sözleşmesi üzerinde hala bir fikir birliği yoktur.
Dahası, birçok şirket askeri ve bilimsel araştırma halatının sandviç katmanına sürüklendi.
Bu yılın Nisan ayında, Güney Koreli bir savunma şirketi olan Hanwha Systems ve Kore Bilim ve Teknoloji Akademisi ortaklaşa bir ulusal savunma ve AI füzyon araştırma merkezi kurdu ve dünya çapında 50'den fazla tanınmış AI akademisyeninin ortak boykotuyla karşılaştı.
Daha sonra, Google AInın ABD Savunma Bakanlığının MAVEN askeri planına katılımı ifşa edildi ve bu geçici olarak bu "İnsanlık için Umut" şirketi iç ve dış yaptı. Neredeyse "elek" olarak eleştirildi. 3.000'den fazla çalışan ortaklaşa protesto etti ve birçok çalışan ayrılmayı seçti.
Son olarak, şiddetle eleştirildikten sonra Google, şirketin yapay zeka teknolojisi araştırma ve geliştirmesi için etik kılavuz olarak yeni yönergeler sundu.
Yönergeler, yapay zekanın, amacı yaygın olarak kabul edilen uluslararası hukuku ve insan hakları normlarını ihlal eden silahlara, gözetlemeye veya teknolojilere tasarlanmayacağını veya uygulanmayacağını belirtmektedir.
Ancak Google yalnız değil. Microsoft, Amazon ve diğer devlerle hükümet arasındaki AI işbirliği de ortaya çıktı.Kamu görüşü, hissedarlar ve çalışanlar kimlik izleme için yüz tanıma kullanımı gibi konularda protesto etmeyi asla bırakmadı.
Ayrıca kesin olan şey, AI teknolojisinin daha fazla olgunlaşması ve çeşitli alanlarda uygulanması, güç talepleri ve kar arayışı ile anlaşmazlıklar kaçınılmaz olarak var olacaktır.
Ölümcül AI silahı hakkında ne düşünüyorsunuz? Musk'ın "araştırma geliştirme yok, katılım yok, katı yasak" beyanına katılıyor musunuz?
- Bitiş -
Stajyer işe alım
Qubit, etkinlik operasyonu stajyerlerini işe alıyor, AI yıldız şirketlerinin CEO'larını ve yöneticilerini içeren çevrimiçi / çevrimdışı etkinlikleri planlıyor ve yürütüyor ve AI sektör liderleriyle doğrudan iletişim kurma fırsatına sahip. Çalışma yeri Pekin, Zhongguancun'da. Lütfen özgeçmişinizi quxin@qbitai.com adresine gönderin.
Ayrıntılar için lütfen QbitAI diyalog arayüzünde "Stajyer" yazarak yanıt verin.
Qubit QbitAI · Toutiao İmzalayan Yazar
' ' Yapay zeka teknolojisi ve ürünlerindeki yeni eğilimleri takip edin
