Güney Kore, Zhou Zhihua ve diğerleri, AI silahlarının araştırma ve geliştirilmesine ortaklaşa karşı çıktılar
Leifeng.com AI Technology Review Press: Son zamanlarda, AI uzmanları tarafından ortaklaşa imzalanan açık bir mektup viral oldu. Bu mektup Avustralya, New South Wales Üniversitesi'nin resmi web sitesinde yayınlandı.Mektubunda, dünya çapında 20'den fazla ülkeden 50'den fazla üst düzey AI akademisyeni, yapay zekanın nasıl kullanılacağını araştıran bir kurumu boykot etmek için toplu olarak imzaladı. Kore silah araştırma üniversitesi.
Olayın nedeni, Kore İleri Bilim ve Teknoloji Enstitüsü'nün (bundan böyle KAIST olarak anılacaktır) bu yıl 20 Şubat'ta "yapay zeka" temelli bir füze geliştirmeyi umarak bir araştırma merkezi kurmasıdır. , Denizaltı ve quadcopter.
Bunu görünce, AI uzmanlarının buna neden direndiğini biliyor musunuz? KAIST, yapay zeka savaş silahları geliştirmek istiyor!
Lei Feng.com, bu araştırma merkezinin kuruluşunun arka planının da korkunç olduğunu keşfetti. Araştırma merkezi KAIST tarafından Kore askeri kuruluşu "Hanwha Systems" ile işbirliği içinde kurulmuştur. Tam adı "Ulusal Savunma ve Yapay Zeka Füzyon Araştırma Merkezi" dir. Hanwha Systems'ın ana şirketi, terörist silahlar üretme geçmişine sahip ve Güney Kore'nin en büyük askeri sanayi şirketi olan Hanwhua Group'tur (Hanwhua). Bir zamanlar Birleşmiş Milletler tarafından misket bombası üretimi için kara listeye alınmıştı.
"Korea Times" a göre, merkezin amacı, insan kontrolü olmaksızın hedefleri aramak ve ortadan kaldırmak için askeri silahlara uygulanan yapay zeka teknolojisini geliştirmek. Hanwha Systems ve KAIST, ulusal savunma için yapay zeka uygulamalarını birlikte geliştiriyor. Dört ana yön ortaya çıktı. Bunlar yapay zeka komuta ve karar sistemleri; insansız su altı denizaltıları için navigasyon algoritması teknolojisi; AI akıllı uçuş simülatörleri; AI akıllı hedef takibi Ve tanıma teknolojisi.
Araştırma merkezinin araştırma projesinin saf olmayan amacını gördükten sonra, AI araştırmacıları oybirliğiyle kınama kararı verdiler.
İlk çağrı, AI alanında tanınmış bir Avustralyalı bilim adamı olan Toby Walsh tarafından yapıldı ve robotik ve AI araştırmalarıyla ilgilenen yaklaşık 60 uzman kabul etti. Bunların en ünlüleri arasında Toronto Üniversitesi'nden Geoffrey Hinton, Montreal Üniversitesi'nden Yoshua Bengio, Jürgen Schmidhuber, İsviçre Yapay Zeka Laboratuvarı, Kaliforniya Üniversitesi'nden Stuart Russell, Nanjing Üniversitesi'nden Profesör Zhou Zhihua, Hong Kong Çin Üniversitesi'nden Profesör Hua Yunsheng ve Hong Kong Bilim ve Teknoloji Üniversitesi'nden Yang Suoren vardır. Profesör ve diğerleri. Nanjing Üniversitesi'nde Yapay Zeka Okulu Dekanı ve Bilgisayar Bilimleri Profesörü olan Zhou Zhihua, anakaradaki tek bilim insanıdır.
Uzmanlar mektupta şunları yazdı:
Birleşmiş Milletler, otonom silahların uluslararası güvenliğe yönelik oluşturduğu tehditleri nasıl kontrol altına alacağını tartışırken, Kore Bilim ve Teknoloji Akademisi gibi tanınmış kurumların bu tür silahları geliştirmek için silahlanma yarışını hızlandırdığını gördüğümüz için çok üzgünüz. Bu nedenle, Kore Bilim ve Teknoloji Akademisi başkanı merkezin insan kontrolü gerektirmeyen tamamen otonom "robot katilleri" geliştirmeyeceğine dair bize güvence verene kadar Kore Bilim ve Teknoloji Akademisi ile tüm işbirliğine direneceğimizi kamuoyuna duyuruyoruz. . Örneğin, artık Kore Bilim ve Teknoloji Akademisi'ni ziyaret etmeyeceğiz, Kore Bilim ve Teknoloji Akademisi'nden akademisyenlere ev sahipliği yapmayacağız veya Kore Bilim ve Teknoloji Akademisi'ni içeren herhangi bir araştırma projesine katılmayacağız.
Ahlak her zaman adaletin yanında yer aldı ve herkesin toplu temyizine KAIST Dean Sung-chul Shin tarafından hızla yanıt verildi.
Bilim adamlarının birlikte boykot etmesinden duyduğu üzüntüyü dile getirdi. Bir açıklamasında şunları söyledi: "KAIST'in ölümcül otonom silah sistemi" Robot Katili "nin geliştirilmesine katılma niyeti olmadığını yinelemem gerekiyor. Akademik bir kurum olarak insan haklarına ve etik standartlara büyük önem veriyoruz. KAIST'in, etkili kontrole sahip olmayan otonom silahların geliştirilmesi de dahil olmak üzere, insan onurunu ihlal eden herhangi bir araştırma yapmadığını yineliyorum. "
Profesör Zhou Zhihua da Weibo'da bu olayın ilerleyişini ilk kez bildirdi. Aşağıda, Profesör Zhou Zhihuanın Weibo'sunun bir ekran görüntüsü yer almaktadır:
Olayın gelişimi temelde sona erdi ancak açık mektubun başlatıcısı olan New South Wales Üniversitesi'nden Profesör Toby Walsh, bu yanıttan biraz memnun görünmüyor. CNN ile yaptığı röportajda, "Bu gelişmelerle ne yapmak istediklerine dair hala bazı sorular var, ancak genel olarak uygun bir cevap olarak kabul edilebilir." Dedi.
Açık mektubun tam metin çevirisi ve yardımcı profesörlerin listesi ektedir:
Yapay zeka ve robotik alanında bir araştırmacı ve mühendis olarak, Kore İleri Bilim ve Teknoloji Enstitüsü ve bir Kore askeri şirketi olan Hanwha Systems tarafından kurulan "Savunma ve Yapay Zekanın Yakınsaması için Araştırma Merkezi" konusunda güçlü bir anlayışa sahibiz. Ulusal Savunma ve Yapay Zeka Yakınsaması için) büyük endişe dile getirdi. Haberlere göre merkezin amacı "askeri silahlarda kullanılabilecek yapay zeka teknolojileri geliştirmek ve otonom silahlar için küresel silahlanma yarışına katılmak."
Birleşmiş Milletler, otonom silahların uluslararası güvenliğe yönelik oluşturduğu tehditleri nasıl kontrol altına alacağını tartışırken, Kore Bilim ve Teknoloji Akademisi gibi tanınmış kurumların bu tür silahları geliştirmek için silahlanma yarışını hızlandırdığını gördüğümüz için çok üzgünüz. Bu nedenle, Kore Bilim ve Teknoloji Akademisi başkanı merkezin insan kontrolü gerektirmeyen tamamen özerk "robot katilleri" geliştirmeyeceğine dair bize güvence verene kadar Kore Bilim ve Teknoloji Akademisi ile tüm işbirliğini boykot edeceğimizi burada kamuya duyuruyoruz. Örneğin, artık Kore Bilim ve Teknoloji Akademisi'ni ziyaret etmeyeceğiz, Kore Bilim ve Teknoloji Akademisi'nden akademisyenlere ev sahipliği yapmayacağız veya Kore Bilim ve Teknoloji Akademisi'ni içeren herhangi bir araştırma projesine katılmayacağız.
Otonom silahlar geliştirildiğinde, üçüncü savaş devrimiyle karşı karşıya kalacağız. Otonom silahlar ("robotik katiller") savaşları eskisinden daha büyük ve daha hızlı hale getirecek. Terörist silahlar haline gelmeleri muhtemeldir. Otokratik yöneticiler ve teröristler, herhangi bir etik kısıtlamadan bağımsız olarak, bunları masum sivillere zarar vermek için kullanabilirler. Bu "Pandora'nın Kutusu" açıldıktan sonra kapatmak zor olacaktır. Tıpkı geçmişte yasakladığımız teknolojiler gibi (kör edici lazerler gibi) onları geliştirmemeye doğrudan karar verebiliriz. Kore Bilim ve Teknoloji Akademisi'ni bu yolda devam etmeye ve insan hayatına zarar vermek yerine insan hayatını iyileştirmek için yapay zeka teknolojisini kullanmaya çağırıyoruz.
Ortak profesörlerin mektup listesini açın
Lei Feng
