Yapay zekadan kim korkuyor: Yapay zekanın insanlığa getirdiği üç büyük zorluk
"Go oyununda Ke Jie'nin makineye yenildiğinde ağladığı sahneyi görünce biraz üzüldüm. Dünyanın en iyi Go oyuncusu olarak robot tarafından mağlup edildi ve oyundan sonra 'Geri dönüp makinenin oyunu incelemesine izin vereceğim. Hata nerede? Geçmişte sadece oyunu kendisi gözden geçirmesi gerekiyordu ama şimdi makine hatalarını hemen gösterecek.Bu, makinelerin ve insanların artık aynı seviyede olmadığını gösteriyor.Makinelerin önünde insanlar çocuklar gibidir. Makineler insanlara öğretir. En temel oyun biçimi ve kendi oyun biçimi insanlar için anlaşılmaz. "
"Diğer endüstriler de aynı sorunla karşı karşıyadır. Makineler şiir ve müzik bestelemeyi öğrenir ve genel olarak sevdiğimiz ürünleri üretirse, o zaman insan yaşamı tamamen değişecektir. O dönemde Du Fu'nun çok az akademik çalışmanın konusu olacağı düşünülebilir, çünkü Makineler müzik, sanat ve tiyatro performanslarına yönelik tercihlerimizi çoktan etkiledi. Makinelerin bizi sevdirdiği ürünleri beğeneceğiz. Feng Xiang'ın insan hayatını derinden değiştiren yapay zeka analizi, izleyiciler arasında derin düşünceleri tetikledi.
Dünyanın bir numaralı Go oyuncusu Ke Jie, "Alpha Dog" a karşı oynadı
Robot, "Ben Alpha'yım, yapay zekayım (AI). İnsanlar, hazır mısınız?" Feng Xiang, 2018'de yayınlanan "Ben Alpha-On Law and Artificial Intelligence" yazısında yazdı. Bir zamanlar geleceğe aitmiş gibi görünen ve bilim kurguya ait olan yapay zeka, hayatımıza derinden müdahale ederek ciddi ve kaçınılmaz zorlukları beraberinde getirdi, gelecek geldi ve her şey mümkün.
20 Nisan'da, Wenhui Konferans Salonu ve Doğu Çin Normal Üniversitesi'nin Beşinci Çağırma Beşeri Bilimler ve Düşünce Festivali sırasında organizatör, Tsinghua Üniversitesi Mei Ruao Hukuk Profesörü, Harvard Edebiyat Doktoru ve Yale Hukuk Doktoru Feng Xiang'ı davet etti. " Feng Xiang, "Yapay zekadan kim korkar" konulu konferansta hukuki bir perspektiften geçerek yapay zekanın bugününü ve geleceğini analiz etti.
Mei Ruao, Tsinghua Üniversitesi Hukuk Profesörü, Harvard'dan Edebiyat Doktoru ve Yale'den Hukuk Doktoru Feng Xiang
"Gizliliğim" onların "mülkü haline gelecek
Sensörler, yüz taramalı ödeme, büyük veri ... Yapay zekanın gelişmesiyle, insanların kişisel mahremiyeti artık saklanacak bir yer haline geldi ve bu, yapay zekanın getirdiği birincil zorluk haline geldi. Makine zekası o kadar yaygındır ki, herkesin davranışı, alışkanlıkları, tercihleri ve kredi performansı aslına uygun olarak kaydedilir.Bunun arkasındaki yasal sorunlar kişisel gizliliktir.
Mahremiyet hakkı çok önemli bir yasal haktır.Amerika Birleşik Devletleri'nde mahremiyet hakkı temel bir anayasal hak olarak tesis edilmiştir ve Çin'in kanunlaştırdığı birleşik Medeni Kanun da mahremiyet hakkını önemli bir medeni hak olarak görmektedir. Bugünün gerçekliğinde, kişisel mahremiyet ortadan kalkıyor ve makine zekasının rahatlığı nedeniyle bunu sürdürmek oldukça zor. Facebook'un kurucusu Mark Zuckerberg, "Neden gizliliğe ihtiyacımız var? Müşterilerim bize gizlilik vermekten mutluluk duyuyor, çünkü hizmetimiz onlara karşı konulamaz bir kolaylık sağlayabilir." Mark Zuckerberg'in açıklamaları bu zorluğu göstermektedir.
Başkalarının onu kopyalamasını veya isteyerek kullanmasını yasaklayan fikri mülkiyet haklarının aksine, yapay zekanın iş modeli, açık ve ücretsiz kişisel bilgiler için uygun ürün ve hizmetleri değiş tokuş etmektir. İş modelinin temel temeli, bedel işlemleridir ve çeşitli uygulamalarla imzaladığımız sözleşmeler, ödediğimizin kişisel bilgi olduğunu değerlendirmektedir. Kişisel veriler şirketler tarafından elde edilir, veritabanları oluşturmak için kullanılır ve daha sonra üçüncü şahıslara yeniden satılır veya "dijital leviathan" ın yüzü olarak adlandırılan yeni ürünlerin geliştirilmesi gibi başka amaçlar için kullanılır (yani verileri diktatörlük için kullanır). Kitaptaki bitmek bilmeyen veri skandalları bariz bir örnektir.
Zuckerberg, Facebook veri ihlaliyle ilgili duruşmalara katıldı
Bilgi çağında, veriler önemli bir kaynak haline geldi ve içerdiği büyük değer, endüstriyi mülk haline getirmeyi umut ediyor.Verilerin mülkleşmesi, birkaç şirketin hesaplanamaz bir servet elde etmesini sağlayacak. Verilerin mülkiyetine ilişkin herhangi bir mevzuat bulunmamakla birlikte, gerçekte mülkiyettir çünkü bireyler ve çevrimiçi platformlar arasındaki işlemlerin konusudur. Ancak Feng Xiang bununla ilgili bir dizi soru ortaya attı: "Bir düşünün, eğer veri mülkiyete alınmışsa, verinin asıl sahibi kimdir? Hepimiz değil miyiz? Veriler bizim malımız değil mi? Bu şekilde düşünürseniz, yüzleşin Kitap, yüz milyonlarca insanla sözleşme imzalaması gerektiği için çalıştırılamıyor. "
Kabul edilmesi gereken "zor kurallar"
Yapay zekanın getirdiği ikinci büyük zorluk, orijinal sosyal kural sistemimizi "katı kural" sistemine dönüştürmektir. "Çin yollarında genellikle iki şeridi ayırmak için yolun ortasında bir dizi demir parmaklık vardır. Bu, araçları kendi şeridinde gitmeye ve sınırı geçmemeye zorlar." Feng Xiang, ne olduğunu açıklamak için hayatta bir fenomeni kullandı. Zor kurallar.
Cep telefonunun katı kuralları, kullanıcı "kabul et" seçeneğine tıklayarak sisteme girer ve ardından daha küçük yazı tipi ve karmaşık içeriğe sahip bir yetkilendirme sözleşmesi görüntülenerek operatöre neredeyse operatöre hak verir. Feng Xiang, bu yetkilendirme sözleşmesini "kimse anlayamaz" bir sözleşme olarak nitelendirdi, bu da seyircilerin çaresizce kahkahalarına neden oldu. Kullanıcılar için bu tek taraflı kuralın mantığı çok basittir - ya katılıyorum ya da etmiyorum .. Kullanabilmek ve rahatlık elde edebilmek için kullanıcılar genel olarak hemfikirdir.
APP gizlilik politikası
Tüm hukuk sistemi aslında yapay zeka tarafından katı bir kural sistemine yönlendiriliyor.Örneğin, Alibaba gibi şirketler artık çok olgun bir anlaşmazlık çözüm mekanizmasına sahip ve hükümet de İnternet yasalarını oluşturmak için onunla işbirliği yaptı. Bu, insanları aşırı derecede korkutur ve endişelendirir, çünkü aşırı sermaye gücüne yol açacaktır. Çin'in ulusal koşulları ve parti ile hükümetin konumu açısından, yasama, Çin Komünist Partisinin halka hizmet misyonunu yansıtan halkın taleplerine, seslerine ve çıkarlarına cevap vermelidir. Ancak, kuralları belirleme yetkisinin büyük bir kısmı şirketlerin eline geçerse, sonuçlar çok farklı olacaktır.
Katı kuralları formüle etme gücü giderek daha fazla işletmelere atfediliyor ve bu da zengin ve yoksul arasındaki uçurumu hızla genişletecek. Feng Xiang, eski zengin Rockefeller ailesini yeni kurulan Zuckerberg ile karşılaştırdı: Zuckerberg, sadece birkaç yıl içinde, eski yetenek nesillerinin biriktirebileceği serveti biriktirebilir.
Ağ teknolojisi ve ağ endüstrisi, toplumda sınıf ayrımını büyük ölçüde destekledi. Bu, tüm dünyada büyük bir sorundur. Geçen yıl meydana gelen "gen düzenlenmiş bebekler" olayı, bu konuda sosyal kaygıları uyandırdı. Menfaatler tarafından yönlendirilen, teknolojik avantajları olan ilgili şirketler, zenginlik ve güç elde etmek için hiçbir çabadan kaçınmaya mahkumdur ve sermaye, piyasa oyunlarında oldukça kördür, çünkü Marx'ın dediği gibi: "Kârın% 100'ü için, sermaye tüm insanları ayaklar altına almaya cesaret eder. Yasa;% 300'den fazla kârla sermaye, başını asma tehlikesini bile göze alarak herhangi bir suç işlemeye cüret edecek. "
Microsoft Xiaoice: Geri dönebilirsem Li Bai olmayacağım
2017 yılında Microsoft tarafından geliştirilen yapay zeka kızı Xiaobing'in yarattığı "Güneş Işığı Camı Yitirdi" adlı şiir koleksiyonu yayınlanarak pek çok kişinin ilgisini çekmiş, birçok kez dergi ve gazetelere isimsiz olarak katkıda bulunmuş ve "Yangtze River Poetry" tarafından yayımlanmıştır. "Beijing Morning News", "Hong Kong Economic Journal" ve diğer yayınlar. Ancak Xiaobing'in 4 Mayıs Hareketi'nden bu yana sadece yeni edebiyat okuduğunu ve birkaç "şiir" permütasyon ve kombinasyon ürettiğini düşünerek yazdığı şiirler konusunda iyimser olmayan pek çok kişi var Li Bai ve Du Fu ile karşılaştırıldığında, bu çok farklı. .
"Güneş pencereleri kaybetti", yazar: buğday çimi, Yayıncı: Beijing Joint Publishing Company, Mayıs 2017.
Ancak Feng Xiang, Microsoftun Xiaoiceu geliştirme niyetinin onu Li Bai ve Du Fu yapmak olmadığına dikkat çekti. AlphaGo ekibinin Go out love for Goyu incelememesi gibi, Huaweinin 5G ürünlerini geliştirmesi Einstein veya Newton olmak istemedi. Tek bir temel amaç vardır - piyasayı işgal etmek.
Bu nedenle Xiaoice'un bir sonraki adımda ticarileştirmesini nasıl geliştireceği ve ticarileşme sonrasında bizim ve gelecek neslin şiir, edebiyat ve sanata ilişkin duygularını nasıl değiştireceği dikkat edilmesi gereken başlıca konulardır. Microsoft XiaoIce ekibi ve rakipleri, insan bilişini ve tercihlerini değiştirebilen ve insan ile makine arasındaki ilişkiyi değiştirebilen ürünler geliştirmek için, genetik düzeyde insanın edebiyat ve müzik algılarını araştırmış olabilir. "Ben buna daha nihai bir meydan okuma diyorum çünkü hayatın anlamını değiştiriyor." Feng Xiang'ın son meydan okumanın özeti şok ediciydi.
Uzun bir süredir, bilim ve teknoloji nasıl gelişirse gelişsin, siyasi hanedanlar nasıl değişirse değişsin, temelde antik çağlardan beri din, ahlak, hukuk ve ticaret alanlarında insan yaşamı üzerinde bir fikir birliği var. Şimdi, gelecekteki gelişme tahmin edilemez olabilir çünkü insan kalbindeki en derin hobiler ve alışkanlıklar ile zekanın yatırım yapılabileceği alanların yerini alacak.
Ancak Feng Xiang, izleyicilerden gelen soruları yanıtlarken, din gibi insanlığın en geleneksel alanlarının yapay zeka tarafından kapsanamayabileceğine, çünkü makinelerin dine ihtiyacı olmadığına dikkat çekti. Bir diğer örnek, insanların insanlara bağımlılığı ve partnerlerinin ihtiyaçlarıdır.Marx'ın dediği gibi: "İnsanlar sosyal ilişkilerin toplamıdır." Bu alandaki insan ihtiyaçları yapay zeka ile değiştirilemez.
Yapay zeka nedeniyle kapitalizmin nesli tükendi - komünizmin geleceği
Yapay zekanın sağladığı kolaylık ve kurallar, insanları ılık suda kurbağa kaynatmak gibi karşı konulamaz bir duruma itiyor. Feng Xiang "Ben Alfa" kitabında iki olası nihai çözüm önerdi: Birincisi, eksiksiz fikri mülkiyet hakları İkincisi, verilerin millileştirilmesidir. "Eğer insanlar yapay zeka yüzünden ölürse, kapitalizmden bir armağan olmalı; kapitalizm yapay zeka yüzünden yok edilirse, robotlar gerçeği öğrenmiş olmalı."
"Ben Alfa'yım - Yapay Zeka ve Hukuk Üzerine", yazar: Feng Xiang, Press: China Politics and Law University Press, Ekim 2018
Yüksek zenginlik konsantrasyonu, tıpkı bir faşist diktatörlük gibi, kaçınılmaz olarak daha fazla tiranlığa ve katı kuralların evrensel olarak kısıtlanmasına neden olacaktır. Aksine, devlet daireleri ticari faaliyetlere gittikçe daha fazla karıştıkça, üçüncü taraf bir hükümet her ticari işleme katılmalıdır ve piyasa ekonomisi yavaş yavaş planlı bir ekonomiye dönüşecektir. Ve makinelerin geniş ölçekte ortaya çıkmasıyla, iş bölümü artık önemli değildir ve komünizm gerçekleşebilir.
Lenin bir keresinde insanlığın komünizmi bilimsel ilerleme derecesine göre kabul edeceğini söylemişti, komünizm bilim ve teknoloji gelişmediğinde gerçekleşemezdi. 1960'larda Sovyet bir matematikçi, planlı ekonominin başarı ve başarısızlık olasılığını açıklamak için kapsamlı bir matematiksel model önerdi ve Ekonomi dalında Nobel Ödülü'nü kazandı. Bundan ilham alan Feng Xiang, planlı ekonominin geçmiş zaman olmadığına, ancak az gelişmiş teknoloji çağına uygun olmadığına inanıyor. Ancak yapay zeka büyük miktarlarda devreye girdiğinde, insanların ellerini özgür bırakacak, planlı ekonomi mükemmel olacak ve insan, özgür kalkınmanın kaçınılmaz alanına girecektir.
Ancak kamu mülkiyeti toplumuna girmeden önce, insan ve makine arasındaki ilişkiyi ve insan ile makinenin etiği arasındaki ilişkiyi incelememiz ve standartlaştırmamız gerekiyor. Makine zekası çok geliştiğinde, insan bilgisini, yargısını ve hatta ahlaki seçimleri çok aşacaktır, bu nedenle makinelerin insanlara zararlı olan zeka yerine doğru zekayı elde etmesi özellikle önemlidir. Toplum, bilimsel araştırmaların güçlü etik ve yasalara bağlı olmasına izin vermeli, hataları azaltmalı ve insan güvenliği risklerini azaltmalıdır.
Komünizmi gerçekleştirmemize yardımcı olmak için makinelerin insan hayatının anlamını anlamaları gerekir. Peki, yapay zekayı kim eğitecek ve onu nasıl eğitecek? Feng Xiang, Çin Devrimi'nin bize cevabı verdiğine inanıyor. Başkan Mao'nun yazdığı "Bethune Anısına" makalesinde şöyle yazıyordu: "Bethune bencillikten yoksun, tamamen asil bir adamdır. Bethune'nin ideal kişiliği, insan ve makine arasındaki ilişki için bir örnek oluşturabilir ve yapay zekanın insanlığa daha iyi hizmet etmesine izin verebilir.
Yazar: Beijing News muhabiri stajyer Li Ying Xu Yuedong
Editör: Shen Hexi Redaksiyon: Zhai Yongjun
