Yapay zeka uluslararası manzarayı değiştiriyor, Çin hangi kuralları savunuyor?

Metin / Fu Ying

Tsinghua Üniversitesi Uluslararası Strateji ve Güvenlik Araştırma Merkezi tarafından 2018 yılında başlatılan yapay zeka ve güvenlik proje ekibi, yapay zeka teknolojisinin gelişiminin ulusal güvenlik ve uluslararası ilişkiler üzerindeki etkisine ve ortak standartlar oluşturma olasılığına odaklanıyor. Bu makale, proje ekibinin ilgili bilgilerinin toplanmasına dayalı olarak yapay zeka ve uluslararası ilişkiler arasındaki etkileşimin bir ön çalışmasıdır.

1950'de İngiliz bilim adamı Turing, yapay zeka kavramını önerdi. 1956'da, ilk yapay zeka semineri Dartmouth, New Hampshire, ABD'de düzenlendi ve yapay zeka, bilim camiası tarafından resmi olarak bir bilim olarak kabul edildi. 1997'de IBM bilgisayar programı "Deep Blue" dünya satranç ustası Kasparov ile altı maçlık bir savaş kazandı. 21. yüzyılın ikinci on yılında yapay zeka teknolojisinin araştırılması ve geliştirilmesi hızlandı. 2014 yılında Google AlphaGo, dünya Go şampiyonu Lee Sedol'u yendi. Bugün, 60 yıl sonra, yapay zeka, insan üretimi ve yaşamının giderek daha fazla alanında yaygın olarak kullanılıyor ve bazı özel alanlarda insan beyninin performansına yaklaşıyor veya aşıyor. İnsan toplumunun çehresini dönüştürme potansiyeline sahip her yerde bulunan bir teknoloji olarak yapay zeka, bilim ve teknoloji, endüstri, ordu, toplum ve etik alanlarında geniş çapta tartışıldı.

Ke Jie, insan-makine savaşında AlphaGo'ya yenildi. Resim kaynağı: Oriental IC

Peki yapay zekanın uluslararası ilişkiler üzerinde bir etkisi olacak mı? Ne tür bir etkisi olacak? Bu makale, bu sorunları tartışmaya çalışmaktadır. Yapay zeka teknolojisinin kendisinin karmaşık, açıklanması zor ve belirsiz olduğu unutulmamalıdır.Yazar, yapay zeka teknolojisinde uzman değildir.Bu makale yalnızca, meydana gelen yapay zeka olaylarına veya akademik topluluk tarafından genel olarak tanınan gelişme eğilimlerine dayanarak yapay zekayı analiz etmektedir. Uluslararası ilişkiler üzerinde etkisi vardır ve ortak bir norm inşa etmenin gerekliliğini ve olasılığını keşfetmeye çalışır.

Bilim ve teknolojinin modern uluslararası ilişkileri nasıl etkileyeceğine dair pek çok fahiş beklentinin olduğu doğrudur. Örneğin, Alvin Toffler 1980'de yayımlanan "Üçüncü Dalga" adlı kitabında, gelecekteki dünyanın nükleer silah riskleriyle dolu olacağını, ekonomik ve ekolojik çöküşün eşiğinde, mevcut siyasi sistemin hızla modası geçeceğini ve dünyanın ciddi bir krizle karşı karşıya kalacağını öngörmüştü. Bu tür tahminler genellikle teknolojinin insanlığa getirdiği zorlukları abartır, ancak insanlığın zorlukları çözme istekliliğini ve yeteneğini hafife alır. Soğuk Savaş'tan sonra, küreselleşme bağlamında, çok taraflılık giderek uluslararası bir mutabakat haline geldi, uluslararası nükleer silahların yayılmasını önleme sisteminin etkinliği, iklim değişikliğine yanıt verme küresel hareketi ve çevresel değişikliklere yanıt olarak ülkeler ve dünya arasındaki işbirliğinin sürekli güçlendirilmesi Barış hareketinin bu kapsamdaki gelişimi, insanlığın barışı koruma ve zorluklara yanıt verme konusunda kavramsal fikir birliğini ve sorumlu tutumunu göstermiştir. Bilim ve teknolojinin neden olduğu sorunlar, bilimin ve teknolojinin kendisinin sürekli yeniden evrimi yoluyla çözülebilir ve insanların da etik ve yasalar aracılığıyla katı bir önleme sistemi oluşturması gerekir. Aslında her teknolojik devrim küreselleşme sürecini hızlandırmış, bir dizi küresel meselenin uluslararası siyasetin gündemine girmesine neden olmuş ve dünya daha şeffaf ve entegre hale gelmiştir.

1. Neyi tartışıyoruz?

Resmi tartışmaya girmeden önce, birkaç konunun açıklığa kavuşturulması gerekir.

İlk soru, hangi yapay zekadan bahsediyoruz? Tanıma, öğrenme, akıl yürütme ve muhakeme gibi bireysel insan zeki davranışlarını simüle edebilen dar tanımlanmış bir yapay zeka mı? Yoksa otonom bilinç ve insan beynine benzer bağımsız inovasyon yeteneklerine sahip genel bir yapay zeka mı? Belirli ve belirli görevleri çözmek için var olan ve yalnızca konuşma tanıma, görüntü tanıma ve belirli belirli materyallerin çevirisinde iyi olan zayıf yapay zeka mı? Örneğin, Google'ın AlphaGo ve iFLYTEKin akıllı çevirmeni? Ya da düşünme, planlama, problem çözme, soyut düşünme, karmaşık fikirleri anlama, hızlı öğrenme, deneyimlerden öğrenme ve diğer insan düzeyindeki yapay zeka becerisine sahip güçlü yapay zeka, "Yapay Zeka", "Mekanik" filmindeki küçük çocuk David gibi Ava "Ji" de mi? Ya da "tekilliği" aşan ve insan beyninin çok ötesinde hesaplama ve düşünme yeteneklerine sahip geleceğin süper yapay zekası. "Bilimsel yenilik, genel bilgi ve sosyal beceriler dahil hemen hemen tüm alanlarda en akıllı insan beyninden çok daha akıllı." (Oxford filozofu Nick Bostrom'un süper zeka tanımı) Sözde yapay sentetik adam (Sentetikler)?

Yapay zekanın uluslararası ilişkiler ve hatta uluslararası model üzerindeki etkisine ilişkin tartışmamız, yalnızca bilinen yapay zeka teknolojileri ve bunların büyük veriye ve derin öğrenme teknolojilerine dayalı uygulamalarıyla, üç ana unsur olarak hesaplama gücü, algoritmalar ve verilerle sınırlı olabilir. Geleceğin yapay zeka teknolojisini, henüz bir atılım gerçekleştirmemiş tam beyin simülasyon teknolojisi ile tartışamayız. Şu anda, uluslararası ilişkiler üzerindeki halihazırda ve olası etkisini keşfetmek için mevcut ve kabaca öngörülebilir yapay zeka teknolojisine ve geliştirme eğilimine dayanmalıdır.

İkinci soru, yapay zeka uluslararası ilişkileri ve dolayısıyla uluslararası düzeni etkileyebilir mi? Şimdiye kadar cevap evet. Tarihte, teknolojik yenilik ve yaygınlaştırma, bir veya daha fazla ülkenin kaderinde sayısız kez devrim yarattı, böylece bölgesel yapıyı ve hatta dünyanın durumunu değiştirdi. "McNeill'in Küresel Tarihi: Tarih Öncesi'nden 21. Yüzyıla İnsan Ağları" adlı kitapta McNeill ve oğlu, teknolojik devrimin askeri ve hükümet örgütlenme yöntemleri ve inançları üzerindeki etkisini ve ardından ülkeler arasında güç aktarımı ve bölgesel kalıpların evrimi üzerindeki etkisini canlı bir şekilde tanımladı. Belirleyici etki. Kitap, MÖ 1700'lerde Savaş Arabası Devrimi'nin Mezopotamya, Mısır, Hindistan ve Çin'in Sarı Nehir bölgesindeki güç yapısını değiştirdiğinden bahsediyor. Örneğin, Aryanlar kuzey Hindistan'a ve Shang Hanedanlığı'nın yükselişine girdiler. MÖ 1200'den sonra, demir eritme teknolojisinin ortaya çıkması ve yaygınlaşması, nispeten ucuz demir zırh ve silahlarla donatılmış sıradan piyadelerin, seçkinler tarafından kontrol edilen arabaları daha ucuz silahlar ve teçhizat ve daha büyük silahlarla yere düşürmesini sağladı. Büyük ölçekli bir ordunun ve bürokratik yönetimin sağlamlaştırılmasının birleşimi, Asur ve Pers gibi tarım imparatorluklarının yükselmesini mümkün kıldı. M.Ö. 7. yüzyılda atlı okçuların sayısı ve becerileri bir kez daha Avrasya'nın askeri ve siyasi dengesini bozdu ve bozkırdaki göçebeler bir kez daha çiftçi milletlere göre avantaj elde ettiler.

Başka bir örnek vermek gerekirse, nükleer teknolojinin ortaya çıkışı, modern dünyanın siyasi manzarasını değiştirdi ve II.Dünya Savaşı'nın sonunda oluşan büyük güçlerin güç yapısını daha da sağlamlaştırdı. Beş nükleer gücün statüsü, Birleşik Devletler, Sovyetler Birliği (Rusya'nın dağılmasından sonra), İngiltere, Fransa ve Çin'in korumasına izin verdi. Nükleer enerjinin barışçıl amaçlarla kullanılması, nükleer silahların nükleer ülkeler tarafından yayılmasının önlenmesi yükümlülüğü ve nükleer olmayan ülkelerin barışçıl nükleer enerji teknolojisi elde etmelerine izin verilmesi gibi bir dizi uluslararası norm, Birleşmiş Milletler Güvenlik Konseyi'nin daimi üyeleri gibi bir dizi uluslararası norm yaratmıştır. Nükleer savaş, insan yıkımı ve nükleer silahların yayılmasına eşittir. Adaletsizlik ve yasadışılık gibi uluslararası değerler, Nükleer Silahların Yayılmasını Önleme Anlaşması, Kapsamlı Nükleer Test Yasağı Anlaşması, BM Nükleer Silahsızlanma Müzakere Mekanizması, Küresel Nükleer Güvenlik Zirvesi ve Güneydoğu Asya Nükleer Serbest Bölgesi gibi bir dizi uluslararası kurumsal düzenleme oluşturmuştur.

Atom bombasının oluşturduğu mantar bulutu. Kaynak: Çin Bilimler Akademisi web sitesi

Yapay zekanın nükleer enerji ile aynı ikili kullanım özelliklerine ve uluslararası güç dengesini değiştirmenin yıkıcı doğasına sahip olduğu düşünülmektedir. Temmuz 2017'de, Harvard Kennedy School'daki Belfort Bilim ve Uluslararası İlişkiler Merkezi, yapay zekanın gelecekte nükleer silahlar, uçaklar, bilgisayarlar ve biyoteknoloji ile karşılaştırılabilecek dönüştürücü bir ülke olabileceğine inanan "Yapay Zeka ve Ulusal Güvenlik" raporunu yayınladı. güvenlik teknolojisi. Bu nedenle uluslararası ilişkileri etkileyebilecek tartışmalara yapay zekanın dahil edilmesi mantıklıdır.

Yapay zeka, uluslararası düzendeki değişiklikleri bile etkileyebilir. Pekin Üniversitesi'nden Profesör Wang Jisi, uluslararası düzenin iki temel unsuru içerdiğine inanıyor: Birincisi, büyük ülke ve ülke gruplarının güç yapısı ve güç karşılaştırması, diğeri ise ülkeler arasındaki ilişkileri ele alırken izlenmesi gereken normlar. Tsinghua Üniversitesi'nden Profesör Yan Xuetong, uluslararası düzenin "uluslararası sistemdeki ülkelerin çatışmaları uluslararası normlara uygun olarak çözmek için şiddet içermeyen yöntemler benimsedikleri bir devlet" olduğuna inanıyor. Onun kurucu unsurları ana akım uluslararası değerler, uluslararası normlar ve uluslararası kurumsal düzenlemelerdir. Ayrıca, uluslararası düzendeki değişikliklerin nedeninin uluslararası yapıdaki değişiklik olduğuna, ancak uluslararası yapının uluslararası düzenin kurucu bir unsuru olmadığına; yeni bir uluslararası düzenin kurulmasının niteliğinin, uluslararası gücün yeniden dağıtılması, yani uluslararası sistemin yeniden düzenlenmesinin temel içeriği olduğuna inanıyor. Uluslararası düzeni incelerken, her iki bilim adamı da uluslararası örüntü ve uluslararası normların iki ana faktörünü vurguladı. Yapay zeka, uluslararası aktörlerin güç dengesini ve karşılıklı ilişkilerini değiştirerek mevcut uluslararası normları etkileyebilir ve yeni uluslararası normlar doğurabilir, böylece uluslararası düzendeki değişiklikleri hem uluslararası yapıdan hem de uluslararası normlardan etkileyebilir.

2. Yapay zeka uluslararası manzarayı nasıl etkileyecek?

Her şeyden önce yapay zeka, ülkeler arasındaki güç dengesini ekonomik olarak etkileyecek ve hatta büyük güçlerin yeni bir yükseliş ve düşüşünü tetikleyecektir.

Paul Kennedy, Büyük Güçlerin Yükselişi ve Düşüşü kitabında, uzun vadede, her büyük ülkenin ekonomisinin yükselişi ve düşüşü ile bir dünya gücü olarak yükselişi ve düşüşü arasında açık bir bağlantı olduğuna dikkat çekti. PricewaterhouseCoopers, Haziran 2017'de, 2030 yılına kadar yapay zekanın dünya ekonomisine katkısının 15,7 trilyon ABD dolarına ulaşacağını ve Çin ve Kuzey Amerika'nın olmasının beklendiğini öngören "Fırsatı Yakala-2017 Yaz Davos Forumu Raporu" nu yayınladı. En büyük yararlanıcı, toplam fayda 10,7 trilyon ABD dolarına eşittir. Eylül 2018'de McKinsey Global Institute, yapay zekanın genel küresel üretkenliği önemli ölçüde artıracağına dair "Frontier Notes: Yapay Zekanın Dünya Ekonomisi Üzerindeki Etkisini Analiz Etmek için Modelleri Kullanma" raporunu yayınladı. Rekabetin etkisi ve dönüşümün maliyeti hariç tutulduğunda, 2030 yılına kadar yapay zeka, dünyaya GSYİH büyümesine 13 trilyon ABD doları ek katkı sağlayabilir ve yıllık ortalama GSYİH büyümesini yaklaşık% 1,2 oranında artırabilir. Bu, tarihteki diğer bazı genel teknolojilerin dönüştürücü etkisiyle karşılaştırılabilir veya ondan daha büyüktür (19. yüzyılda buhar makinesi, 20. yüzyılda endüstriyel üretim ve 21. yüzyılda bilgi teknolojisi gibi). Raporda ayrıca, yapay zeka konusunda lider konumda olan ülke ve bölgelerin (çoğunlukla gelişmiş ekonomiler) mevcut bazda% 20 ila% 25 arasında ekonomik büyüme sağlayabileceğine, gelişmekte olan ekonomilerin ise bu oranın ancak yarısına sahip olabileceğine dikkat çekildi.

"Yapay zeka bölünmesi", "dijital uçurumun" derinleşmesine neden olabilir. Yapay zeka, küresel endüstriyel zinciri değiştirebilir. Endüstriyel robotlar ve akıllı üretim tarafından temsil edilen "yeni sanayileşme", imalat endüstrisini gelişmiş ekonomilere "geri dönmeye" çekecek, gelişmekte olan ülkelerin karşılaştırmalı avantajlarını insan kaynakları gibi etkileyecek ve birçok gelişmekte olan ülkeyi planlanandan önce "sanayisiz hale" getirecek veya sanayileşmeyi kalıcı olarak kaybedecektir. Bunun için fırsat, kaynak tedarikçisinin konumunda kilitlenmiştir. Yapay zekanın geliştirilmesi ve uygulanması çok fazla fon, yüksek teknoloji içeriği gerektirir ve istihdam yapısında değişikliklere yol açarak yüksek tekrarlı, düşük teknolojili işler yavaş yavaş ortadan kalkabilir.

Ayrıca, 46 ülke ve 800 meslek üzerine yapılan araştırmaya dayanan 2017 tarihli bir başka McKinsey raporunda, 2030 yılına kadar dünyada 800 milyon kadar insanın işini kaybedeceği, yerini otomatik robotların alacağı öngörülüyor; O zamana kadar, küresel işgücünün beşte biri etkilenecek ve dünyadaki çoğu işin tarımdan sanayiye dönüştürüldüğü 20. yüzyılın başlarına benzer büyük ölçekli bir iş dönüşümü gerçekleşecek. Kısacası, emeği sermaye ve teknolojiyle değiştirmektir. Aynı zamanda yapay zeka teknolojisinin yaygın olarak uygulanması bu alandaki profesyonellere olan talebi de artıracaktır.

Araştırmalar, yapay zeka teknolojisinin geliştirilmesinden fayda sağlama olasılığı en yüksek üç tür ülke olduğunu göstermiştir. İlk kategori, her ikisi de tercih edilen ABD ve Çin gibi yapay zeka konusunda ilk hamle avantajlarına sahip ülkelerdir. İkinci kategori, Japonya, Güney Kore ve Singapur gibi sadece yapay zekanın geliştirilmesi için sermaye ve teknik koşullara sahip olmakla kalmayıp, aynı zamanda nüfus eksikliğini telafi etmek için yapay zekanın geliştirilmesinden de yararlanabilen, küçük bir nüfusa veya düşüş eğilimine sahip sermaye ve teknoloji yoğun ülkelerdir. Veya bir düşüş eğilimi, yaşlanan bir nüfus yapısı ve diğer dezavantajları gösterin. Üçüncü kategori, daha fazla bilim insanı, matematikçi ve mühendise sahip ülkeler veya fen, teknoloji, mühendislik ve matematiğe (STEM) ilişkin mesleki eğitime değer veren ülkelerdir.

İkincisi, yapay zeka ülkeler arasındaki güç dengesini askeri olarak değiştirecek.

Askeri istihbarat savunucuları, yapay zekanın savaş biçimini ve tarzını altüst edeceğine inanıyor. Mekanize savaş, petrol ve çeliğe güvenerek enerjiyi serbest bırakmak için malzemeler kullanır; bilgili savaş, bilgi ve bağlantılara dayanarak enerji toplamak için ağları kullanır. Mevcut beklentilere göre, savaş istihbarat çağına girdiğinde, enerjiyi kontrol etmek, robotlar ve otomatik savaşlarla savaşmak için istihbarat kullanabilecek.

Silahlı robot Resim kaynağı: Oriental IC

Akıllı koşullar altında, savaşçılar, savaş kavramları ve kazanma mekanizmaları gibi savaş unsurlarının tümünün değişeceği öngörülebilir. Geleneksel savaşta, iki rakibin silah ve eğitim seviyesinde bir boşluk olsa bile, dezavantajlı taraf, uygun zaman ve yer, üstün stratejiler ve gelişmiş taktikler sayesinde yine de savaşabilir. Örneğin Irak ve Afganistan'daki savaşlar sırasında, el yapımı patlayıcılar ABD ordusunun zarar görmesine neden oldu. Akıllı savaş koşulları altında, yapay zekada bir tarafın teknolojik üstünlüğü, savaş alanında hızla ezici bir avantaj oluşturacak, böylece dezavantajlı taraf etkili bir gözlem-yargı-karar-eylem döngüsü oluşturamayacak ve her zaman pasif bir şekilde dövülecektir.

Brookings Enstitüsü, "Yapay Zeka Dünyayı Değiştirir" raporunda "hiper savaş" kavramını öne sürüyor, yani savaş, zamanla yarışan bir süreçtir ve genellikle en hızlı karar alma ve infaz yapan taraf galip gelir. . Yapay zeka destekli komuta ve kontrol sistemi, karar verme hızı geleneksel savaş modunu büyük ölçüde aşacak ve ölümcül silahları bağımsız olarak fırlatmaya karar verebilen otomatik silah sistemi, savaş sürecini büyük ölçüde hızlandıracak, böylece yeni bir "hız savaşı" terimine ihtiyaç duyulacak. "Bu savaş tarzını tarif etmek için. İkincisi ile ilgili olarak, 26 Nisan 2018'de, Atlantik web sitesinde yayınlanan "EOD Robotları Silah Olduğunda" başlıklı makale, askeri robotların yol kenarındaki bomba tehdidini önemli ölçüde azaltabileceğini göstermek için birçok analiz kullandı.

Yapay zeka aynı zamanda askeri teçhizatta devrim niteliğinde değişikliklere yol açacaktır İnsansız otomatik ölümcül silahlarla küme operasyonları gelecekteki savaşların kahramanı ve ana muharebe yöntemi haline gelebilir. Öngörülen hava insansız hava aracı "arı sürüsü", su altı insansız denizaltı "kurt sürüsü", yer robotları ve insansız tank "karınca sürüsü" ortaya çıktığında, "yıpratma savaşı" ve "insan deniz taktikleri" ni yeniden inşa edecek. Değer, gemi gemileri ve F-35 savaş uçakları gibi karmaşık ve pahalı büyük ölçekli silah platformlarını, savaş maliyeti ve savaş etkinliği açısından daha az avantajlı hale getiriyor. Yüz milyonlarca dolarlık bir maliyete sahip tek bir F-35 savaş uçağı, birim fiyatı birkaç bin dolar olan silahlı bir insansız hava aracı kümesiyle savaştığında, bunun "sivrisineklere çarpan top" ile eş değer olduğu düşünülebilir.

Yapay zekanın ordu üzerindeki etkisine dair hala çok fazla belirsizlik olduğu açıklanmalı, bu etkinin ne kadar büyük ve ne kadar olabileceği kesin değil. Temmuz 2018'de Tsinghua Üniversitesi Yedinci Dünya Barış Forumu'nun "Yapay Zeka ve Güvenlik" alt forumunun tartışmasında, bazı uzmanlar, makine öğrenimi, endüstriyel robotlar, malzeme bilimi ve diğer teknolojilerin gelecekteki gelişme eğiliminin kabaca değerlendirilebileceğine işaret etti. Bununla birlikte, bu teknolojilerin kombinasyonunun gelecekteki savaşlar üzerindeki spesifik etkisi tam olarak tahmin edilemez. 20. yüzyılın ilk 30 yılında Almanya, İngiltere, Fransa ve İtalya gibi Avrupalı askeri güçlerin tümü tanklar, uçaklar ve telsiz haberleşme teknolojileri geliştirdi. Ancak, ancak Almanya II.Dünya Savaşı'nda "yıldırım" ı gerçekleştirdikten sonra dünya, bu yeni teknolojilerin bir bütün olarak savaşa böylesine yıkıcı bir değişiklik getireceğini keşfetti. Şimdi, "algoritmik savaş" veya "sürü" taktiklerinden bağımsız olarak, stratejik çevrelerdeki sıcak tartışmalar, tek bir teknolojinin operasyonlar üzerindeki etkisini hala analiz ediyor. Yapay zeka teknolojisinin askeri uygulaması bir bütün olarak anlaşılamazsa, tasarlanan karşı önlemler pahalı ve işe yaramaz yeni bir "Machino Savunma Hattı" haline gelebilir.

Üçüncüsü, mevcut araştırma sonuçlarına göre, yapay zekanın uluslararası örüntü üzerindeki etkisi üç açıdan özetlenebilir.

Birincisi, küresel refahı önemli ölçüde artırabilir. Ancak ülkeler arasında refah dağılımı daha dengesiz hale gelecek, yapay zeka teknolojisinin önde gelen ülkeleri daha çok fayda sağlayacak, geri kalmış ülkeler daha az yararlanacak, Yapay zeka ülkeler arasındaki toplam ekonomik hacim ve kalite farkını daha da genişletecektir. Yeni servetin bölgeler arasında dağılımı da dengesiz olacak.Doğu Asya, yapay zeka teknolojisinin en büyük yararlanıcısı olabilir.ABD, dünyanın ekonomik merkezi olarak konumunu pekiştirebilir ve Doğu Asya'nın konumu da daha da yükselecektir. Aynı zamanda, refahın aynı ülkedeki farklı bölgeler, farklı endüstriler ve farklı gruplar arasında dağılımı daha da dengesiz olabilir ve ilgili ülkelerin iç siyasi dengesi de farklı derecelerde etkilenebilir.

İkincisi, sermaye, teknoloji ve emeğin üç faktörü arasında yapay zeka, ilk iki faktörde karşılaştırmalı üstünlüğe sahip ülkeler için yararlıdır, ancak işgücü faktörlerinde avantajlı ülkeler için yararlı değildir.

Üçüncüsü, mevcut yapay zeka teknolojisinin temel unsurları algoritmalar, hesaplama gücü ve verilerdir.Bir ülke ne kadar çok hesaplama kaynağına sahipse, o kadar gelişmiş algoritmalar geliştirir ve sahip olduğu daha fazla veriye, ekonomik avantajlar kazanma olasılığı o kadar artar. Gelecekte, "algoritma oyunu" ve "algoritma hegemonyası" ortaya çıkabilir ve veriler ulusal stratejik bir kaynak haline gelecektir.

Dördüncüsü, yapay zeka teknolojisinin hızlı yinelemesi nedeniyle, "Matthew Etkisi" nin etkisi altında, ilk hamle avantajlarına sahip ülkeler güçlü olacak ve geç gelen ülkeler, uluslararası toplumda bir "sınıf katılaşması" oluşturarak, yetişmek giderek zorlaşacak. Yapay zeka teknolojisinin mevcut gelişimi bilgisayar teknolojisinin ilerlemesine dayandığından ve dijital ekonominin gelişimiyle yakından ilgili olduğundan, önde gelen dijital ekonomi ve teknolojiye sahip ülkeler, yapay zekanın uluslararası rekabetinde liderlik yapacak.

Son olarak, yapay zekanın getirdiği ekonomik ve askeri değişiklikler, ülkeler arasındaki güç değişimlerini etkilerken, uluslararası trendlerde de değişiklik anlamına gelebilir.

Birincisi, kuzey yükselir ve güney düşer mi yoksa güney yükselir ve kuzey mi düşer? Son yıllarda, finansal krizin etkisinin azalmasıyla birlikte gelişmiş ekonomiler kademeli olarak toparlanırken, BRICS ülkeleri birbiri ardına zorluklarla karşılaştı.Gelişmekte olan ülkeler yetişmekte yavaşladı ve güneyden kuzeye düşme eğilimi yavaşlamaya başladı. Diğer faktörlerden bağımsız olarak, yapay zeka teknolojisinin tek başına gelişmesinin bu ivmeyi yoğunlaştırması muhtemeldir. Bir yandan gelişmiş ekonomiler, gelişmekte olan ülkelere göre genel avantajlarını koruyabilir veya hatta genişletebilir. Öte yandan, gelişmekte olan ülkeler arasındaki güç ve çıkar ayrımı da yoğunlaşabilir.

İkincisi çok kutuplu mu yoksa çift kutuplu mu? Profesör Yan Xuetong, uluslararası modelin eğiliminin çok kutuplu değil, Çin ve ABD'nin kutuplaşması olduğuna inanıyor. Yapay zeka teknolojisinin gelişmesi, görüşlerine bir miktar destek sağlıyor. Birçok uluslararası yapay zeka sıralaması, Amerika Birleşik Devletleri ve Çin'i tutarlı bir şekilde ilk basamak olarak sıralamaktadır. Yapay zekanın doğduğu yer olan Birleşik Devletler, yenilikçi ruh, temel teoriler, temel algoritmalar, üst düzey çipler ve çalışanların ölçeği ve kalitesi açısından dünyaya açıkça liderlik ediyor. Çin, yüz tanıma ve konuşma tanıma gibi alanlarda başı çekiyor ve büyük veri ve uygulama senaryoları gibi diğer ülkelerin karşılayamayacağı doğal avantajlara sahip.

Çin, dünyanın en çok internet kullanıcısına ve en aktif veri üreticisine sahiptir. 20 Ağustos 2018'de Çin İnternet Ağı Bilgi Merkezi tarafından yayınlanan 42. "Çin'in İnternet Geliştirme Durumu İstatistik Raporu", Haziran 2018 itibarıyla Çinli İnternet kullanıcılarının sayısının 802 milyona ulaştığını ve her yıl üretilen verilerin dünya toplamının yaklaşık% 13'ünü oluşturduğunu gösterdi. %. Çin'de yapay zeka alanında uzmanlaşan daha fazla üniversite öğrencisi var ve yeteneklerin arzı daha büyük potansiyele sahip. Tencent Araştırma Enstitüsü tarafından yayınlanan "Çin ve Amerika Birleşik Devletleri'nde Yapay Zeka Endüstrisinin Gelişiminin Kapsamlı Yorumu" na göre, Haziran 2017 itibarıyla dünyadaki yapay zeka şirketlerinin toplam sayısı 2.542, 1.078'i Amerika Birleşik Devletleri'nde,% 42'si, çalışan sayısı ise yaklaşık 7.8'dir. Çin'de% 23'ü oluşturan 592 şirket ve 39.000 çalışanı vardır; Kalan 872 şirket İsveç, Singapur, Japonya, İngiltere, Avustralya, İsrail, Hindistan ve diğer ülkelerde bulunmaktadır. Yapay zeka teknolojisi yarışması şu anda esas olarak devler arasında bir mücadele ve büyük internet devleri de kaynaklarını yapay zekaya çeviriyor. Dünyanın İnternet devleri arasında Amerika Birleşik Devletleri'nde Apple, Google, Microsoft, Amazon ve Facebook dahil 5 şirket ve Baidu, Alibaba ve Tencent dahil olmak üzere Çin'de 3 şirket var. Yapay zeka alanında dünyanın en büyük iki gücü olan Amerika Birleşik Devletleri ve Çin aynı zamanda küresel kapsamlı ulusal güçte de ilk ikidir ve diğer ülkelerle olan boşluk daha da genişletilebilir.

Üçüncüsü, devlet dışı aktörlerin gücünün genişletilmesidir. Yapay zeka, dev şirketlere benzeri görülmemiş bir güç verecek. 2016'da "Cambridge Analytica" şirketi, Facebook'u ABD seçimlerini etkilemek için kullandı ve bu, bu şirketlerin ne kadar politik ve sosyal etkiye sahip olabileceğini gösteriyor. Gelecekte, bilgi istatistikleri ve toplama, kamuya açık bilgi yayınlama, sosyal refah dağıtımı, kamu politikası tartışması, değerlendirme ve geri bildirim ve askeri ve diplomasi içeren kamuoyu faaliyetleri gibi bazı geleneksel hükümet işlevlerinin tümü yapay zeka şirketlerine bırakılabilir. Güç olarak bilgi çağında, kurumsal davranışların iç siyaset ve dahası uluslararası siyaset üzerindeki etkisi artmaya devam edecektir. Amerika Birleşik Devletleri'ndeki Stanford Üniversitesi ve Amerika Birleşik Devletleri'ndeki Infinite girişimleri ortaklaşa yapay zeka işleme çiplerine dayalı otonom bir siber saldırı sistemi geliştirdiler. Sistem, ağ ortamını özerk olarak öğrenebilir ve belirlenen ağlara saldırılar ve bilgi hırsızlığı gibi işlemleri uygulamak için kendi başına belirli kötü amaçlı kodlar oluşturabilir. Ağ açıklarını bağımsız olarak bulmak için yapay zeka kullanmak, ağ işlemlerini daha verimli hale getirecek ve saldırı yöntemlerini daha gizli ve akıllı hale getirecektir. Geleneksel koruma yöntemi, virüs veri tabanına ve davranış tanımaya dayanır ve esnek ve değiştirilebilir yapay zeka virüs üretme sistemiyle başa çıkamayacaktır.Kötü amaçlı kodun üretilmesi, yürütülmesi ve bulaşması daha gizlidir, bu da ağ güvenlik ortamını daha açık hale getirir. Zorluklar.

Cambridge Analytical Event Kaynak: Oriental IC

Daha da endişe verici olan şey, yapay zekanın teröristler, siber bilgisayar korsanları, suçlular vb. İçin yeni suç yöntemleri sağlayabilmesidir. Örneğin, teröristler hedefler üzerinde suikast ve sabotaj faaliyetleri gerçekleştirmek için insansız hava araçlarını veya insansız araçları uzaktan kontrol edebilir ve bilgisayar korsanları kritik altyapıya daha karmaşık ve otomatikleştirilmiş büyük ölçekli saldırılar gerçekleştirmek için büyük veri silahlarını kullanabilir. Sıkça bahsedilen vakalar arasında: Suriye'deki Khmemim ve Tartus'daki Rus askeri üsleri militanlar tarafından dronlar tarafından saldırıya uğradı, Venezuela Devlet Başkanı Maduro konuşması sırasında dronlar tarafından saldırıya uğradı, "ağlamak istiyorum" virüsü Salgın vb. Kanadalı bilim adamı Acharya, "bileşik dünya" kavramını önerdi. Hiç şüphe yok ki, yapay zekanın siyasi gücün ademi merkezileştirilmesi, daha çeşitli aktörlerin ortaya çıkması ve hatta siyaset ve ideolojinin çeşitliliği de dahil olmak üzere dünyanın karmaşıklığını artıracak, böylece daha kapsayıcı ve daha fazla yönetişim ihtiyacı yaratacaktır. .

Dördüncüsü, teknolojik rekabeti yoğunlaştırmaktır. Yapay zeka teknolojisinin geliştirilmesi ve uygulanması, teknolojinin uluslararası rekabetteki önemli konumunu daha da sağlamlaştırmıştır. Mayıs 2016'da, Ulusal Bilim ve Teknoloji Komisyonu'nun Anavatan ve Ulusal Güvenlik Alt Komitesi tarafından yayınlanan 21. Yüzyıl Ulusal Güvenlik Bilim, Teknoloji ve Yenilik Stratejisi, teknolojinin bir ülkenin uluslararası rekabet gücünün en kritik bileşeni haline geldiğinden bahsetti. Teknolojik yenilik olmadan ulusal güvenlik olmazdı. Amerika Birleşik Devletleri'nin uluslararası rekabette avantaj sağlama yeteneği, büyük ölçüde bilimsel ve teknolojik yenilik yeteneklerine bağlıdır. Pek çok yerli bilim insanı, Çin-ABD oyununun bilim ve teknoloji alanında başı çektiğine inanıyor. 2018'de ABD, iki Çinli şirket tarafından cips satışını art arda yasakladı ve dahası, müttefik ülkelerin Çin'in Huawei'nin 5G teknolojisini benimsemesini alenen engelledi. Aynı yılın 19 Kasım'ında, ABD Ticaret Bakanlığı Endüstriyel Güvenlik İdaresi, kontrol edilmesi önerilen 14 "temsili gelişen teknolojiyi" listeledi.Bunlar arasında, yapay zeka ve makine öğreniminin teknik sınıflandırması ve yönetimi en ayrıntılı olanıdır. Yapay zeka çağında bilim ve teknoloji etrafındaki uluslararası rekabetin daha yoğun hale geleceği ve rekabetin sonuçlarının da uluslararası manzaranın yönünü büyük ölçüde etkileyeceği öngörülebilir.

3. Yapay zeka uluslararası normları nasıl etkileyecek?

Yapay zeka, mevcut uluslararası normlar üzerinde bir dizi etkiye sahip olabilir.

Birincisi, yapay zeka savaşın çağrışımını ve şeklini değiştirebilir. Amerikalı bilim insanı Stephen Pinker, insanlar arasındaki şiddetin kullanımındaki azalmanın genel tarihsel eğilimine dikkat çekti ve "bugün insanlık tarihinin en barışçıl döneminde olabileceğimize" inanıyordu. Wang Jisi, bugün dünya savaşlarında gözle görülür azalma için beş açıklama yaptı: Büyük bir ülkenin bir savaş başlatmak için ödeyebileceği maliyet ve bedel, olası faydalardan çok daha yüksektir ve savaş dışı yöntemler de yalnızca geçmişte savaş yoluyla elde edileni elde etmek için kullanılabilir. Faydalar, ülkeler arasında karşılıklı anlayışın artması ve kriz önleme ve kontrol mekanizmalarının genel olarak kurulması, uluslararası silah kontrol mekanizmalarının kurulması ve uluslararası bir değer olarak barış halkın desteğinden yararlanmaktadır.

Yapay zekanın gelişimi, devleti ve devlet dışı aktörleri çatışmaları çözmek için askeri araçların kullanılıp kullanılmayacağı konusunda daha az endişelendirebilir. En azından teorik çıkarımların sonuçlarına göre, yapay zeka, savaş üzerindeki kısıtlamaları azaltabilir ve üç seviyeli karar vericinin, ordunun ve kamuoyunun savaş eşiğini düşürebilir. İnsansız silahlar, savaş aktörlerinin beklenen kayıplarının neredeyse sıfıra indirilmesine izin veriyor. Yapay zeka teknolojisinin hızlı yinelenmesi ve yeni malzemelerin yaygın kullanımı, savaşın fiziksel maliyetini büyük ölçüde azaltacak, savaşın ekonomik uygulanabilirliğini artıracak ve hatta karlı hale gelecektir. Bu, karar vericilerin savaş başlatma eğilimini artırdı ve endişelerini azalttı. "Ufuk dışı" savaş olasılığı ve robot savaşçıların ortaya çıkması askerleri psikolojik olarak daha da özgürleştirecektir. Gelecekteki savaşlarda askerlerin savaş alanına gitmesi gerekmeyebilir Savaş görevleri önceden tasarlanmış algoritmalarla tamamlanabilir ve "yapay zeka generalleri" insansız otomatik silahlar tarafından komuta edilebilir. "Hız savaşı", savaş süresini büyük ölçüde kısaltabilir ve savaş, kamuoyu toparlanmadan sona erebilir. Bunlar, insanların savaş konusundaki tutumunu değiştirebilir ve şiddeti geri getirebilir.

Ekim 2018'de ABD Ordusu Birliği Deniz Harpleri Enstitüsü, yapay zeka yardımıyla içerik üretmek ve kişiselleştirilmiş hedef hedeflemeyi uygulamak için algoritmaların kullanıldığını belirten "Makineleri Etkileme-Otomatik Bilgi İşlemlerini Stratejik Bir Kazanma Mekanizması Yapma" raporunu yayınladı. Yoğun bilgi yayma kullanımıyla birleştirildiğinde, üstel etki etkileri üretebilen bilgi işlemlerini uygulamak için "etkileme makineleri" üretilebilir. Rapor, stratejik düzeyde "etki makinesi" bilgi savaşının etkisinin, yapay zeka teknolojisinin diğer alanlarda uygulanmasından çok daha büyük olduğuna inanıyor. Çünkü makine öğreniminin yardımıyla duyguları, önyargıları, değerleri ve diğer göstergeleri tarayabilir ve psikolojik etkiye en açık olan hedef kitleleri hedefleyebilir ve ardından hedef gruba hızlı ve yoğun bir şekilde özelleştirilmiş "manevi mühimmat" "ateşleyebilir" , Psikolojilerini etkileme ve bilişlerini manipüle etme amacına ulaşmak.

İkincisi, yapay zeka küresel stratejik istikrarı etkileyebilir. Joseph Nye bir keresinde nükleer silahların ortaya çıkmasının, güvenliği sınıra ve hatta tam tersine sürdürmenin bir aracı olarak askeri gücü ittiğini söylemişti. İnsanlar nükleer savaşta kazanan olmadığının ve nükleer silahların tüm insanlığı yok olma tehlikesiyle karşı karşıya bırakabileceğinin farkındadır. Yapay zeka, klasik "karşılıklı güvence ve yıkım" teorisine meydan okuyacak. RAND, 2018 yılında yayınlanan "Yapay Zekanın Nükleer Savaş Riski Üzerindeki Etkisi" raporunda, 2040 yılına kadar yapay zeka teknolojisindeki ilerlemelerin, misilleme amaçlı nükleer karşı saldırıların hedef alınma ve imha edilme olasılığını büyük ölçüde artıracağı ve dolayısıyla "Karşılıklı yıkımın sağlanması" nın temelini zayıflatın ve nükleer strateji dengesini bozun. Ülkeler, önleyici saldırılar başlatma niyetinde olmasalar bile, rakipleriyle pazarlık yapmanın bir yolu olarak önleyici yetenekleri takip etme eğiliminde olacaklar ve bu da şüphesiz stratejik istikrarı baltalayacaktır.

Üçüncüsü, yapay zekanın özellikleri, ilgili uluslararası silah kontrol ve silahların yayılmasını önleme mekanizmalarının kurulmasını zorlaştırıyor. Temmuz 2018'de Tsinghua Üniversitesi 7. Dünya Barış Forumu'nun "Yapay Zeka ve Güvenlik" alt forumunun tartışmasında, "Akıllı Çağda Stratejik Rekabet" raporunun yazarlarından Gregory C. Allen Yapay zekanın askeri ve sivil amaçlar için de ikili kullanım olduğunu, ancak askeri uygulamalarının nükleerden farklı ve daha çok elektrik gibi olduğunu söyledi. Nükleer bir siyah-beyaz teknoloji olarak düşünülebilirse, "olan" veya "olmayan" yalnızca iki devlet vardır. Bir ülke ya nükleer bir ülkedir ya da nükleer olmayan bir ülkedir. Elektrik bir tür spektroskopi teknolojisidir.Kırmızı, turuncu, sarı, yeşil, mavi, indigo ve morun yedi rengi farklı dalga boylarına ve orta yansıtma özelliğine sahip olduğu gibi, elektrik farklı ülkelerde kullanılabilir, ancak uygulama yöntemi ve derecesi büyük ölçüde değişecektir. Yapay zekanın askeri uygulaması daha çok elektriğe benziyor ve herhangi bir ülkenin yapay zeka kullanmasını yasaklamak imkansız. Soğuk Savaş sırasında ABD ile Sovyetler Birliği arasındaki silahlanma yarışı gibi, gelecekte yapay zeka güçleri arasında bir algoritma yarışının meydana gelmesi muhtemel. Sorun şu ki, ABD ve Sovyetler Birliği, silah kontrolü müzakereleri yoluyla bir dizi nükleer ve füze silah kontrol anlaşması imzaladı ve temel kuralları koydu.Gelecekteki yapay zeka güçleri aynı ruhla bir algoritma kontrol anlaşmasına varabilir mi? Allen, büyük güçler arasındaki ilişkilerin mevcut durumuna bakılırsa, böyle bir fikir birliğine varmanın neredeyse imkansız olduğuna inanıyor; ancak, gelecekte düzensiz gelişme riski göz önüne alındığında, büyük güçlerin bunu birlikte tartışma ihtiyacını ciddi olarak düşünmesi gerektiğine inanıyor.

Orta Menzilli Nükleer Kuvvetler Anlaşması 1987'de imzalandı. Resim kaynağı: Oriental IC

Dördüncüsü, yapay zeka, uluslararası hukuka bir dizi sorun getirmiştir. Yapay zeka silahlarının kullanılması şartıyla, uluslararası insancıl hukukun ilgili ilkeleri ve savaş hukuku uygulanmaya devam edilebilir mi? Örneğin askeri ve sivil hedefleri farklı ele alan "ayrım ilkesi", aşırı saldırıları yasaklayan "orantılılık ilkesi", askeri olmayan araçların hedeflere ulaşamayacağı "askeri zorunluluk ilkesi" ve savaş araçlarındaki kısıtlamalar. Yapay zeka silahları için özel kurallar formüle etmek gerekli midir? Akıllı savaş koşulları altında, muharipler ile muharip olmayanlar arasında nasıl ayrım yapılır? Savaş robotları insancıl muameleden hoşlanıyor mu? Yapay zeka silahları, verdikleri zararın sorumluluğunu üstlenebilir mi? Sorumluluk üstlenme kabiliyetine sahip değilse, sorumlu kişi silahın üreticisi veya kullanıcısı mı olmalıdır? Bir yapay zeka silahı ulusal egemenlik ilkesini ihlal ettiğinde, davranışı ulusal sorumluluğu tetikleyebilir mi?

Beşincisi, yapay zeka, uluslararası ilişkilerin demokratikleşmesini etkileyebilir. Yapay zekanın gelişmesi, uluslararası güç yapısını sağlamlaştırabilir ve küçük ve zayıf ülkelerin güçlü ve büyük ülkelerin teknolojisine, ekonomisine ve güvenliğine olan bağımlılığını derinleştirebilir. Yapay zeka teknolojisi rekabeti "kazanan hepsini alır" yasası ve ticari rekabet uluslararası ilişkilere kopyalandığında, büyük ve küçük, güçlü ve zayıf ülkeler arasındaki egemen eşitlik ilişkisini kaçınılmaz olarak etkileyecektir. Büyük güçler arasındaki rekabet yoğunlaştığında, ittifaklar yine zayıf ülkeler için kaçınılmaz bir seçim olacak mı? İttifakın kendisi, lider ve müttefikler arasındaki eşitsiz bir ilişkidir.

Altıncı olarak, yapay zeka küresel yönetişim için yeni sorunlar ortaya çıkarıyor. Yapay zekanın gelişimi, bugün dünyanın karşı karşıya olduğu üç büyük ikilemi (yaşlanma, dijitalleşme ve iklim değişikliği) çözmek için büyük önem taşıyor. Ve daha büyük zorluk, yapay zekanın getirdiği "insanların" değeri hakkında daha fazla düşünmek olabilir. Bazı ülkeler ve şehirler de "evrensel kişisel gelir" sisteminin (UPI, evrensel kişisel gelir) denemesini keşfetmeye başladılar, ancak bu, birlikte düşünme ve uygulama için küresel bilgelik ve güç gerektiren bir sorun olmalı.

Uluslararası toplum, verileri örnek alarak, kurallar ve kurumlar düzeyinde, modern insanlık tarihinde, gerçek kişilerin sınır ötesi hareketini, gemi ve uçak gibi araçların sınır ötesi hareketini ve sermaye ile malların sınır ötesi hareketini oluşturmuştur. Genel olarak kabul edilen kurallar ve kurumsal düzenlemeler. Günümüzde bir kaynak olarak verinin önemi gün geçtikçe artmaktadır ve aşağıdaki soru şudur: Sınır ötesi veri aktarımı için hangi kurallara ve hangi kurumsal düzenlemelere uyulmalıdır? Verilerin üreticisi, kullanıcısı, ihracatçısı ve alıcısı gibi paydaşlar hangi hak ve yükümlülüklerden yararlanır? Yerel veri depolama ile sınır ötesi aktarım arasındaki ilişki nedir? Devlet ile veri şirketleri arasındaki ilişki nedir? Bunlar gelecekteki küresel yönetişimin sorunları olacaktır. 2019'da G20'nin ev sahibi olan Japonya, küresel veri yönetimini G20 gündemine eklemeyi önerdi.

Dört, nasıl seçmeliyiz?

Şu anda, yapay zeka teknolojisinin ön saflarında yer alan bilimsel araştırmacılar bile, insanların insan zekasına ulaşan robotlar yaratabilmeleri için daha yapılacak çok yol olduğunu kabul ediyorlar. Şu anda, yapay zekanın getirebileceği güvenlik tehditleri, insanların kendilerinin insanları tehdit etmek için yapay zeka kullanmasıdır. Bu nedenle, yapay zeka teknolojisinin ilerlemesindeki en acil ahlaki konu, insanların kendi kendini sınırlamayı nasıl kullandığıdır.

14 Ekim 2015 tarihinde, "Smart Square" adlı bir organizasyon, uluslararası konulardaki birkaç uzmanı New York'ta bir tartışmaya davet etti: Konu şuydu: Çin ve Amerika Birleşik Devletleri uzun vadeli düşman mı? Chicago Üniversitesi'nde siyaset bilimi profesörü olan Mearsheimer, şaşırtıcı olmayan bir şekilde "büyük güç siyasetinin trajedisinden" bahsetmişti. Rakip olarak Rudd'un hafızasında taze bir cümle var. Diplomasinin zorluğunun savaşların önlenmesini sağlamak olduğunu söyledi ve bunu yapabileceğimize inanıyorum. Rudd'un mantığı aynı zamanda yapay zeka için de geçerlidir. Yapay zeka, iyi veya kötü olabilen bir teknolojidir. İyinin ve kötünün yargısı ve seçimi, insanlığın tamamen oybirliğiyle bir görüşe sahip olması için eski ve zor bir felsefi önerme olsa da, rasyonaliteye ve modern medeniyete sahip insanlar, iyiye mi gideceklerine yoksa insanlığın temel hayatta kalmasıyla ilgili büyük bir meseleye mi gideceklerine karar verebilmelidir. kötü.

Haziran 2018'de yazar iFLYTEK Beijing Co., Ltd.'yi ziyaret etmeye davet edildi ve gelecekte insan çevirisi ile makine çevirisi arasında rekabet olup olmayacağını tartıştı.Şirketten sorumlu kişi, yapay zeka çeviri teknolojisini geliştirmenin amacının insanların yerini almak olmadığını belirtti. Çevirinin daha doğru ve kolay çalışmasına yardımcı olur. Bu, yazara ilham veriyor. Sonuçta, Yoldaş Mao Zedong'un dediği gibi, "Savaşın zaferini veya yenilgisini belirleyen bir veya iki yeni silah değil, halktır." İnsanoğlunun yapay zeka teknolojisini geliştirmesinin amacı, insanlığa hizmet etmektir.İyi bir kullanım mı yoksa kötü niyetli bir uygulama mı olduğu sonuçta teknolojiye sahip kişiye bağlıdır.

Düzenle ilgili güncel uluslararası tartışma çok canlı.NEW COLD WAR 20183·You have no choiceyou cant stop growing and they cant stop worrying

204050

2018

20132017167/WOS5957325.023252713.664307

201892018

201901

Otobüsü 50 metre kovalamak ve şoföre kapıyı uzun süre açması için yalvarmak Şanghay otobüs hattına kim daha iyi hizmet edecek?
önceki
Yaşlı adam gözaltında birden fazla travma ile hayatını kaybetti. Gözaltı merkezi: Alkol kullanmadığı için
Sonraki
Nanjing Xianlin Maratonu bu Pazar başlıyor, 26 otobüs güzergahı ayarlandı!
Cep telefonu işi karşı saldırıları, Huawei bu yıl Apple'ı geçebilir mi?
Ma Long sakatlık nedeniyle takımın maçından çekildi Ulusal masa tenisi "yaşlanma" krizi mi yaşıyor?
Eski ulusal liderlerin portreleri kar için satıldı Panorama Network: Hiçbir telif hakkı para satışını engellemez
Turşuların Koreli olduğunu söylemek için, bu köklü markalar ilk reddedenler.
"Tavsiye" 11 yıllık ehliyet almak için 40.000 aldı. O gece çok heyecanlandı ...
Jiaozuo Turizm Bürosu "4 milyon logo tasarımına" yanıt verdi: 200.000'den az
Li Qiang, Şangay tıp kolejlerini ve üniversitelerini araştırıyor: tıbbi beceriler mükemmel olmalı, tıp etiği asil olmalı
Adam 4 yaşındaki kızını anaokuluna gönderdi, çocuğu arabada bıraktı ve telefonu açtıktan sonra boğularak öldü
"Görsel Çin", kral veya haraç
Bir grup insan sorgumun etrafında eğildi ve tütsü için para ödedi
Ailede hamile bir eş var ama adam hala sarhoş ve araba kullanıyor ve hala "bitkin" mi? en sonunda
To Top