Liu Zhe: Çin robot etik standartları? "De-antroposentrizm" Perspektifi Inter Yıllık Mülakat 1
Giriş Şu andan Bahar Şenliği'ne kadar, Wenhui Lecture Hall, Çin'in geçen yıl ve yeni yılda bazı yeni alanlarda konuşma hakkını inşa etme sürecine odaklanarak art arda 4 yıllık röportaj yayınlayacak. İlk makale Çin'in robot etiği standartlarına odaklanacak.
2019'un hemen sonunda, "Çin'de Robot Etiği Standardizasyonunun Öngörüsü (2019)" yayınlandı. Birleşik Krallık, Amerika Birleşik Devletleri ve Avrupa Birliği'nin ardından, Çin'in robot etik standart sistemi şekillendi ve insanlığın küresel robot etik riskleriyle baş etmesi için bir "Çin çözümü" sağladı. Bu felsefi öncülüğündeki "Çin Optimal Ortakyaşam Tasarım Programı" (COSDP) bu alanda dünya için hangi yeni perspektifleri araştırıyor? Öngörülebilir gelecekte, Çin'in robot etiği standardizasyon çalışmaları nasıl ilerleyecek? 2019'un son gününde Wen Wei Po muhabirleri Li Nian ve Dr. Liu Mengci, Çin'deki yeni teknolojilerin gelişimi ve küresel insanlığın geleceği ile 2020'yi karşılamak için "Ulusal Robotik Etik Standardizasyon Teknik Raporu" projesinin ekip lideri ve Pekin Üniversitesi Felsefe Bölümü direktör yardımcısı Liu Zhe ile röportaj yaptı. Yılın yeni başlangıcı.
Dünyadaki 54 robot etiği belgesi arasında felsefe öncülüğündeki tek robot etiği standardı tasarımıWen Wei Po: Mayıs 2017'de, Çin'in ilk robotik etiği standart semineri Tsinghua Üniversitesi'nde düzenlendi; aynı yılın Temmuz ayında robotların etik standardizasyonu "WRC2017 Dünya Robot Konferansı Standardizasyon Oturumu" nda önemli bir konu haline geldi. 2018 yılında, Pekin Üniversitesi Felsefe Bölümü, "Çin Robotik Etik Standardizasyon Perspektifi (2019)" (bundan böyle "Öngörü" olarak anılacaktır) derlemesinde başı çekti; bu, felsefe ve diğer beşeri bilimlerin yalnızca teorik olarak yapay zeka gibi gelişen bilim ve teknolojiyi tartışmakla kalmayıp aynı zamanda Endüstriyel gelişimini etkili ve somut olarak etkiledi. "Çin Robotik Etik Standardizasyon Komitesi" çalışma grubu başkanı ve Pekin Üniversitesi Felsefe Bölümü müdür yardımcısı olarak, sizce bu disiplinler arası araştırmaya felsefe ne yön veriyor?
Liu Zhe: Bu çok ilginç bir soru. Felsefe tarafından yönetilen bir araştırma ekibinin anlaşılması aslında zor değil. Bir yandan yapay zeka ve robotik teknolojisinin gelişmesiyle birlikte insan toplumuyla sınırlı kalmayıp hayvan ve çevre alanlarına da uzanan epeyce etik sorun var.Bu tür etik değerlendirmelerde yer alan temel kavramlar ve temel teorilerle karşılaşılacaktır. Pek çok zorluk, bu anlamda felsefi düşünme doğal olarak ön plana çıktı. Öte yandan, bunun Çin kültür gelenekleriyle bir ilgisi var Çin'de herkes etiği düşündüğünde, genellikle bunu önce felsefeyle ilişkilendiriyorlar. Bununla birlikte, ekibimiz sadece filozof değil, aynı zamanda yapay zeka, bilgisayar ve robotik alanlarında da uzmandır. Danışma komitesinde sanayiden, devlet dairelerinden ve yabancı uzmanlardan çok sayıda üye var. Bu gerçekten çok özel bir ekip. İstatistiklere göre bugüne kadar yapay zeka ve robotik alanında "Öngörü" dahil olmak üzere 54'e yakın etik belge bulunuyor. Bazıları etik kılavuzları, bazıları etik beyaz kağıtları ve bazıları etik beyannameleridir, ancak bizimki felsefenin hakim olduğu tek etik sistem olabilir. Diğer 53 belgeyle karşılaştırıldığında, bu etik standardizasyon çalışması belirli sorunlar ve önlemlerle karşı karşıya kalırken, aynı zamanda etik yansıtma daha sistematiktir.Bu aynı zamanda diğer belgelerin dokunma ihtimali olmayan bazı teorik konuları da araştıracaktır. Ayrıca ortak sorunlar için farklı teorik değerlendirmeler de ortaya koyuyoruz.
Wen Wei Po : Bildiğiniz kadarıyla ülke genelindeki üniversitelerde felsefe bölümleri gibi disiplinler arası çalışmaların mevcut gelişimi nasıl? Bu işbirliği döneminden sonra, bu tür çalışmaların liberal sanat akademisyenlerinin bilgi rezervi için ne gerektirdiğini düşünüyorsunuz?
Liu Zhe: Çin üniversitelerinde açılan felsefe dallarında her zaman bilim felsefesi ya da bilim ve teknoloji felsefesi, teknoloji felsefesi vardı. Son yıllarda teknoloji felsefesi, akıllı robot teknolojisi de dahil olmak üzere yapay zekanın hızlı gelişimiyle ve üretimde ve yaşamda uygulanmasının getirdiği bazı problemlerle çok ilgili olan son teknolojiye odaklanmaya doğru kaymıştır. Farklı bilim adamlarının tartıştığını görüyorum, farklı teorik geleneklerden başlıyorlar ve bazıları "Öngörü" nden daha çok ilgileniyor. Elbette bu alanı sorgulayan sesler de var.
Liberal sanat akademisyenleri için disiplinler arası araştırma, mevcut bilgi birikimlerinin zenginliğini gerektirmez, ancak en azından araştırmacıların geleneklere bağlı kalmaktan ziyade teorik keşif için çok açık fikirli ve meraklı olmasını gerektirir. 19. yüzyılın ikinci yarısından itibaren disiplinler giderek farklılaştı ve daha uzmanlaştı.Biber sanatlar ve bilimler birbirinden bağımsız olarak kendi işlerini yapıyor gibi görünüyor. Bu nedenle, birçok insan disiplinlerarasılığın bilim ve mühendislikten bir konu, beşeri bilimler ve sosyal bilimlerden bir konu almak anlamına geldiğini düşünür ve iki grup insan bir araya gelir. Bu anlayış uygunsuz. Disiplinlerarasılığın gerçek anlamı, farklı disiplinlerden bilim adamlarının bazı yeni sorunları konuşmalar ve tartışmalar yoluyla görebilmeleridir.Bu sorunlar tarihteki herhangi bir disipline ait olmayabilir. Gerçek disiplinler arası araştırma, tam da gelecekte ortaya çıkan disiplinlerimizin ortaya çıkması ve gelişmesi için ilk soruları ve keşifleri sağlamaktır.
Dünyanın dört bir yanındaki üniversiteler ve araştırma enstitüleriyle işbirliği yaparak, küresel bir rasyonel tartışma alanı oluşturmayı dört gözle bekliyoruzWen Wei Po: Avrupa ve Amerika ülkeleri, beşeri bilimlerin ve gelişen teknolojilerin disiplinler arası inşasına daha önce başladı. Örneğin, 2005 yılında "Avrupa Robotik Araştırma Ağı" özellikle robotik etiği araştırmalarındaki araştırmacıları finanse etmeye başladı; İngiltere Batı Üniversitesi beşeri bilimler dahil bir robotik departmanı açtı ve 2016'da ilk robotik etik standardını yayınladı. Bildiğiniz kadarıyla, şu anda Çin'de bu tür disiplinlerin inşası, bu alanlarda Çin ve Batı felsefesinin söylem gücünün oluşumu için daha fazla rekabet veya işbirliğine sahip mi?
Liu Zhe: Yapay zeka, robotik, biyoteknoloji, malzemeler, çevre bilimleri vb. Gibi disiplinler arası araştırma açısından Avrupa, Amerika ve Japonya'da daha önce başlatıldı ve bilimsel araştırma ve geliştirme de çok ileri düzeydedir. Kurumsal ortamlar açısından bakıldığında, Çin'de, Pekin Üniversitesi'nin en azından disiplinler arası araştırma alanı artık temelde uluslararası üne sahip üniversitelerle senkronize olmuştur. Örneğin, 2018'in sonunda, Pekin Üniversitesi Felsefe Bölümü iki disiplinler arası araştırma merkezi kurdu: Pekin Üniversitesi Felsefe ve İnsan Araştırmalarının Geleceği Merkezi ve Pekin Üniversitesi Berggruen Araştırma Merkezi.
Şu anda, bu alanda uluslararası alanda bilim adamları işbirliğine vurgu yapıyorlar çünkü disiplinlerarası sistemin karşılaştığı yeni sorunlar belli bir ülke, bölge veya millet için değil, tüm insanlık için yeni zorluklar için. Son yıllarda Pekin Üniversitesi'nin bu çalışması, Cambridge Üniversitesi, Yale Üniversitesi, Oxford Üniversitesi ve Tokyo Üniversitesi gibi dünya çapında ilgili alanlarda birçok üniversite ve araştırma enstitüsü ile işbirliği yapmıştır. Yeni bir rasyonel tartışma alanı oluşturmayı dört gözle bekliyoruz ve karar vericilere politika oluşturma için daha sağlam bir temel sağlıyoruz.Teknoloji geliştikçe ve insan üretimi ve yaşam alanına girdikçe, riskleri anlamak ve bunlara yanıt vermek için daha iyi bir teorik perspektife sahip olabiliriz, meydan okuma.
Akıllı cihazlar "özerk ajanlar" olarak kabul edilebilir, robot etiğinin öz farkındalığını araştırmak genişlemedirWen Wei Po: Daha önce çağdaş Alman felsefesi ve Fransız fenomenoloji araştırmalarıyla uğraşıyordunuz. 2018'de 24. Dünya Felsefe Konferansı Çin Organizasyon Komitesi'nin yönetici sekreteri olarak görev yaptınız. Aynı zamanda "Ulusal Robotik Etik Standardizasyon Teknik Raporu" na başkanlık etmeye başladınız. Felsefe ve teknoloji (özellikle robotik etiği) üzerine disiplinler arası araştırmalarla ilgileniyor musunuz? Disiplinlerarası araştırma bir zorluktur Bu çalışmayı gerçekleştirmek için National Robotics Group ile işbirliği yaparken herhangi bir güçlükle karşılaştınız mı?
Liu Zhe: En son teknolojiye her zaman ilgi duymuşumdur Geçmişte biyoteknoloji ile ilgili birçok okuma hazırlığı yaptım. Ayrıca uzun zamandır ana araştırma alanım öz farkındalık ve öznellik teorisi, aslında akıllı cihazlar belli bir özerkliğe sahip ajanlar olarak kabul edilebilir. Dolayısıyla robot etiği üzerine araştırma yapmak benim için yeni bir başlangıçtan çok bir genişlemedir. Ama sonuçta, başlangıçta bu alan benim ve proje ekibinin üyeleri arasındaki ilk temas oldu, bu yüzden farklı dillerde çok sayıda uluslararası literatür okumalıyız ve diğer uluslararası ve kurumların ortaya koyduğu yapay zeka ve robotik etik sistemlerini anlamamız gerekiyor. Bu temelde, uluslararası fikir birliği arayın. Bu karmaşık bir görev. Ayrıca 2018'de Pekin Üniversitesi 24. Dünya Felsefe Konferansı'na ev sahipliği yaptı.Proje ekibinin birçok üyesi ve ben konferansı düzenlemekle meşguldük. Ancak beni etkileyen ve beni etkileyen şey, yüksek hızlı çalışma sırasında herkesin robotik etik standartları üzerine beyaz kitap araştırma projesine hala zaman ayırmasıydı. 2018 Bahar Şenliği boyunca hiç dinlenmedik. Herkes bu araştırmanın çok önemli ve anlamlı olduğunu düşünüyor.
Wen Wei Po: Kasım 2019'un sonunda Peking University Press tarafından "Öngörü" yayınlandı.Kitap, Çin robotları için bir dizi etik standartlar - "Çin Optimal Simbiyoz Tasarım Programı" (COSDP) sağlar. Son birkaç yılda BSI, IEEE ve Avrupa Komisyonu'nun üç büyük kurumu tarafından yayınlanan robotla ilgili etik belgeleriyle karşılaştırıldığında, Çin'deki bu program dizisindeki benzerlikler ve farklılıklar nelerdir? Ülkemizin bu robot etiği standartları setinin, dünya robot endüstrisinin gelişimini teşvik etmek için önemi nedir?
Liu Zhe: Robot etiği araştırmalarında Çin ve dünyanın karşılaştığı sorunlar aynıdır.Bu nedenle robot etiği standardizasyon sistemi tüm insanlığın karşı karşıya olduğu bu durum, çeşitli ülkelerdeki farklı etik standartlar arasındaki karşılıklı anlayışın derinleştirilmesi ve rasyonel olarak savunulabilecek uluslararası bir uzlaşı aranmasını gerektirir. . Ülkemizin benzersizliği söz konusu olduğunda, sadece Çin değil, uzun kültürel geleneklere sahip tüm ülke ve bölgeler, geleneksel etik değerler ile modern dünyanın etik değerleri arasındaki gerilimle karşılaşacaktır. O halde, geleneksel etik ile modern etik arasındaki gerilimi hafifletmek ve hatta bütünleştirmek için hatırı sayılır entegrasyon gücüne sahip bir dizi etik modele ihtiyaç vardır.
"Çin'in Optimal Ortakyaşam Tasarım Programı" nın arkasındaki çok önemli bir bakış açısı, "antroposentrizm" dir. Bugün, Avrupa ve Amerika ülkelerinde, genellikle "insanmerkezcilik" bakış açısına sahip bir yapay zeka araştırmasıdır. Hiçbir araştırma kurumunun sözde "insan merkezli" yolunun anlamını tam olarak açıkladığını görmedik. Bununla birlikte, etik değerlendirmelerde insan merkezcilik, etik değer yargısının kapsamının insan hakları ve insan çıkarlarıyla sınırlı olduğu anlamına gelirken, "deantroposentrizm" insan ve insan ve insan ile doğa arasındaki genel ilişkiyi dikkate almalıdır ve Akıllı robot ürünleri de dahil olmak üzere yapay zeka ürünleri genel ilişkiye dahil edildiğinde, taşıması gereken değer özelliği. Bu anlamda, "Çin'in optimize edilmiş simbiyoz tasarım planı", bugün ve gelecekte öngörülebilir 10-15 yıl içinde yapay zeka ve robotik teknolojisinin teknolojik gelişiminin getirebileceği zorlukların nasıl üstesinden gelineceği konusunda çok benzersiz bir bakış açısı sunuyor. .
Wen Wei Po: Çin Ulusal Robot Standardizasyon Grubu'nun 2019 yıllık toplantısının o yılın Aralık ayı sonunda yapıldığı bildirildi.Bu toplantıda Ulusal Robot Standardizasyon Grubu'nun robot etiği standart sisteminin iyileştirilmesi ve uygulanmasını teşvik etmek için bundan sonraki planları nelerdir?
Liu Zhe: Çin Ulusal Robot Standardizasyon Grubunun yıllık toplantısı robotik endüstrisinin, akademinin ve araştırmanın genel çalışması etrafında düzenlenmektedir.Etik standartlar, standardizasyon çalışmalarında nispeten yeni bir alandır. Şu anda, Ulusal Robot Standardizasyon Grubu dahil Ulusal Standardizasyon Yönetim Komitesi için robot etiği standartlarının nasıl uygulanacağı hala bir soru işaretidir. Teorik modellerin, kanunların ve düzenlemelerin formülasyonu ile politika formülasyonu arasında etkili bir etkileşimli ilişkinin nasıl oluşturulacağı hala belirsizdir. Ek olarak, akıllı robotlara ek olarak, geleneksel robotların etiğinin de tamamlanması gerekir.
Bu konferansta, genel ekip lideri bilimsel araştırma ve endüstri analizinde, ortaya çıkan robotlar ve insanlar arasındaki işbirliğinin sadece geleneksel endüstriyel robotlarda kalmak yerine insan yaşamına daha yakın ve entegre hale geldiğinden bahsetti. Kapsama alanında. Bir yandan teknolojinin gelişimi çok hızlı, diğer yandan yönetişim kavramı ve arkasındaki felsefi yansıma aslında teknolojik değişikliklerin çok gerisinde. Çin'in yapay zeka ve robotik etik standartlarının formülasyonu, iyileştirilmesi ve uygulanmasının ilerletilmesi için hala yapılması gereken çok iş olduğunu görmek zor değil.
Wen Wei Po: Günümüzde yapay zeka teknolojisinin hızla ilerlemesiyle birlikte robotların uygulaması sosyal hayata girmiş ve sanayi, tıbbi bakım, ev hizmetleri ve askeri alanlarda önemli rol oynamıştır. Aynı zamanda robotların uygulanması, işgücünün yerini alan robotların neden olduğu işsizlik sorunu gibi yeni endişelere de yol açmıştır. Sizce mevcut robot geliştirme ve uygulamasındaki etik riskler nelerdir?
Liu Zhe: Her farklı robot türünün etik risklerinin farklı tezahürleri vardır. Şu anda gerçek etik riskin, halkın doğrudan gördüklerinde yatmadığına inanıyorum. Örneğin, endüstriyel robotlar, insanlara verilen bazı geleneksel görevleri gerçekten ortadan kaldıracaktır. Bununla birlikte, görevlerin ortadan kalkması, görevlerin ortadan kalkması ile aynı değildir.Bir pozisyon, birçok farklı görevi ayırt edebilir ve insanlar, benzersiz değerlerini en iyi gösteren görevlerle meşgul olmalıdır. Bence gerçek etik risk, insanların bu konular hakkındaki düşüncelerinin arkasındaki etik bakış açısında yatıyor Robotların etiği hala insanmerkezcilik açısından bakılıyorsa, bence en büyük risk bu olabilir.
Wen Wei Po: Robotik endüstrisinin teknolojik ilerlemesinin büyük ölçüde piyasa ve ekonomik faydalardan kaynaklandığına dair bir görüş var. "Robotlar için etik standartların belirlenmesi, robotların teknolojik yenilikçiliğinin önünde bir engeldir." Bu görüşü nasıl değerlendiriyorsunuz?
Liu Zhe: İnsanların robotik endüstrisinin piyasa tarafından yönlendirildiğini düşünmelerinin nedeni, II.Dünya Savaşı'ndan bu yana piyasa ekonomisindeki gelişmenin bir eğilim getirmesidir: ulusal kalkınma her bireyin ihtiyaçlarını karşılamalıdır. Bununla birlikte, teknolojik yeniliği yalnızca piyasanın insanların maddi çıkarları tarafından yönlendirilmesine izin vermek olarak görürsek, bu riskler ve felaketler getirecektir. Şu anda nanomateryaller, biyoteknoloji, yapay zeka ve robotik gibi yeni teknolojiler kendi gelişimlerinin dönüştürücü özelliklerini göstermektedirler Dönüştürücü, Ortaya Çıkan ve Yıkıcı özelliklere sahiptirler. Bu nedenle, yeni teknolojik yeniliklerin gelişimini teşvik etmek için "kullanıcı merkezli" modelin dikkate alınmadığını düşünüyorum.
Son birkaç on yılda teknoloji felsefesinin geliştirilmesinde, insanlar giderek daha fazla fikir birliği oluşturdular - tüm eserler tasarımcıların ve üreticilerin değer tercihlerini yansıtıyor, bu nedenle teknik ürünler, insanların genellikle düşündüğü kadar değer açısından tarafsız değil nın-nin. Pazar ekonomisi tarafından desteklenen tek gelişme modeli, teknolojik yenilik ile etik değer kısıtlamaları arasında bir çatışmaya neden olacaktır. Robotlar için etik standartlar belirlemek, araştırma ve geliştirme ve tasarımın başlangıcında insanların, diğer türlerin ve çevrenin genel değerini daha iyi göstermesi için yapay zeka ve robotiklere rehberlik etmektir.Bu bir engel değil, teknolojik inovasyona bir teşviktir.
Wen Wei Po : Bazı bilim adamları, mevcut insan uygarlığının teknolojik uygarlık çağına girdiğini, gerçek kişilerin teknolojikleşme sürecinden geçtiğini ve hatta teknolojinin artık insanlar tarafından kontrol edilmediğini belirtmişlerdir. Örneğin Francis Fukuyama, "İnsan Sonrası Geleceğimiz" kitabında biyoteknolojinin insan doğasını değiştireceğine dikkat çekti. Sizce insan etiği ile robot etiği arasındaki ilişki nasıl anlaşılır? Gelecekte insan toplumunun etik düzeni, robotlar dahil yapay zekanın etik düzeninden etkilenecek ve değişecek mi?
Liu Zhe: İnsanları ve robotları genel hedef mekanizmasının değerine dahil ettiğimizde, yani insanlar ve makineler arasındaki etik ilişkiyi düşünürken, insanların ve robotların ayrı ve bağımsız değer özelliklerinden değil, bir bütün olarak "insan-makine ilişkisinden" başlamalıyız. Değer özelliğinden başlayarak, bu tür bir sorun büyük olasılıkla ortaya çıkmayacaktır. Tasarımcının robot etiği oluşturmaya hazırlanırken dikkate aldığı değer, en başından itibaren belirli bir insan-makine ilişkisinin şekillenmesine dayanmaktadır ve böyle bir etik ilişki simbiyotik bir sistemdir.
Ayrıca bilim kurgu filmlerinden de benzer hayal gücü gelebilir. Teknoloji felsefesi alanıyla ilgilenen halk ve birçok bilim insanı, yapay zeka ve bilim kurgu filmlerinden robotların getirdiği çeşitli etik riskler ve zorluklar hakkında rahatlıkla düşünebilir. Bunu yapma riskinin çok büyük olduğunu hatırlatmak isterim, bu da genellikle yapay zeka ve robotikten kaynaklanan yakın etik risklere ve sonuçlara göz yummamıza neden olur. Dahası, bilim kurgu filmlerinin arkasındaki medya anlatı mantığı, yeni teknolojilerin etik risklerine ilişkin çoklu perspektiflerimizi büyük ölçüde daraltabilir. Yapay zeka ve robotik teknolojisinin mevcut gelişme durumunun yanı sıra öngörülebilir gelecekte teknolojik gelişme beklentileriyle daha doğru ve kapsamlı bir şekilde yüzleşmemiz gerekiyor.Bu, gerçekten güvenilir bir etik teorik düşüncenin öncülü ve temelidir.
Yazar: Li Nian Liu Mengci Editör: Li Nian Liu Mengci Sorumlu editör: Li Nian
