Başkan adayı robotlar, robot etiği hakkında konuşma zamanı
AI robot belediye başkanı için çalışıyor!
Evet, bilim kurguda var olan bu tür olay örgüsü artık gerçek hayata da yansıyor. Kısa bir süre önce, bir Japon robotu tüm vatandaşlara eşit ve tarafsız davranma sözü vererek Tama Şehri belediye başkanlığına aday gösterildi. Kampanya sloganı "Herkese adil ve eşit fırsatlar sağlayın" idi.
Japonya'nın Tama belediye başkanı adayı robotlar
İlk başta insanlar bunun sadece adayların cosplay'i olduğunu düşündüler, ancak daha sonra bunun sahte bir robot olduğunu keşfettiler. Daha sonra, AI adayı kendi resmi Twitter hesabını açtı ve kampanya hakkında siyasi görüşünü verdi: Politika daha adil hale geldi.
Daha sonra robot, kendine ait birkaç büyük kampanya avantajından da bahsetti:
- Robotların duyguları ve istekleri yoktur, hükümet işleriyle uğraşırken ne kişisel duygular besleyecek ne de yolsuzluğu önleyecektir;
- Robotun dinlenmeye ihtiyacı yoktur ve uzun süre yüksek yoğunlukta çalışabilir;
- Yaşla birlikte insan hafızasının bozulmasıyla karşılaştırıldığında, robotlar her zaman büyük miktarda bilgi depolayabilirler.
- ...
Kaynak: AImayor
Tesadüfen, Yeni Zelandalı bir önceki robot memur "Sam" de yeterince göz bebeği kazandı. "Sam" konut, eğitim ve vatandaşların gündeme getirdiği göçle ilgili soruları cevaplayabildi ve kendisi kararlar verdiğini "söyledi". Herkesin konumu dikkate alınacaktır.
Bu gerçekten doğru mu? Bir robotun belediye başkanı olması güvenilir midir? Akıllı görelilik teorisi üzerine bir analist olan Ke Ming, robotların belediye başkanlığı için gerçekten nitelikli olmasını istiyorsanız veya hatta robotların büyük ölçekte geleneksel memurların yerini almasına izin veriyorsanız, bu konular hakkında düşünmeniz gerektiğine inanıyor.
Robotlar ahlaki özneler olabilir mi?
Bir şeyler yapmak istediğiniz için, olası hatalarınızın sorumluluğunu almalısınız. Ancak robotlar bağımsız olarak kendi sorumluluklarını üstlenebilir ve ahlaki özneler haline gelebilir mi? Ünlü John Searle "Çin Odası" deneyine bir göz atalım:
Yalnızca İngilizce konuşan bir kişinin bir odada olduğunu ve kapalı bir odada yalnızca Çince çeviri programı olan bir kitap taşıdığını hayal edin. Çince yazılmış kağıt küçük bir pencereden odaya gönderildi. Searle'e göre, odadaki insanlar kitabını bu kelimeleri tercüme etmek ve Çince cevaplamak için kullanabilir. Hiç Çince konuşamasa da Searle, bu süreç boyunca odadaki insanların odanın dışındaki herkesi akıcı Çince konuşabileceğini düşündürebileceğine inanıyor.
"Çin Odası" deneyi
Tabii ki, "Çin Odası" deneyi, yapay zeka konusunda da bazı tartışmalara neden oldu.
Ancak bu tartışmada insanlar yapay zekanın özerk ahlaki tasarımı olasılığını göz ardı etmemişler ve aslında yapay zekanın tasarımı, ahlaki bir özne olarak bir failin kurulmasından farklıdır. Bilinç ve anlayış gibi kavramların anlaşılması, temelde robotların etik standartlara uygun davranmasını sağlamakla ilgili gerçek konularla ilgisizdir.
Ardından, insan ahlakının robotik alanında belirli bir uygulanabilirliği olup olmadığına bakalım.
Ahlaki normlar günlük hayatımızda ve aynı zamanda organize sosyal faaliyetlerde evrenseldir.Marx'a göre ahlak, belirli bir ekonomik temele yanıt veren bir üstyapıdır.
Bununla birlikte, yapay zeka biliminin hızlı gelişimi ve otonom robotların yaygın varlığı ve uygulaması nedeniyle, otonom robotlar zaten renkli dünyamızdaki hayata katıldı ve dünyanın otonom robotların ahlaki durumunu tartışmaktan başka seçeneği yok.
Wendell Wallach ve Profesör Colin Allenın "Etik Makineler: Robotları Yanlıştan Doğru Ayırt Etmesini Sağlama" adlı kitabı, robotların ahlaki sorumluluk ve yapay ahlaki aracılar (AMA) taşıyıp taşımaması gerektiğine veya taşıyıp taşımayacağına dair çözümler sunar. :
- Birincisi yukarıdan aşağıya teorik bir yaklaşımdır, yani robotun ustalaşması gereken bilgi ve beceriler bir dizi algoritma kuralına dönüştürülür ve bu kurallar "biliş" elde etmek için robotun "beynine" yerleştirilir;
- Diğeri, çocukların büyüme sürecini simüle ederek, robotların farklı ortamların etkileşiminde karmaşık davranışları ve bilişsel yetenekleri ve bilgileri öğrenmesine olanak tanıyan aşağıdan yukarıya bir yaklaşımdır.
Hizmet robotlarının (memurlar gibi) mevcut performansına bakılırsa, derin öğrenmesi ve yüksek derecede otomasyon hala doğasında var olan hastalıklara dayanmaktadır. Robotların kendilerinin ahlaki öznelliğinden bahsetmek için henüz çok erken olabilir.
Robot memurlar gerçekten tarafsız olabilir mi?
Belediye başkanlığı için koşan Japon yapay zeka robotundan Yeni Zelanda robotu "Sam" e kadar hepsi adalet ve özveriliğini destekliyor.
Ancak "süper yapay zeka" ya ulaşmadan önce robotların kendi fikirlerini oluşturması zor. Algoritmik önyargıların üstesinden gelinmesi ve eleştirilmesi her zaman zor olmuştur.
Sözde "algoritmik önyargı", görünüşte kötü niyetli program tasarımında, tasarımcı veya geliştirici tarafından bilinçsizce önyargılı olduğu veya programı hazırlama sürecinde kullanılan verilerin önyargılı olduğu anlamına gelir.
Bu durumun sonuçları çok büyük, örneğin Google araması yanlış yorumlanıyor, nitelikli adaylar tıp fakültesine giremiyor, chat botları Twitter'da ırkçı ve cinsiyetçi bilgiler yayıyor.
Algoritmik önyargının neden olduğu en zor sorunlardan biri, program tasarımına dahil olan mühendislerin ırk, cinsiyet veya yaşa karşı ayrımcılık yapma eğiliminde olmasalar bile önyargıya neden olabilmeleridir. AI, esasen kendi başına öğrenmek için tasarlanmıştır ve bazen hatalar yapar.
Yapay zeka işe alım alanında, en tipik örneklerden biri, en iyi orkestraların seçilmesidir. Eskiden klasik müzik erkekler tarafından yönetilirdi, ancak 1970'lerde en iyi orkestralardaki kadın müzisyenlerin sayısını beş kat artıran kör seçmeler tanıtıldı. Yukarıdaki.
Ancak bu temel sorunu çözmedi: Kör seçmelerle seçilen ilk kadın grubu hala günlük performanslarına entegre olamadı ve grup başka erkek oyuncular bulmak zorunda kaldı.
Ve AI işe alımımız: tıpkı bir orkestranın perdesi gibi, Makine öğrenimi, uzun süredir devam eden önyargıları ortadan kaldırma potansiyeline sahip bir paradigma değişimidir, ancak yüzyıllardır süregelen önyargıları kendi başına çözemez.
Robotik memurlar alanına dönersek, çalışmalarının bir "değer yargısı" kısmı da vardır: Örneğin, malzemelerin eksiksizliği nasıl raporlanabilir? Organizasyon Departmanının değerlendirme ve değerlendirme standardı nedir? Bir belediye başkanı olarak, günlük olayların muhakemesi belirli standartlar gerektirir. Robotların mevcut derin öğreniminin başarabildiği şey, bir kez daha algoritmik önyargının küstahlığına giren "algoritma yargılamasıdır".
Hizmet tipi memur robotları, kolaylıkla çalışmalarına izin vermeye cesaret ediyor musunuz?
Aslında halk, robotların belediye başkanı da dahil olmak üzere devlet memurlarının yerini almasına izin vermiyor.
Belediye Başkanı AI, Japon seçimlerinde mağlup oldu ve mükemmeldi. Japonya'nın Tama kentinde yapılan son referandumdan itibaren, "AI Belediye Başkanı" sadece 4.013 oy aldı ki bu, mevcut Tama Abe Belediye Başkanı'nın aldığı 34.603 oydan çok farklı.
David ve annesi arasında "Yapay Zeka" daki bir konuşma etkileyici. David, annesine akşam yemeğinde ne yiyeceğini sorduğunda, annesi ona robotun yemek yiyemediğini söyledi. David, "Biliyorum ama ailemle masada oturmayı seviyorum" dedi.
Oyundaki aktörün dediği gibi, David sevmeyi bildiği için nasıl nefret edileceğini de bilmelidir. Yapay zeka daha gelişmiş ve zeki hale geldiğinde, bilimin keskin bıçağı insan elinden mi kesilecek?
Tıpkı mevcut robotik cerrahi, robotik yönetim finansmanı ve diğer alanlarda olduğu gibi, birçok insan hala buna tam olarak güvenemiyor. Sonuçta, robotlar biraz "popülaritesini" yitirdi. Memurlar alanında, yüz yüze sorgulama yok, sadece kanıt elde etmek için rutin prosedürler yok ve iş daha az eğlenceli görünüyor.
Ayrıca robot memurların uygulama kapsamı oldukça dardır. Mevcut bakış açısına göre, dünyanın dijitalleşmesi derinleşmeye devam ederken, kişisel bağlantılı dijital bilgilerin yerini yavaş yavaş, sosyal güvenlik işlemleri, yurtdışına çıkma vizeleri, vergilendirme vb. Gibi robotlar alabilir; Foxconn fabrikalarındaki geleneksel robotların yerini başka bir tür memur robotu almıştır. İşçilere benzer şekilde, robotlar da personelin kimliğini biyometri yoluyla doğrulama gibi görevleri yerine getirebilir.
Ancak, AI mükemmelliğe ulaşmadı. Örneğin, birçok geliştirici önyargılarını genellikle yapay zeka projelerine yazar.Yakın zamanda yapılan bir araştırma, yapay zeka dil çeviri araçlarının ırkçı ve cinsiyetçi önyargılara sahip olduğunu buldu.
Asimov "Ben, Robot" kitabında üç robot yasasını önerdi:
- Birinci yasa: Robotlar insanlara zarar vermemeli veya tehlikeye maruz kalacaklarını görmezden gelmemelidir;
- İkinci yasa: Robot, birinci yasa ile çelişmediği sürece, insanlar tarafından kendisine verilen emre itaat etmelidir;
- Üçüncü yasa: Robotlar, birinci ve ikinci yasaları ihlal etmeden kendi hayatta kalmalarını mümkün olduğunca korumalıdır.
Açıkçası, robotlar hala bu temel gereksinimi takip ediyor, ancak robotik teknolojinin artan gelişimi ile daha fazla robot türü ortaya çıkacak.Gerçek robotlar insan etiği ile çeliştiğinde, yapay zeka ve insanlar arasındaki ilişkinin nasıl koordine edileceği de Bu çağda dikkat edilmesi gereken bir konu haline geldi.
Tabii ki, Hawking'in öngörüsünün asla gerçek olmayacağını umuyorum. (Bu makale ilk olarak Titanium Media'da yayınlandı)
[Titanium Media'nın yazarı: Wen | Ke Ming, kaynak | Intelligent Relativity (WeChat id: aixdlun): yapay zekanın derinliklerine inin, tuzlu ve ışığı yargılayın, siyah-beyazı anlatın ve vb.
Daha heyecan verici içerik için Titanium Media WeChat ID'yi (ID: taimeiti) takip edin veya Titanium Media Uygulamasını indirin
