Son derece korkutucu bir soru, makinelerin etiği dikkate alması gerekiyor mu?
Bu yılın Mart ayında Uber, tamamen otonom bir araçla dünyanın ilk ölümlü kazasını yaşadı. O sırada çoğu kişi Uber'in insansız aracının yaya izleme sistemini açmadığı sonucuna vardı. Diğer bir deyişle, bir donanım kazasıydı. Ama şimdi Sonuçlar tersine dönmüş gibi görünüyor.
Gerçek hala kafa karıştırıcı
ABD teknoloji haberleri web sitesi The Information'dan 7 Mayıs'ta çıkan habere göre, Uber temelde kazanın nedenini belirledi.İki kaynak, kadın yoldan geçtiğinde Uber sürücüsüz arabanın sensörünün (Volvo XC90'dan değiştirildi) ortaya çıkardı. Tespit edildi, ancak Uber'in sürücüsüz yazılımı, sistemin kadına karşı kaçamak önlemler almasına gerek olmadığına karar verdi.
Google'ın Waymo ve General Motors Cruise, hafif bir tehdit olduğunda genellikle aniden durduğundan, Uberin sistemi karar verme stratejisini" yanlış alarmları "veya yolda yüzen plastik torbalar gibi sorun olmayacak diğer şeyleri göz ardı edecek şekilde ayarladı. , Ve olay gerçekleştiğinde kadın plastik bir torba taşıyor gibiydi ...
Diğer bir deyişle, kazanın suçlusu çeşitli sensör ve kameraların yer aldığı donanım sisteminden çok yazılım sistemiydi.
Donanım tarafı ile yazılım tarafı birbirini sarsıyor mu, yoksa Uber "teknolojinin iyi olmadığı" dedikodularını beyazlatmaya mı çalışıyor bilmiyorum. Sonuçta yayaları algılayamayan ve algılayabilen iki kavram var. İkincisi yalnızca herkesi açıklayabilir. "Güvenlik kültürü" kavramı farklıdır (araba kazasından sonra, bazı Amerikan medyası Uber sürücüsüz araba projesinin geçmişteki liderlerini geliştirme hızını birinci, güvenliği ikinci sıraya koymakla suçladı) ve teknoloji gayet iyi.
Ancak gerçek hala kafa karıştırıcı ... Belki de Uber ile birlikte araştıran Ulusal Ulaşım Güvenliği Kurulu (NTSB) tarafından yayınlanan soruşturma raporu daha sonra daha ayrıntılı olarak açıklanacaktır.
Dikkatli düşünmek, korkuyorum, makineler insan hayatını belirleyebilir mi?
Yaya ihlalleri için ödeme yapmaya gerek olmadığına dair gerçekten yazılım yargısı ise, o zaman bu mesele gerçekten dehşet vericidir, çünkü makineler insan hayatını belirlemeye çoktan başlamıştır.
Yapay zeka robotlarının geliştirilmesinde ilk prensip olarak canın korunması gerekmektedir.Aslında otonom araçların geliştirilmesi için de aynısı geçerlidir.Alman Etik Kurulu'nun 2017 yılında çıkardığı kılavuz, otonom araçların korunmasını şart koşmaktadır. Öncelik:
İnsan hayatı> hayvan yaşamı> mal kaybı.
Makine etiği, kimler kurtarılmalı ve kimler feda edilmeli?
Ama soru söz konusu olduğunda, ya aynı seviyedeki yaşam tehdit altındaysa? Burada da yine etik konular var.
Örneğin, otonom bir araç geldiğinde, iki kişi aynı anda karşıdan karşıya geçiyor, ikisinden biri nasıl önlenebilir? Üyelerin korunma önceliği var mı?
Ya da belki yoldan yasadışı olarak geçen 10 kişi var ve motorsuz şeritte trafik kurallarına uygun yürüyen bir yaya var.Otonom araç kaçınılmaz bir çarpışmayla karşılaştığında, 10 ihlal eden yayanın hayatlarının bedelini ödemesini mi seçmelisiniz? Buna mı çarptı?
Makine insan hayatının korumasını ilk prensip olarak alırsa, diğer 10 kişiyi kurtarmak için bu kişiyi vurmayı seçmesi çok muhtemeldir, ancak bu yoldan geçen kişi için çok masumdur.
Bazı insanlar bunun doğru olduğunu düşünebilir, çoğunluğu kurtarmak için azınlığı feda etmek daha etik ve etik değil mi?
Yani bir gün, sürücüsüz bir arabayı alıp uçurumun bir tarafında dik bir virajda yürürseniz ve önünüzde bir grup bisikletçi belirirse. Kayıplar kaçınılmaz olduğunda, kendi kendine giden arabanızın sizi alıp almayacağını tahmin edin Uçurumdan birlikte atlamak mı?
Neyse ki, kazadan sonra Uber dahil olmak üzere birçok sürücüsüz araba araştırma ve geliştirme şirketi yol testlerini askıya aldı.Bu ciddi araba kazası, araştırma ve geliştirme şirketlerinin insansız araçların güvenliğine daha fazla dikkat etmesine neden olacak.Bence hayata saygı. Teknolojinin gelişmesinden daha önemlidir.