"Ahlaksız" AI, buna inanabiliyor musun?
Yazar: Ben bir pandayım
Beyin kutup gövdesinden yeniden basıldı
Hepimiz, belki gelecekte hepimizin insan-makine işbirliği ile hayatta kalacağımıza inanıyoruz. Efsanedeki her şeyi yapabilen nihai algoritma belli ki bir süre görünmeyecek, ancak insanlar ve robotların birlikte çalışması mümkün hale geldi ve insanlar da makinelerden giderek daha fazla hizmet alacak.
Yapay zeka teknik yeteneklerinin olgunluğu, insan-makine işbirliği için ilk ön koşulsa, ikinci ön koşul, insanlar ve makineler arasındaki güven ilişkisidir.
Bugün her zaman ilk önermeye dikkat ediyoruz ve hızlı ilerleme kaydediyoruz, ancak genellikle ikinci önermenin önemini görmezden geliyoruz. İnsanlar ve makineler arasında güven ilişkisi olmadığını hayal edin, insan-makine işbirliğinin geleceğine ne olacak?
Hukuk bürosunun avukatları bilgi toplamak ve düzenlemek için AI'ya güveniyor, ancak AI toplama tamamlandıktan sonra avukatlar rahat değil ve AI asistanının işini tekrar kontrol ediyor.Sonunda, daha fazla zaman gerçekten boşa gidiyor. Günümüzde, üreticiler tarafından teşvik edilen ideal otonom sürüş, insanların arabaya biner binmez uzanıp dinlenmeleri ve otonom sürüşün yolcuları güvenli bir şekilde varış noktasına ulaştırmasıdır. Ancak insanlar otonom sürüşe güvenmiyorsa, bu resim insanlar arabaya bindiğinde, bir sürücü kursu sürücüsü gibi yol koşullarını izlediğinde ve bazen AI sürüş becerilerinden hoşlanmadığını ifade ettiğinde bir gerilim durumuna dönüşecek. Bu şekilde, iş verimliliğini artırmak AI'nın asıl amacına kesinlikle aykırıdır. "İnternet dünyasının ünlü robotu" Sophia bile insanlar ve yapay zeka arasında güven inşa etmek için robotların ve insanların düşman olduğu daha az film yapmamız gerektiğini söyledi.
"Ahlaksız" AI, buna inanabiliyor musun?
Ama önce bir soru bulmalıyız, insanların YZ ile güven ilişkisi kurması gerçekten zor mu? Bir düşünün, fırının yiyecekleri zehirlemek yerine ısıttığına ve buzdolabının yiyecekleri bozmak yerine düşük sıcaklıkta tutacağına inanmak için doğmuş gibiyiz. AI söz konusu olduğunda burada çalışmıyor mu?
Aradaki fark, psikolojideki "açıklama yasasında" yatmaktadır, yani insanlar anlayabildikleri teknolojiye daha çok güveneceklerdir. Fırının yüksek sıcaklığı ve buzdolabının düşük sıcaklığı, aslında binlerce yıldır çok aşina olduğumuz yiyecekleri işlemenin yoludur. Buna inanmazsanız, mikrodalga fırına geçerseniz, bazı insanlar onun yiyecekleri "yayacağını" sorguladılar.
Bu özellikle AI için geçerlidir.Nöral ağların kara kutu özellikleriyle birleştiğinde, insanların ilkeleri anlama düzeyinde AI'ya güvenmeleri zordur.
Aynı zamanda, AI hayatımızın tüm yönlerine girdiğinde, karar verirken etik sorunlarla karşılaşmamız kaçınılmazdır. En tipik "yaya köprüsü ikilemi" şudur: Beş masum insan demiryolu raylarına bağlanmıştır ve tren vücutlarını alt etmek üzeredir. Bu sırada yaya köprüsündeki büyük bir adam köprüden itilirse trenin hareket etmesi engellenebilir. Beş kişiyi daha önce kurtarın. Öyleyse beş kişiyi kurtarmak için bir kişinin adını feda etmeli mi? Gerçekte bu tür aşırı durumların meydana gelmesi pek olası olmasa da, tırmalamaktan kaçınmak için otomatik sürüşün geçen hayvanlarla çarpışması mümkün müdür? Şu anda arabaya mı yoksa yoldan geçen küçük hayvanlara mı zarar vermek ahlaki bir ikilemdir.
Bu durum karşısında "sonuç teorisi" denen felsefi bir görüş vardır, yani hesaplama sonucu ahlaki kararlar vermenin doğru yoludur ve en yüksek getirisi olan karar en ahlaki karardır. Aynı zamanda, "Deneysel Psikoloji Aylık" dergisindeki araştırma sonuçları, sonuç teorisi ile karar verenlerin genellikle daha az popüler olduğunu gösteriyor. İnsanlar soğuk, bencil ve kaba olduklarını düşünecekler, çünkü sıradan insanlar nesilden nesile aktarılan ahlaki değerlere uymaya daha istekli olacaklar. , Bu bile daha az karlı sonuçlara yol açacaktır.
Bununla birlikte, AI genellikle sonuçlara göre kararlar alır ve ahlaki doğruluktan ziyade kazanımlar peşinde koşar. Bu nedenle araştırmalar, gelecekte insanların da yapay zeka tarafından alınan kararlar hakkında bazı şüpheleri olabileceği sonucuna varıyor. Çünkü insanlar, makinelerin ahlak, empati ve şefkat gibi önceki kavramlarda iyi bir karar vericinin sahip olması gereken niteliklere sahip olmadığını anlayacaklar.
AI, insan güvenini nasıl kazanır?
Rutinlere veya rutinlere ek olarak
Ancak, birçok araştırma ekibi artık bu sorunun farkında ve insanlar ve makineler arasında nasıl güven inşa edileceğini anlamaya başlıyor. Şu anda, araştırma yönü kabaca iki perspektife ayrılmıştır: Birincisi, insan bakış açısından ne tür bir YZ'nin insan güvenini kazanmanın daha kolay olduğunu bulmak, diğeri ise insan güvenini YZ açısından algılamak ve değerlendirmektir.
MIT, Singapur Teknoloji ve Tasarım Üniversitesi ile bir dizi deney gerçekleştirdi ve iki sonuca vardı. Birincisi, insanlar AI'ya güvenmek istiyorsa, AI eğitim sürecine "katılmaları" gerektiğidir; ikincisi, insanlar yapay zekanın sorunları yerine soruyu onaylayın.
İlk deneyde, insanlardan gördükleri resimleri bir dizi fotoğrafı görüntüledikten sonra bir dizi resim kitaplığından seçmeleri istendi. Deney konuları AB iki gruba ayrıldı.Grup A'ya AI teknolojisinin kullanıcının seçim süreciyle kademeli olarak gelişeceği söylendi.Kullanıcının kararı ne kadar doğru olursa, AI teknolojisi de gelişecektir. Grup B'ye herhangi bir bilgi verilmedi, aslında iki AI algoritmasının doğruluğu aynı. Ancak deneyin sonucu, A grubundaki deneklerin AI algoritmasına daha fazla güveneceği ve B grubundaki deneklerin seçimlerine daha fazla güveneceği yönünde.
İkinci deneyde, algoritma, drone tarafından döndürülen görüntüler üzerinde görüntü tanıma gerçekleştirir.A grubundaki AI, yangın, hırsızlık, soygun vb. Resimlerini daire içine alır ve B grubundaki AI, Ekranı daire içine alın ve "yangın", "hırsızlık", "hırsızlık" vb. Şeklinde etiketleyin. Her iki algoritma seti de aynı hata oranına sahiptir, ancak deneysel sonuçlar, A grubundaki deneklerin güveninin B grubundakinden çok daha yüksek olduğunu ve ekran incelemesinin etkinliğinin B grubundakinden çok daha yüksek olduğunu göstermektedir. Çünkü insanların gözünde belirli bir duruma ilişkin yanlış hüküm vermek çok ciddi bir hatadır, bu da algoritmanın çok güvenilmez olduğu anlamına gelir, bu nedenle A grubu kullanıcıların yargısına kıyasla tüm ekrana tekrar bakmak zorunda kalırlar. Belirli durumlarda, çok fazla zaman boşa harcanmıştır.
Belki de gelecekte yapay zeka, insan güvenini kazanmak için eğitime insan katılımını gerektiriyormuş gibi davranmak veya bazı çalışmaları insanlarla kasıtlı olarak paylaşmak gibi bazı "rutinlere" ihtiyaç duyacaktır.
Son zamanlarda, Purdue Üniversitesi Makine Mühendisliği Okulu, cilt elektrik testi ve beyin dalgası testi yoluyla insanların durumunu toplayan ve halka uygun bir "genel güven modeli" ve bireyler için "kişiselleştirilmiş bir güven modeli" başlatan bir sistem başlattı. Araştırmacılar, AI araçlarının, özellikle çocuk eğitimi ve yaşlı bakımı alanlarında bu güven modelleriyle ilişkilendirilebileceğini söyledi.İnsan güven durumu algısı, AI'nın insanlara daha iyi hizmet etmesine yardımcı olabilir. Örneğin, AI insan güvensizliğini algıladığında, mevcut işi askıya alabilir ve yatıştırarak insan güvenini artırabilir.
İnsan-makine güveninin ilk adımı ...
Belki de yapay zeka sahtekarlıkları etkiliyor?
Bununla birlikte, yukarıda bahsedilen birkaç deneyde ilginç bir ortak keşif ortaya çıktı: İnsanların yapay zekaya olan güveninin derecesi kontrol edilebilir. YZ'nin performansı ne kadar kötüse kullanıcılar için kötü bir deneyim. Derecesi ne kadar düşükse - EEG'nin fizyolojik durumundan mı yoksa davranışsal açıdan mı?
Örneğin, bir kişi sürücüsüz bir arabaya binerse, araba sebepsiz yere aniden fren yapıp kişinin arabaya çarpmasına neden olursa, insanların güven düzeyi hızla düşecektir.
Bu açıdan bakıldığında, insanların ve makinelerin güvenine gerçekten zarar veren bilim kurgu filmleri değil, yükselen yapay zekadır. Belki de bugün insanlar ve makineler arasında güven oluşturmanın en etkili yolu, yapay zeka sahteciliğiyle mücadeleden başka bir şey değildir.
