Gördüğünüz çiçekler, ama bu sapkın yapay zeka cesetleri görüyor
Lei Feng net basın: BBC raporuna göre, MIT Media Lab'den araştırmacılar anlamlı bir deney yaptılar: İnternetteki bu karanlık ve acımasız resimleri bir AI robotu eğitmek için kullandılar ve sonuç olarak, "Norman" adlı bu AI ortaya çıktı. Sapık bir "akıl hastası" dünyanın karanlık yüzünü görür. Norman'ın baktığı görüntülere Rorschach lekeleri denir ve genellikle psikologlar tarafından birisinin dünyayı olumlu bir şekilde görüp görmediğini belirlemek için kullanılır. Bu tür deneyler, İnternet'in karanlık köşelerinde insanların görüntülerini analiz etmeye yardımcı olacaktır. Zhu'ya yakın olanlar kırmızı ve Mo'ya yakın olanlar siyah. İnsan dünyasının kuralları AI dünyasında da geçerlidir. Leifeng.com tam metni aşağıdaki gibi derlemektedir.
Norman ile tanışın
Norman adı, Hitchcockun ünlü filmi "The Cry" daki Norman Bates karakterinden gelmektedir.
Norman, görüntüleri anlamak için iyi eğitilmiş bir algoritmadır, ancak Hitchcock filmindeki Norman Bates gibi, dünyaya iyimser bir bakış açısına sahip değildir.
Yapay zeka tarafından oluşturulan "normal" algoritmaya hangi soyut grafikleri gördüğü sorulduğunda, hoşa giden bir şey seçer: "bir dalda oturan bir kuş sürüsü" ve Norman'ın gördüğü şey bir insandı. Elektrik çarpması. "Normal" AI, iki kişinin yan yana durduğunu, Norman ise pencereden atlayan bir adam gördü.
Bu psikopatik algoritma, yapay zekanın "İnternetin karanlık köşelerinden" gelen verileri işlemek için eğitilmesinin dünya görüşünü nasıl etkileyeceğini görmek için bir deneyin parçası olarak Massachusetts Teknoloji Enstitüsündeki bir araştırma ekibi tarafından icat edildi.
Yazılım için eğitim materyali, korkunç ortamlarda ölen insanların resimleridir Bu resimler Reddit web sitesindeki bir gruptan alınmıştır. Ardından, resimleri tanıyan ve metni okuyabilen bir AI, mürekkep haritasını gösterecek ve içinde ne gördüğü sorulacaktır. Bu soyut görüntüler, psikologlar tarafından, özellikle de dünyayı olumsuz ya da olumlu bir ışıkta görüp görmediklerini, hastaların zihinsel durumunu değerlendirmeye yardımcı olmak için kullanılır.
Norman'ın bakış açısı her zaman soğuk ve acımasızdır - her görüntüde ölü bedenler, kan ve yıkım görür. Norman ile birlikte başka bir yapay zeka, normal kedi, kuş ve insan görüntülerini besleyerek eğitilir. Bu soyut mürekkep lekelerinde çok hoş bir görüntü gördü.
MIT Media Lab'in üç kişilik ekibinden Profesör Iyad Rahwan, Norman'ın karanlık tepkisinin yeni makine öğrenimi dünyasının acımasız gerçekliğini doğruladığını söyledi.
Veriler, algoritmalardan daha önemlidir. Yapay zekayı eğitmek için kullandığımız verilerin, yapay zekanın dünyayı nasıl algıladığına ve nasıl davrandığına göre belirlendiği görüşünü güçlendiriyor.
Haberler üretebilir, video oyunlarında yeni rekorlar kırabilir, müşteri hizmeti olarak hareket edebilir, finansal ve tıbbi raporları analiz edebilir ve veri merkezlerinin nasıl enerji tasarrufu yapabileceğine dair içgörüler sağlayabilir.
Ancak Norman'ın deneyi bir şeyi kanıtlarsa, kötü veriler üzerine eğitilmiş yapay zeka kötüye gidecek.
AI ayrıca ırk ayrımcılığına da sahiptir
Norman'ın ölüm ve yıkıma karşı bir önyargısı var çünkü tek bildiği bu ve gerçek hayatta yapay zeka kusurlu veriler üzerine eğitilirse aynı önyargıya sahip olacak.
Geçen yılın Mayıs ayında bir rapor, ABD mahkemeleri tarafından risk değerlendirmesi için kullanılan AI tabanlı bilgisayar programlarının siyah mahkumlara karşı önyargılı olduğunu belirtti. Proje, AI eğitim verilerindeki kusurlar nedeniyle siyahların beyazlara göre iki kat daha fazla suç işlemeye meyilli olduğuna dikkat çekti.
Amerika Birleşik Devletleri'nde kullanılan tahmine dayalı polislik algoritmalarının da, onları eğitmek için kullanılan tarihsel suç verilerindeki sorunlardan dolayı benzer önyargılara sahip olduğu bulunmuştur.
Bazen, yapay zeka "öğrenme" verileri, insanların şakalara olan coşkusundan gelir; bu nedenle, Microsoft'un chatbat'ı Tay 2016'da Twitter'da yayınlandığında, bu robot ırkçılar ve sorun çıkaranlar tarafından hızla memnuniyetle karşılandı. Bu insanlar ona beyaz üstünlükçüleri korumayı, soykırım çağrısında bulunmayı ve Hitler'e olan sevgilerini ifade etmeyi öğrettiler.
Norman, ipuçlarına duyarlı olan tek yapay zeka gibi görünmüyor. Yapay zeka, ırk ayrımcılığını durdurmadı.
Yapılan bir araştırma, Google Haberler'de eğitilen yazılımların, öğrendiği veriler nedeniyle cinsiyetçi hale geldiğini gösteriyor. "Bir bilgisayar programcısına erkek, X'e kadın gibidir" diye sorulduğunda, yazılım "ev hanımı" yanıtını verdi.
Bath Üniversitesi Bilgisayar Bilimleri Bölümü'nden Dr. Joanna Bryson, cinsiyetçi yapay zekanın birçok makinenin "Kaliforniya'dan beyaz bekar erkekler" tarafından programlanmasından kaynaklanabileceğini söyledi. Programcıların geçmişini çeşitlendirerek, bu sorun en azından kısmen çözülebilir.
Makinenin eğitmenlerin görüşlerini alması şaşırtıcı değil. "Kültürümüzü seçerek makineleri eğittiğimizde, ona kendi ön yargılarımızı dayatmaya mahkumuz" dedi.
Matematiksel algoritmalar adalet yaratamaz. Makine öğreniminde önyargı kötü bir kelime değildir, sadece makinenin disipline edildiği anlamına gelir. Bazı programcıların kasıtlı olarak kötü şeyleri veya önyargıları makineye zorlamayı seçeceğinden endişeleniyor. Bunun olmasını önlemek için, AI oluşturma sürecinin daha fazla denetime ve daha fazla şeffaflığa ihtiyacı olduğuna inanıyor.
Profesör Rahwan, Norman'la yaptığı deneylerin "mühendislerin verileri dengelemek için bir yol bulması gerektiğini" kanıtladığını söyledi, ancak "sürekli genişleyen makine öğrenimi alanının yalnızca programcılar tarafından kontrol edilemeyeceğini" kabul etti. İnsanların, makine davranışının insan davranışını incelemenin bir yolu olabileceğine inanıyor "dedi.
Yeni nesil "AI psikolojisi" nin, bankacılık endüstrisindeki eski sistem yerine geliştirilmekte olan sistemin düzenli bir incelemesini benimseyeceğini söyledi.
* Lei Feng.com düzenler.
