AI tüm önyargıları öğreniyor! Öz ve çapak her şeyi alır, algoritmik önyargının belirlenmesi daha zordur ve kalıcıdır
Yapay zeka, insan bilgisini öğrenirken aynı zamanda insan önyargılarını da emer. Bu endişe uzun süredir ortalıkta. Bununla birlikte, Google'ın sunduğu yeni bir buluş, yapay zekanın metin materyallerinden öğrenilme hızını büyük ölçüde teşvik etti ve ayrıca makine önyargısı sorununu çözmeyi acil hale getirdi.
25 Ekim'de Google, İngilizce arama sonuçlarının eşleşmesini yaklaşık% 10 artıran BERT'nin arama motorlarını optimize etmek için kullanıldığını duyurdu. Gelecekte Google, diğer dilleri ve ülkeleri öğrenmek için algoritmalar da sunacak.
BERT, 2018'de Google tarafından geliştirilen sinir ağı tabanlı bir NLP teknolojisidir. Soldan sağa (veya tam tersi) kelime kelime yerine tüm cümleleri tek seferde alabilir. Bu, eğer birisi "kaldırımların olmadığı bir yamaçta dur" aramak isterse, BERT "yapılmaması" nı tanıyabilir ve doğru arama sonuçları verebilir. Geleneksel arama, yalnızca "bordür" ve "yamaçlara" odaklanmaya neden olarak arama amacına aykırı sonuçlar verir.
Şekil | BERT, insanların niyetlerini anlamak için "bir tepede bordürsüz park etme" cümlesindeki "hayır" kelimesini daha iyi tanıyabilir (kaynak: https://blog.google)
İnsanları endişelendiren şey, BERT'in öğrenme materyallerinin dijital kitaplardan ve haber makalelerinden gelmesi. BERT her şeyi öğrenmeden önce, insanların köklü önyargıları temizlemek için zamanları yoktur. Bu önyargılar algoritma tarafından absorbe edildiğinde, tespit edilmesi daha zor olacak ve ortadan kaldırılması daha da zor olacaktır.
Kriti Sharma, TED ile ilgili bir konuşmasında "AI dünyasında büyüyen çocuklara bakalım. Google'da CEO fotoğraflarını aradılar ve çoğu erkek. Kişisel asistanlar aradılar ve çoğu kadındı." Dedi. Carnegie Mellon Üniversitesi'ndeki bilgisayar bilimcileri, BERT'nin programcıları erkeklerle ilişkilendirme eğiliminde olduğunu doğruladılar.
Başka bir bilgisayar bilimcisi Robert Munro, BERT'e atlar, bebekler, evler, mücevherler vb.Dahil 100 kelimenin gösterildiğini keşfetti. BERT, anneler dışında çoğunun erkeklerle ilgili olduğunu düşünecektir.
NLP startup Primer'ın bilimsel direktörü John Bohannon, "BERT her şeyi değiştirdi ve siz ona tüm hileleri öğretebilirsiniz." Dedi. Munro, eşitsizliğin her zaman var olduğuna inanıyor, ancak BERT ile önyargı var olmaya devam edebilir.
Yapay zeka eleştirmeni Kate Crawford, "Algoritmaları insan tasarımının bir yaratımı olarak ele almanın zamanı geldi." Algoritmalar genellikle tarafsız, anlaşılmaz ve sorgulanamaz nesneler olarak görülüyor, ancak gerçekte önyargılarımızı miras alacaklar. Sadece bizim kadar iyi olabilir.
Karar vermenin kara kutusu önyargı "kiri saklamaktır"
İnsanlar gerçekten safça, algoritmaların önyargıdan insanlardan daha iyi sakınabileceğini düşünüyorlardı. 1970'lerde, Londra'daki St. George's Tıp Fakültesi'nden Dr. Geoffrey Franglen, öğrencilerin kabul için başvurularının taranması için bir algoritma yazmaya başladı. Tüm öğrenci başvurularının tamamen aynı değerlendirme sürecini takip etmesi durumunda sonucun adil olacağına inanıyor.
Algoritma tamamlandıktan sonra, insan yargısı ile% 90 ila% 95 arasında bir uyum oranı vardır, bu nedenle kullanıma alınır. Ancak araştırmacı, 4 yıl sonrasına kadar, bir adayın Avrupalı bir adı olmadığı için (belki beyaz değil) algoritmanın 15 puan düşeceğini keşfetti. Başvuru sahibi kadın ise 3 puan daha düşülecektir.
"Derin bir düzeyde, algoritma sadece kabul sisteminde zaten var olan önyargıyı sürdürüyor." IEEE makalesi, "St. George Tıp Fakültesi, önyargıyı bir bilgisayar programında yücelttikleri için yakalandı. Ayrımcılık Müfettişler doğrulayabilir. "
Ancak yapay zekanın kara kutu karar vermesi için durum daha karmaşık hale geliyor. Cinsiyet veya doğum yeri, algoritmadaki tanımlanabilir tek bir parametreye karşılık gelmez ve makineyi "mahkum etmeniz" sizin için zordur. "Büyük endüstri çağında, makineler dişlileri açığa çıkararak güçlerini gösterdiler. Ama şimdi, dişliler her yerde gizli ve hayata entegre oldu. AI bu teçhizattır." Bir makale "Forbes" zekice söyledi.
Bu tür kara kutu kararları karşısında, ayrımcılık karşıtı yasa tasarısı da güçsüz olabilir. Kriti Sharma, yapay zeka personel yöneticilerinin teknik bir lider bulmasına yardım ederse, işe alınan yöneticilerin çoğunun erkek olduğunu, erkeklerin programlanmasının kadınlardan daha kolay olduğunu düşünerek bulacağına inanıyor. İnsan müfettişi bunu yaparsa, kızarız ve onu durdurabiliriz. "Yapay zeka aslında hukukun üstündedir çünkü karar makine tarafından verilmektedir."
Daha da endişe verici olan şey, AI karar vermenin teknoloji şirketlerinin ve veri açıklamacılarının gücünü artırabilmesidir çünkü kimse onları denetleyemez. ImageNet Roulette adlı popüler bir uygulama, insanlara bilinçli olarak bu riski göstermiştir: Afrikalı Amerikalıları "kaybedenler", "yeni başlayanlar" ve "eş değiştirenler" e ek olarak "kanun kaçağı" ve "suçlu" olarak etiketleme eğiliminde olmuştur. "KADIN".
Şekil | ImageNet, insanları etiketleme gücünün düşük ücretli açıklayıcılardan algoritmalara nasıl aktarıldığını gösteriyor (kaynak: frieze.com)
Eğitim verileri, 1.400 etiketli fotoğraf içeren ImageNet veri kümesinden gelir ve her etiket birkaç kuruşa mal olur. Bu nedenle, etiketleyicinin önyargısı veri setine getirilir ve çeşitli algoritmalar eğitilir ve çeşitli alanlarda uygulanır. "Kadın fotoğrafına açıklama yapan kişi, ikili olmayan kişileri veya kısa saçlı kadınları seçmezse, ortaya çıkan yapay zeka sadece uzun saçlı bayan modellerini tanıyacaktır."
Algoritmanın makine önyargısına sahip olduğu keşfedildiğinde, hem Google hem de Amazon bunu hızlı bir şekilde çözmeyi vaat ediyor. Dr Bohannon, "Bariz önyargılar bulduk, ama ya daha fazlası varsa?" Dedi. Bu tür bir karar verme sürecine güvenmek istiyorsanız, "tıpkı biyologların hücrelerin nasıl çalıştığını anlamaya çalışması gibi, yazılım mühendisleri de BERT sistemini anlamanın bir yolunu bulmalıdır."
Herkes algoritmayı memnun etmeyi öğrenmeli
"Azınlık Raporu" filminde Tom Cruise, bilgisayar tarafından "suçlu" sayılanları bir gün tutuklanıncaya kadar tutuklamaktan sorumluydu. Gerçekte, benzer bir sistem zaten çevrimiçi olabilir.
BBC raporlarına göre, Mayıs 2017'de Birleşik Krallık'taki Durham Polisi bir sistemi devreye soktu. Gözaltına alınıp alınmayacağına karar vermek için şüphelinin suç işleme olasılığının düşük, orta veya yüksek olup olmadığını tahmin etmek için polisin beş yıllık gözaltı raporunu ve iki yıllık mahkumiyet raporunu inceledi. Ancak birkaç yıllık kullanımın ardından değerlendirme aracı, bu sistemin siyahları beyazlara göre iki kat daha fazla suçlu olarak gördüğünü ve ayrıca beyazları düşük riskli olarak sınıflandırmayı ve tek başına suç işlemeyi sevdiğini buldu. Ek olarak, düşük riskli suçları tahmin etmedeki doğruluğu% 98 ve yüksek risk% 88'dir, bu da bir kişiyi serbest bırakmaktansa yanlışlıkla bin kişiyi yakalamayı tercih edeceği anlamına gelir.
Aralık 2016'da Dubai Polisi, devriyeleri güçlendirmek için polis güçlerini yüksek riskli bölgelere konuşlandırarak, farklı alanlarda suç olasılığını tahmin etmek için bir sistem başlattı.
Suç tahmini hala çok uzaktaysa, AI işe alımı yaşamınızı ve ölümünüzü kontrol edecektir. Kasım ayının başlarında Goldman Sachs, Hilton ve Unilever gibi şirketler, HireVue adlı bir AI video görüşme sistemi kullanmaya başladı ve bunu takdir etti. Hilton yöneticileri, HireVue'nun işe alım döngüsünü 6 haftadan 5 güne indirdiğini söyledi.
Şekil | HireVue algoritmasını memnun etmeyi öğrenmenin, iş arayanlar için sahip olunması gereken bir beceri haline gelmesi bekleniyor (kaynak: softwareadvice.com)
Ancak karar verme tercihlerinin inanılmaz olduğu görüldü: AI, bir sorun hakkında düşündüğünüz için kaşlarını çattıp çatmadığınızı veya kötü bir ruh halinde olup olmadığınızı (sinirli bir kişiliği ima ederek) söyleyemez. Görüşmeci performans konusunda endişelidir ve yapay zekanın kendisini nasıl puanlayacağını bilmiyor, böylece kasıtlı olarak yapay zekaya hitap ediyor: görüşme boyunca gülümseyin, konuşmasını yavaşlatın, göz temasını korumak için kameraya göz etiketleri yapıştırın ve geride bir blok bırakın Beyaz duvar, algoritma ile etkileşimi engeller.
Ayrıca, HireVue'nun iş arama önyargısını güçlendirdiğine inanılıyor: Makineler, yeni çalışanlar bulmak için mevcut çalışanlardan öğreniyor. Bu, bir departmandaki tüm çalışanların tamamı beyazsa (tesadüfen bile olsa), AI'nın bilinçsizce beyazları arayacağı anlamına gelir. İyi çalışanların tamamı kadınsa, erkek görüşmeciler de azalacaktır.
Duke Üniversitesi'nde ekonomi profesörü olan Emma Rasiel, öğrencilere HireVue röportajına katılmaları için koçluk yaptıktan sonra, "Endişeli bir nesli başlattık, onlardan nasıl daha iyi yapacaklarını söylemeden ekranda konuşmalarını ve soruları kameraya cevaplamalarını istedik." Dedi. Bir AI röportajını kandırabilirseniz, diğer AI kararlarını düşünülemez davranışlarla aldatmaya çalışabileceğinizi hayal etmek zor değil.
