ICML2018 belgesi, genel adalet kriterinin AI algoritmalarının adilliğini garanti edemeyeceğini söylüyor.
Kısa süre önce, en iyi uluslararası makine öğrenimi konferansı olan ICML, resmi web sitesinde 2018'in en iyi makalelerinin listesini açıkladı.MIT ve UC Berkeley'den araştırmacılar en iyi makaleleri kazandı. Bunların arasında, UC Berkeley ekibinin araştırması yalnızca akademik endüstri ile ilgili değil, aynı zamanda her birimizle ilgili bir soruna odaklandı ve bu, AI'daki "ayrımcılık" sorunudur.
Makine öğrenimi sistemleri genellikle eğitim sırasında eğitim hatalarını en aza indirmeyi amaçlar. Ayrımcı davranışlar genellikle cinsiyet veya ırk gibi daha hassas özellikler söz konusu olduğunda ortaya çıkar. Verilerdeki tarihsel önyargı, nedenlerden biri olabilir. Krediler, istihdam, ceza adaleti ve reklamcılık gibi uygulama senaryolarında, makine öğrenimi dezavantajlı gruplara zarar verme potansiyeli nedeniyle eleştirildi.
Ve bu makale esas olarak, uzun vadeli sosyal refah hedefleri için makine öğrenimiyle karar verme sürecini düzenlemeye yönelik son çalışmaları tartışıyor. Genel olarak konuşursak, bir makine öğrenimi modeli, birey hakkındaki bilgileri açıklamak için her birey için bir puan oluşturur. Örneğin, kredi puanı bir bireyin kredi geçmişini ve finansal davranışını tanımlar ve bankalar tarafından bu kişinin kredi notunu değerlendirmek için kullanılabilir. Bu makale sadece kredi senaryosunu bu konuyu ayrıntılı olarak tanıtmak için örnek olarak almaktadır.
Aşağıdaki şekilde gösterildiği gibi, herhangi bir kullanıcı grubunun belirli bir kredi puanı dağılımı vardır.
Şekil 1 Kredi puanlarının dağılımı ve geri ödeme davranışı
Eşiği tanımladıktan sonra, puan karar vermek için kullanılabilir. Örneğin, eşiğin üzerinde puan alan kişiler geri ödeme sözü verir ve eşiğin altında puan alanlar geri ödemeyi reddeder. Bu karar kuralına eşik politikası (eşik politikası) denir.
Puanı, tahmini kredi temerrüt olasılığı olarak da anlayabiliriz. Örneğin kredi notu 650 olan kişilerin% 90'ı kredilerini geri ödeyecek. Bu şekilde banka, 650 kredi notuna sahip kullanıcılara karşılık gelen kredileri sağlamanın beklenen getirisini tahmin edebilir. Benzer şekilde, 650'den (veya herhangi bir belirli eşikten) daha yüksek bir kredi puanına sahip tüm kullanıcılara karşılık gelen krediler sağlamanın beklenen getirisini tahmin etmek de mümkündür.
Şekil 2 Kredi eşiklerinin sonuçlar üzerindeki etkisi
Diğer faktörlerden bağımsız olarak, bankalar her zaman toplam gelirlerini maksimize etmeye çalışacaklardır. Kazanç, geri kazanılan kredi geri ödemelerinin miktarı ile kredi temerrütlerindeki zarar miktarı arasındaki orana bağlıdır. Yukarıdaki şekilde, gelir-zarar oranı 1: -4'tür. Kayıplar genellikle gelirden daha pahalı olduğu için, bankalar borç verme ve borç verme eşiğini yükseltme kararında daha muhafazakar olacaktır. Bu eşiğin üzerinde puan alan kişilerin yüzdesine seçim oranı diyoruz.
Şekil 7 Geliri maksimize etme stratejisi
