Yüz tanıma koyu tenli ve kadınlara uygun değil, Microsoft aceleyle "teknik önyargı" yı
"Kaçakları yakalamak" konserinde defalarca başarıya ulaşan yüz tanıma, aslında hala olgunlaşmamış bir teknoloji ve ten rengi ve cinsiyet ayrımıyla kendini gösteriyor.
Microsoft, ticari yüz tanımanın daha açık tenli erkekleri belirlemede en yüksek doğruluğa sahip olduğunu, daha koyu tenli kadınların ise en kötü hata oranına sahip olduğunu buldu.
Bu, yüz tanımanın "teknik önyargısı" olarak kabul edilebilir.
Bu tür bir önyargı çok çeşitli uygulamalarda "ortaya çıktığında", ırk ve cinsiyetin "ayrımcılığını" kınayan sesler Microsoft'u ezecek.
Ön yargılı teknolojiyi çözmek için Microsoft Face API ekibi, tanıma sisteminde üç büyük iyileştirme yaptı. En son yüz tanıma sistemi ile daha koyu tenli kişilerin tespit edilmesindeki hata oranı 20 kat, tüm kadınları tanımlamadaki hata oranı 9 kat azaltıldı.
Gelişmelere rağmen, mevcut yüz tanıma sistemi henüz mükemmel bir sistem değil. Microsoft, sorunun temel çözümünün veritabanını eğitmek olduğuna ve farklı ten renkleri, saç stilleri ve yüz aksesuarları dahil olmak üzere daha fazla verinin toplanması gerektiğine inanıyor.
Çalışma, Microsoft ve IBM'in siyah kadınları tanımlamada yüksek bir hata oranına sahip olduğunu buldu.
Çinlilerin yaygın sarı teni sadece "en açık" ve "en koyu" ten tonlarından kaçınıyor. Bununla birlikte, Çin'de farklı görünüm özelliklerine sahip etnik azınlıklar da var.Yüz tanıma bu konuda teknik önyargı yaratırsa, bu basit bir "haritada yangın" değildir ve ciddi etnik çatışmalara neden olabilir.
"Daha geniş saldırı" konusuna gelince, Çin de çok hassaslaştı, neyse ki yüz tanıma teknolojisi henüz "cinsiyetçi bir savaşa" neden olmadı.
Yapay zeka ile önyargı potu tamamen atılamaz ve teknoloji aynı zamanda gerçek toplumu yansıtan bir aynadır.
Microsoft Research Labs'de kıdemli bir araştırmacı ve AI sistem adaleti konusunda uzman olan Hanna Wallach, bir açıklamada şu şekilde yanıt verdi:
Makine öğrenimi sistemlerini, önyargılı bir toplum tarafından üretilen verileri kullanarak o toplumun kararlar almasını simüle edecek şekilde eğitirsek, bu sistemler kaçınılmaz olarak önyargılarını yeniden üretecektir.
Örneğin, bazı topluluklarda siyahların suç oranı daha yüksektir. AI tarafından toplanan verilere göre, AI'nın daha koyu tenli insanları "kaçak" kategorisine ayırması daha kolaydır. Bu, grubun bireye zararıdır ve yüz tanıma, yalnızca sosyal önyargıyı "izler".
Microsoft'un yüz tanımanın duygu algılama işlevi. Resmin kaynağı: thenextweb
Araştırma ekibi, "ayrımcılığa" neden olmaktan ziyade, yapay zekanın gerçek dünyadaki kusurları telafi etmek için önyargıyı tespit edip azaltabileceğini umuyor.
Büyük ölçekli saldırılarla kaçakları avlamak için kullanılan "yarış topları" ve "cinsiyet topları" masumları kolayca yaralayabilir.Yüz tanımanın yönü daha karmaşık "keskin nişancı silahı" dır.
Yüz tanıma teknolojisi konusunda her zaman tetikte olan Amerika Birleşik Devletleri, yüz tanıma sistemini etkinleştirmek için gümrük departmanına da sahip, ancak güçlü bir muhalefet aldı.
Yüz tanıma ile ilgili olarak, Amazon'un son zamanlarda pek çok güvesi var. Birincisi, Amerikan Sivil Özgürlükler Birliği Amazon'a bir dilekçe verdi. Sonra 100'den fazla dahili çalışan, CEO Jeff Bezos'tan ABD polisine yüz tanıma yazılımı satmayı bırakmasını istedi. Şu anda, Orlando Polis Departmanı ile Amazon arasındaki yüz tanıma sözleşmesi sona erdi ve iki taraf sözleşmeyi yenileme kararı almadı.
"Amazonlular" tarafından imzalanan içeriğin bir kısmı:
Şirketimiz gözetim işinde olmamalı, polis işlerine karışmamalı, ötekileştirilmiş kişilerin denetimine ve baskılarına destek vermemeliyiz;
ICE, Microsoft'un yüz tanıma yazılımını etkinleştirecektir .. Resim: Inc.
Microsoft çalışanları ve Amazon çalışanları aynı fikirleri paylaşsalar da, yüz tanıma yazılımının insan haklarını ihlal ettiğine inanıyorlar ve özellikle Amerika Birleşik Devletleri'nin son göçmenlik politikasından memnun değiller.Microsoft CEO'su Satya Nadella'nın ICE (ABD Göçmenlik ve Gümrük Muhafaza) ile bir anlaşma imzalamayı bırakacağını umuyor, ancak yine de Sonuçlar alınmadı.
Yüz tanıma teknolojisi güvenlik getiriyor mu yoksa ayrımcılık getiriyor ve kişisel özgürlüğü ihlal ediyor mu? Amerikan teknoloji şirketlerinin "karmaşası" düşünmeye değer olabilir .. Bir konser izlerken yüzler tarafından tanınmak uygun mudur?
Başlık resminin kaynağı: Gigaom
