AI, yüze bakarak cinsel yönelimi biliyor mu? Bir deney yaptığıma ikna olmadım ve sonuç ...
Giriş: Stanford'da bir tane var Cinsel yönelimi tahmin etmek için yüze bakın Yapay zeka, bir yüz gibi, bir kişinin yüz özelliklerine göre düz mü yoksa kavisli mi olduğuna karar verebilir ve doğruluğu tatmin edicidir:
Erkek % 81 , Kız % 74 .
Netizenler, çalışmanın sonuçları açıklanır duyurulmaz kaynadı. Birçok insan da şüphe ediyor: Yapay zeka nasıl bu kadar doğru olabilir?
Yazar: Charles Chestnut Xiao
Kaynak: Qubit (ID: QbitAI)
Her şeyin anlaşılması için araştırmaya ihtiyacı var. John (John Leuner) adında bir genç sadece buna inanmakla kalmadı, aynı zamanda algoritmayı aktif olarak yeniden üretti ve bu kadar doğru olup olmadığını görmek için yeni verilerle deneyler yapmak istedi.
Sonuçlar hala iyi: erkeklerin doğruluğu % 68 , Kız ulaştı % 77 .
Bu sonuç netizenler arasında hararetli tartışmalar dalgasını çekti. Bu sefer herkesin odak noktası yalnızca doğruluğun kendisine değil, aynı zamanda tekrarlama araştırmasında gençler tarafından gösterilen yapay zeka gözlemlerine de odaklanıyor:
01 Neden heteroseksüel bir adam olduğumu söylüyorsun
Yapay zeka, insan cinselliğini yargılamak için hangi ipuçlarına güveniyor?
John, yüzün her köşesini dikkatlice gözlemlemek için kontrollü değişken yöntemini kullandı.
İlk olarak, yapay zeka tahminlerini bağımsız olarak yönlendirmek için gözlerin, kaşların, dış hatların, ağzın ve burnun özelliklerini kullanıyor.
Deney bulguları:
- Çocuğun gözleri ve kaşları , AI öngörülebilirliği için en öğretici olanıdır, ancak burun yardımcı değildir;
- Ve doğru Kızlar Söyle, Gözler en önemlisidir ve ana hat en önemlisidir.
Sırada sakal ve gözlük var.
John, sakallı ve sakalsız aynı sayıda erkek çocuktan oluşan bir veri kümesinde, AI'nın erkeklerin cinsel yönelimine ilişkin yargısının doğruluğunun etkilenmediğini buldu.
Aynı şey gözlükler için de geçerli, yapay zekayı etkileyen hiçbir tahmin yok. Diğer bir deyişle, Kasıtlı olarak kılık değiştirerek yapay zekayı aldatmak için iyi bir yol değildir.
İşin büyüsü, 5x5 boyutuna düşürülse bile, AI'nın yargısının hala ciddi şekilde etkilenmemesidir. AUC temelde 0,6-0,8 arasında kalır ve bazen 0,8'i aşar (aşağıdaki şekilde sol kesik çizgi 5x5 ve sağ büyük olanıdır).
ve bu yüzden, Muhtemelen mizaçla yargılanır ( ) .
John, bu keşifleri yapmak için derin bir sinir ağı modeli ve yüz morfolojisi (FM) tabanlı bir modeli yeniden üretti.Ayrıca arkadaşlık sitelerinden 500.000 fotoğraf aldı ve 20.000'den fazlasını cinsiyet yapmak için seçti. Dengeli yönlendirmeye sahip bir veri kümesi.
Görüntüden burun, sakal, kaş, ağız köşeleri ve saç çizgisi gibi yüz özelliklerini çıkarmak için VGG-Face sinir ağını kullandı ve ardından fotoğrafı 4096 öğenin özellik vektörü.
Bir tanışma sitesi olduğu için bu fotoğraflar aynı zamanda yaş, cinsiyet ve cinsel yönelim gibi etiket bilgilerini de taşıyacaktır.
Sonra yazar, cinsel yönelimi tahmin etmek için yüz özelliklerine dayalı bir regresyon modeli eğitti. 2017 Stanford Üniversitesi çalışması tam da bunu yaptı. O sırada Profesör Kosinski, aynı cinsel yönelime sahip tüm insan yüzlerinin 4 fotoğrafını sentezledi:
Açıkçası, bu dört sentetik yüz görüntüsü arasında farklılıklar var. Bu bağlamda Profesör Kosinski, cinsel yönelime genellikle benzersiz yüz özelliklerinin eşlik ettiğini ileri sürdü.
Ama daha derine inersek sorunu bulacağız: Eşcinsel bir adamın yüzünün birleşik görüntüsü gözlükleri gösteriyor. Bu nedenle, algoritma yüzdeki aksesuarlara göre değerlendirilebilir.
Fast.ai'nin kurucusu Jeremy Howard, yapay zekanın fotoğraflarla cinsel yönelimi ayırt edemeyeceğini söylemenin objektif olmadığına inanıyor. Korelasyon, nedensellikle aynı şey değildir.
Sinir ağı, arkasındaki nedeni açıklamadan sadece yüz özellikleri ile cinsel yönelim arasındaki ilişkiyi keşfeder, sadece bir tanıma makinesidir.
02 Tavayı tekrar kızartan netizenler
İki yıl önce olduğu gibi, bu siyasi olarak yanlış çalışma büyük tartışmalara neden oldu. Yabancı netizenler araştırma sonuçları hakkında birçok soru sordu.
Her şeyden önce, Taraflı veri setleri, kaçınılmaz olarak önyargılı sonuçlara yol açacaktır.
Bazı netizenler, eşcinsellerin genellikle imajlarına heteroseksüel erkeklerden daha çok önem verdiğini ve kendilerini dikkatli giydirebileceklerini belirtti. Bununla birlikte, tanışma sitelerinin doğası gereği güçlü bir amacı vardır ve kullanıcılar insanları çekmek için dikkatlice giyinirler.
Bu, modeli diğer sosyal medya senaryoları için daha az uygun hale getirir.
Wisconsin-Madison Üniversitesi'nde psikoloji profesörü olan William Cox'un yaptığı bir araştırma, eşcinsellerin internette kendilerinin yüksek kaliteli resimlerini yayınlamaya gerçekten daha yatkın olduklarını ortaya çıkardı.
Stanford Üniversitesi'ndeki önceki deneyler de bunu doğruladı Model Facebook resimlerinde kullanıldığında doğruluk oranı% 52'ye düşüyor.
Ayrıca bu algoritmanın 5 × 5 görüntülerde% 63 ve% 72 doğruluk oranlarına sahip olması, ten ve saç renklerine göre de sınıflandırma yapabildiğini göstermektedir.
Ancak 5 × 5 mozaik, temelde yüz özelliklerini tamamen bulanıklaştırıyor ve işe yarıyor! Bu, Profesör Kosinski'nin iki yıl önceki tahminlerine aykırı ve insanların sonuçların güvenilirliğinden şüphe duymasına neden oluyor.
Deneysel verilerin sunum yöntemi de insanların yeterince objektif olmadığından şüphelenmesine neden olur.
Örneğin, veri setinin% 70'i heteroseksüel erkekler ve% 30'u eşcinseldir, bu nedenle model herkesin heteroseksüel olduğuna karar verdiği sürece doğruluk oranı% 70 olacaktır.
Örneğin her 1000 kişiden 50'si gey. % 91 doğruluğun sonucu, heteroseksüel erkeklerin% 9'unun eşcinsel, yani 85 kişiyi yanlış tanımlayacaktır.
Algoritma aynı zamanda eşcinsellerin% 9'unu heteroseksüel erkekler olarak ele alıyor, bu da 45 kişinin eşcinsel olarak tanımlandığı anlamına geliyor. Sonuç olarak, 130 "eşcinsel" in üçte ikisi aslında eşcinsel değil.
John, Güney Afrika'da çok az tanınan bir öğrencidir ve tartışması hala mantıklı bir aralıkta kontrol edilebilir.
Stanford Üniversitesi'nden Profesör Kosinski o kadar şanslı değildi. Araştırması yayınlandıktan sonra büyük eleştirilere neden oldu. Ölüm tehdidi . LGBT grupları araştırmasına "çöp bilim" diyor.
Bazı ülkelerde eşcinsellik yasa dışıdır ve hatta azami ölüm cezası bile taşır. Eşcinsellerin yasal olduğu bazı ülkelerde bile, bu teknoloji mahremiyet sızdırma suçlamalarıyla karşı karşıya.
Genç, 61 sayfalık makalesinde bu tür teknolojinin gizli tehlikelerinden bahsetti:
Cinsel yönelimi tespit edebilen bu tür yeni teknoloji, gey erkek ve kadınların mahremiyeti ve güvenliği üzerinde ciddi bir etkiye sahip olabilir.Ne düşünüyorsun?
Bu çalışmaya LGBT grupları şiddetle karşı çıkarken, Profesör Kosinski de herkesi korkutacak kadar cesur önermeler öne sürdü.
Yapay zeka algoritmalarının yakında insanların zekasını, siyasi eğilimini ve suç eğilimini sadece yüz görüntülerini kullanarak yargılayabileceğine inanıyor.
Bunun sadece bir varsayım olduğunu düşünmeyin. İsrailli bir başlangıç şirketi olan Faception, teröristleri yüz yüze tespit etmek için böyle bir yapay zeka yazılımı satmaya başladı. Bu teknolojiyi 11 terörist üzerinde kullandıklarını iddia ettiler ve 9 tanesini doğru bir şekilde tespit ettiler. .
İnsanlara resmi göstermek için AI kullanmak gerçekten güvenilir mi?
(Öğrenme videosunu desteklemek "Öğreniyorum" özel mesajını alın! )
Aşama 1: Python'a Başlarken 1: Python_Features_Sürüm Sorunlarına Giriş_Uygulama Kapsamı 2: Python İndirme_Kurulumu_Yapılandırma_Python Programının İlk Satırı 3: Geliştirme Ortamına Giriş_Etkileşimli Mod Kullanımı_Giriş ve IDLE Kullanımı
4: IDLE geliştirme ortamının kullanımı _ Python kaynak dosyaları oluşturun
5: Python programı format_indent_line comment_paragraph yorumu
6: Basit hatalarla nasıl başa çıkılır _ _programmer uygulama kılavuzu
7: Kaplumbağa çizimi _ koordinat sistemi sorunu _ çeşitli yöntemleri fırçalayın
8: Kaplumbağa çizimi_ Olimpiyat halkalarını çiz
.....
İkinci aşama: Python derinleşmesi ve iyileştirilmesi
1: İstisna işlemeyi tanıtın
2: Birden çok kullanım dışında
3: Birden fazla istisnanın kullanılması
4: başka-dışında-nihayet dene
5: İstisna işlemenin aktarım mekanizması
6: Özel bir istisna oluşturun
7: Modüllerin tanıtımı
8: Modüllerin kullanımı
9: 9 modülün tanımını ve kullanımını özelleştirin
10: __all__ kullanımı
11: Paketin kullanımı
12: __init__.py kullanımı
13: Modüller projelerde nasıl kullanılır?
14: Özel modüller, projeler genelinde ilk çözümü kullanır
15: Özel modüller-modül sürümünün çapraz proje kullanımı için ikinci şema
16: Serbest bırakılan modülü sistem kataloğuna yükleyin
17: Özel modüllerin kaba kuvvet kurulumu
18: Modül giriş problemi (hangi modüller tanıtılabilir)
19: Modülün aşırı yüklenmesi sorununu çözmek için yerel IDE kullanın
20: == ve kullanımı
21: Kopya ve derin kopyanın kullanımı
22: Sayı dönüştürme sorunu
23: Orijinal kodun tamamlanması sorunu
24: Bit operatörlerinin kullanımı
25: Mülkiyet özelleştirme sorunları
26: Özel mülklere erişimi basitleştirmek için mülk kullanın
27: @ özelliği, özel mülklere erişimi kolaylaştırır
...
Üçüncü aşama: Python ağı ve eşzamanlı programlama
...
Dördüncü aşama: veritabanı programlama temeli
...
Beşinci aşama: Linux ortamı programlama temeli
Altıncı aşama: Python temel özellikleri
Yedinci Aşama: Web Programlamanın Temelleri
Sekizinci aşama: Python_Django çerçevesi
Dokuzuncu aşama: Python_Tornado çerçevesi
Onuncu aşama: Python_ büyük e-ticaret projesi
On birinci aşama: Python tarayıcı geliştirme
On ikinci aşama: mülakat ve başarılı iş aramanın sırları
On üçüncü aşama: girişten sonra CTO'ya hızlı büyüme
desteğin için teşekkürler! Lütfen iletin ~~~~~~~~
