AI yüzünüze bakarak kişiliğinizi bilir, ikna olmasaydım bir test yaptım
AI yüze bak
Bir kişinin "kaderi" ve "kaderi"
Stanford'da bir tane var Cinsel yönelimi tahmin etmek için yüze bakın Yapay zeka, bir yüz gibi, bir kişinin yüz özelliklerine göre düz mü yoksa kavisli mi olduğuna karar verebilir ve doğruluğu tatmin edicidir:
Her şeyin anlaşılması için araştırmaya ihtiyacı var. John (John Leuner) adında bir genç sadece buna inanmakla kalmadı, aynı zamanda algoritmayı aktif olarak yeniden üretti ve bu kadar doğru olup olmadığını görmek için yeni verilerle deneyler yapmak istedi.
Bu sonuç netizenler arasında hararetli tartışmalar dalgasını çekti. Bu sefer, herkesin odak noktası yalnızca doğruluğun kendisine değil, aynı zamanda yineleme araştırmasında gençler tarafından gösterilen yapay zeka gözlemlerine de odaklanıyor:
Neden benim heteroseksüel bir adam olduğumu söylüyorsun
Yapay zeka, insan cinselliğini yargılamak için hangi ipuçlarına güveniyor?
John, yüzün her köşesini dikkatlice gözlemlemek için kontrollü değişken yöntemini kullandı.
İlk olarak, yapay zeka tahminlerine ayrı ayrı rehberlik etmek için gözlerin, kaşların, dış hatların, ağzın ve burnun özelliklerini kullanıyor.
Deney, yapay zekanın cinsel yönelimi tahmin etmesi için erkeklerin gözleri ve kaşlarının en eğitici olduğunu, ancak burnun yardımcı olmadığını; kızlar için gözler en önemli ve kontur en az önemli olduğunu buldu.
Sırada sakal ve gözlük var
John, sakallı ve sakalsız aynı sayıda erkek çocuktan oluşan bir veri kümesinde, AI'nın erkeklerin cinsel yönelimlerini değerlendirmesinin doğruluğunun etkilenmediğini buldu.
Aynısı gözlükler için de geçerli, yapay zekayı etkileyen hiçbir tahmin yok. Diğer bir deyişle, yapay zekayı kasıtlı olarak kılık değiştirerek aldatmak için iyi bir yol değildir.
İşin büyüsü, 5x5 boyutuna düşürülse bile, AI'nın yargısının hala ciddi şekilde etkilenmemesidir. AUC temelde 0,6-0,8 arasında kalır ve bazen 0,8'i aşar (aşağıdaki resimde sol kesik çizgi 5x5 ve sağdaki büyük resimdir)
Bu nedenle, muhtemelen mizaç ( ) ile değerlendirilir.
John, bu keşifleri yapmak için derin bir sinir ağı modeli ve yüz morfolojisi (FM) tabanlı bir model üretti.Ayrıca arkadaşlık sitelerinden 500.000 fotoğraf aldı ve bunların 20.000'den fazlasını cinsiyet yapmak için seçti. Dengeli yönlendirmeye sahip bir veri kümesi.
Görüntüden burun, sakal, kaşlar, ağız köşeleri ve saç çizgisi gibi yüz özelliklerini çıkarmak için VGG-Face sinir ağını kullanıyor ve ardından fotoğrafı 4096 öğeden oluşan bir özellik vektörüne dönüştürüyor.
Bir tanışma sitesi olduğu için bu fotoğraflar aynı zamanda yaş, cinsiyet ve cinsel yönelim gibi etiket bilgilerini de taşıyacaktır.
Sonra yazar, cinsel yönelimi tahmin etmek için yüz özelliklerine dayalı bir regresyon modeli eğitti. 2017 Stanford Üniversitesi çalışması tam da bunu yaptı. O sırada Profesör Kosinski, aynı cinsel yönelime sahip tüm insan yüzlerinin 4 fotoğrafını sentezledi:
Ancak daha derin bakarsak sorunu bulacağız: Eşcinsel bir adamın yüzünün birleşik görüntüsü gözlükleri gösteriyor. Bu nedenle, algoritma yüzdeki aksesuarlara göre değerlendirilebilir.
Fast.ai'nin kurucusu Jeremy Howard, yapay zekanın cinsel yönelimi fotoğraflardan ayırt edemeyeceğini söylemenin nesnel olmadığını, ancak korelasyonun nedensellikle aynı şey olmadığını düşünüyor.
Sinir ağı, arkasındaki sebebi açıklamadan sadece yüz özellikleri ile cinsel yönelim arasındaki ilişkiyi bulur, sadece bir tanıma makinesidir.
Netizenler
İki yıl önce olduğu gibi, bu siyasi olarak yanlış çalışma büyük tartışmalara neden oldu. Yabancı netizenler araştırma sonuçları hakkında birçok soru yöneltti.
Her şeyden önce, önyargılı veri setleri kaçınılmaz olarak yanlı sonuçlara yol açacaktır.
Bazı netizenler, eşcinsellerin genellikle imajlarına heteroseksüel erkeklerden daha çok önem verdiğini ve kendilerini dikkatli giydirebileceklerini belirtti. Bununla birlikte, tanışma sitelerinin doğası gereği güçlü bir amacı vardır ve kullanıcılar çekici nesnelerini dikkatlice giydirirler.
Bu, modeli diğer sosyal medya senaryoları için daha az uygun hale getirir.
Wisconsin-Madison Üniversitesi'nde psikoloji profesörü olan William Cox tarafından yapılan bir araştırma, eşcinsellerin internette kendilerinin yüksek kaliteli resimlerini yayınlamaya gerçekten daha yatkın olduklarını ortaya çıkardı.
Stanford Üniversitesi'nde yapılan önceki deneyler, model Facebook resimlerinde kullanıldığında doğruluk oranının% 52'ye düşeceğini de doğruladı.
Ayrıca bu algoritma 5 × 5 görüntülerde% 63 ve% 72 doğruluk oranlarına sahip olup, cilt ve saç renklerine göre de sınıflandırma yapabildiğini göstermektedir.
Ancak 5 × 5 mozaik, temelde yüz özelliklerini tamamen bulanıklaştırıyor ve işe yarıyor! Bu, Profesör Kosinski'nin iki yıl önceki tahminlerine aykırı ve insanların sonuçların güvenilirliğinden şüphe duymasına neden oluyor.
İki yıl önce olduğu gibi, bu siyasi olarak yanlış çalışma büyük tartışmalara neden oldu. Yabancı netizenler araştırma sonuçları hakkında birçok soru yöneltti.
Her şeyden önce, önyargılı veri setleri kaçınılmaz olarak yanlı sonuçlara yol açacaktır.
Bazı netizenler, eşcinsellerin genellikle imajlarına heteroseksüel erkeklerden daha çok önem verdiğini ve kendilerini dikkatli giydirebileceklerini belirtti. Bununla birlikte, tanışma sitelerinin doğası gereği güçlü bir amacı vardır ve kullanıcılar çekici nesnelerini dikkatlice giydirirler.
Bu, modeli diğer sosyal medya senaryoları için daha az uygun hale getirir.
Wisconsin-Madison Üniversitesi'nde psikoloji profesörü olan William Cox tarafından yapılan bir araştırma, eşcinsellerin internette kendilerinin yüksek kaliteli resimlerini yayınlamaya gerçekten daha yatkın olduklarını ortaya çıkardı.
Stanford Üniversitesi'nde yapılan önceki deneyler, model Facebook resimlerinde kullanıldığında doğruluk oranının% 52'ye düşeceğini de doğruladı.
Ayrıca bu algoritma 5 × 5 görüntülerde% 63 ve% 72 doğruluk oranlarına sahip olup, cilt ve saç renklerine göre de sınıflandırma yapabildiğini göstermektedir.
Ancak 5 × 5 mozaik, temelde yüz özelliklerini tamamen bulanıklaştırıyor ve işe yarıyor! Bu, Profesör Kosinski'nin iki yıl önceki tahminlerine aykırı ve insanların sonuçların güvenilirliğinden şüphe duymasına neden oluyor.
Deneysel verilerin sunum yöntemi de insanların yeterince objektif olmadığından şüphelenmesine neden olur.
Örneğin, veri setinde,% 70'i heteroseksüel erkekler ve% 30'u eşcinseldir.Model herkesin heteroseksüel olduğuna karar verdiği sürece, doğruluk oranı% 70 olacaktır.
Örneğin her 1000 kişiden 50'si gey. Doğruluk oranı% 91 olan sonuç, heteroseksüel erkeklerin% 9'unu eşcinsel, yani 85 kişiyi yanlış tanımlayacaktır.
Algoritma aynı zamanda homoseksüellerin% 9'unu heteroseksüel erkekler olarak ele alıyor, bu da 45 kişinin eşcinsel olarak tanımlandığı anlamına geliyor. Sonuç olarak, 130 "eşcinsel" in üçte ikisi aslında eşcinsel değil.
John, Güney Afrika'da çok az tanınan bir öğrencidir ve tartışması hala mantıklı bir aralıkta kontrol edilebilir.
Stanford Üniversitesi'nden Profesör Kosinski o kadar şanslı değildi, araştırması yayınlandıktan sonra büyük eleştirilere neden oldu, hatta kendisi birçok ölüm tehdidi aldı. LGBT grupları araştırmasına "çöp bilim" diyor.
Bazı ülkelerde eşcinsellik yasa dışıdır ve hatta ölüm cezasına çarptırılabilir. Eşcinsellerin yasal olduğu bazı ülkelerde bile, bu teknoloji mahremiyet sızdırmakla suçlanıyor.
Genç, 61 sayfalık makalesinde bu tür teknolojinin gizli tehlikelerinden bahsetti:
Cinsel yönelimi tespit edebilen bu tür yeni teknoloji, gey erkek ve kadınların mahremiyeti ve güvenliği üzerinde ciddi bir etkiye sahip olabilir.
Ne düşünüyorsun?
Bu çalışmaya LGBT grupları şiddetle karşı çıkarken, Profesör Kosinski de herkesi korkutacak kadar cesur önermeler öne sürdü.
Yapay zeka algoritmalarının yakında insanların zekasını, siyasi eğilimini ve suç eğilimini yalnızca yüz görüntülerini kullanarak yargılayabileceğine inanıyor.
Bunun sadece bir spekülasyon olduğunu düşünmeyin. İsrailli bir başlangıç şirketi olan Faception, teröristleri yüz yüze tespit etmek için böyle bir yapay zeka yazılımı satmaya başladı. Bu teknolojiyi 11 terörist üzerinde kullandıklarını ve 9'unu doğru bir şekilde tespit ettiklerini iddia ediyorlar.
Bitiş
