AI cinsel yönelimi tanıyor mu? Sadece yüz tanımaya güvenmek çok özensiz
Dedikodu, akşam yemeğinden sonra her zaman insanoğlunun ebedi bir konusu olmuş gibi görünüyor, bir kişi ile diğeri arasındaki ilişki nasıl ayırt edilir? Örneğin, iyi bir arkadaş mı yoksa iyi bir arkadaş mı?
Bununla birlikte, AI tüm bu özel sorunları doğru bir şekilde belirleyebildi ve bu gerçekten bir panik dalgasına neden oldu. Bundan hemen önce, Stanford Üniversitesi'ndeki iki araştırmacı, bir yüz görüntüsünü inceleyerek bir kişinin cinsel yönelimini tespit edebilen bir sinir ağı geliştirdi.
Araştırmacılar, homoseksüel ve heteroseksüel arasında eşit olarak bölünmüş 35.000'den fazla yüz görüntüsünden oluşan bir sinir ağını eğitti. Algoritmanın izlemesi, genetik veya hormonla ilgili özellikleri içerir.
Bu araştırmanın anahtarı, cinsel yönelimi etkileyen doğum öncesi hormon teorisidir (PHT). Bu teori, özellikle anne karnında, erkek hormonlarının esas olarak cinsel farklılaşmadan sorumlu olduğunu ve bu aynı zamanda gelecekteki yaşamda eşcinsel yönelim için ana itici güç olduğunu belirtir. Çalışma ayrıca, bu özel erkek hormonlarının temel yüz özelliklerini bir dereceye kadar etkileyeceğine, yani bazı yüz özelliklerinin cinsel yönelimle ilişkili olabileceğine işaret etti.
Çalışmalar, geylerin ve lezbiyenlerin "atipik cinsiyet özelliklerine" sahip olma eğiliminde olduklarını, bu da eşcinsel erkeklerin genellikle kadınsı olma eğiliminde olduğu, lezbiyenlerin ise tam tersi anlamına geldiğini buldu. Ek olarak, araştırmacılar gey erkeklerin düz erkeklere göre genellikle daha dar bir çene, daha uzun burun ve daha büyük alnına sahipken, lezbiyenlerin daha büyük bir çeneye ve daha küçük alnına sahip olduklarını buldular.
Resim kaynağı: TechCrunch
Eşcinsel bir erkek ve heteroseksüel bir erkek olmak üzere bir çift görüntü rastgele seçilir ve makinenin öznelerin cinsel yönelim seçiminin doğruluğu% 80'e kadar çıkmaktadır. Aynı kişinin aynı anda beş resmi ile karşılaştırıldığında, doğruluk% 91'e kadar çıkmaktadır. Ancak kadınlar için tahmin doğruluk oranı göreceli olarak düşük olup% 71 görüntü doğruluk oranı ve 5 görüntü ile% 83'e çıkmaktadır.
Yapay zeka, şüphesiz mahremiyet kısmını da içeren insan cinsel yönelimini tanır ki bu gerçekten göz korkutucudur. Sosyal ağlarda ve devlet veri tabanlarında depolanan milyarlarca halka açık veri, benim iznim olmadan cinsel yönelimi tanımlamak için kullanılabilir ve bu tartışmaya açıktır.
Cinsel yönelimi belirlemenin yanı sıra, başkaları arasındaki ilişkiyi de tanımlayabilirsiniz.
Ancak bu tür araştırmalar devam ediyor. Sun Yat-Sen Üniversitesi'ndeki bir ekip, kişi ilişkilerini belirlemek için veri setlerini kullanabilir. Örneğin:
Veya bunun gibi bir şey:
Tüm bunlar, sosyal ilişkileri işlemek için Geçitli Grafik Sinir Ağı (GGNN) ile birleştirilen araştırmacılar tarafından eğitilen Grafik Akıl Yürütme Modeli'ne (GRM) dayanmaktadır.
Buna dayanarak, AI, resimdeki üçü arasındaki ilişkiyi belirleyebilir, harita üzerindeki kişi alanının özelliklerine göre ilişki düğümünü başlatabilir ve ardından görüntüdeki anlamsal nesneyi aramak, özelliklerini çıkarmak ve başlatmak için önceden eğitilmiş Faster-RCNN detektörünü kullanabilir. İlgili nesne düğümleri; insanlar ve bağlamsal nesneler arasındaki etkileşimi tam olarak keşfetmek için düğüm mesajlarını grafikler aracılığıyla dağıtın ve her nesne düğümünün önemini ölçerek tanımayı desteklemek için en büyük miktarda bilgiye sahip düğümleri uyarlamalı olarak seçmek için grafik dikkat mekanizmasını kullanın.
Bununla birlikte, gerçek performansta AI tanıma tatmin edici değildir. Örneğin, polis, Şampiyonlar Ligi finalinde potansiyel suç görüntülerini eşleştirmek için AI yüz tanımayı kullandı ve hata oranı% 92'ye kadar çıktı.Karakter ilişkisi ve cinsel yönelim tanıma alanında, uygulama performansı mükemmel değil.
Cinsel yönelim belirlendikten sonra, AI etiğinin sınırı nerede?
"The New Yorker" bir zamanlar böyle bir görünüme sahipti: Robotlar dünyanın kahramanı haline geldi ve insanlar yalnızca robotların yardımını kabul etmek için yere çömelebilirler. Her yeni teknoloji herkesin endişelenmesine neden olacak, ancak geçmişte daha çok insanın fiziksel gücünün bir uzantısıydı ve beyin gücünün ve insan mahremiyetinin bir uzantısı olsaydı, bu endişe daha da ciddi olurdu. Akıllı görelilik teorisinin bir analisti olan Ke Ming, cinsel yönelimi tanımlamadan önce AI'nın birkaç önemli etik sorunu çözmesi gerektiğine inanıyor.
1. Yalnızca yüz tanımaya güvenmek çok saçma
Personality and Social Psychology dergisi Stanford üzerinde yürüttüğü bu araştırmayı, derin sinir ağlarının görüntülerle cinsel yönelimi yargılamada insanlardan daha doğru olduğuna işaret eden araştırma, onları eşcinsel olarak adlandıran araştırmacıları belirlemek için bir bilgisayar modelinin kurulmasını içeriyor. "Atipik" özellikleri
Özette araştırmacılar, İnsanların yüz özelliklerinin insan beyninin yargılayamayacağı daha fazla cinsel yönelim özellikleri içerdiğine inanıyoruz. Bir resme göre sistem (sınıflandırıcı) erkek eşcinselliğini% 81 doğrulukla ayırt edebiliyor. Lezbiyenleri ayırt etmede% 74'lük doğruluk oranı, insan beynininkinden daha yüksek. "
Ancak, mesafe uygulaması sürecinde sadece yüz yapısı tanıma o kadar "güvenilir" görünmüyor. Teknoloji insanların cinsel yönelimlerini belirleyemez.Teknolojinin sözde geleceği, sadece internetteki eşcinsellerin yüzlerindeki benzer kalıpları belirleyecektir.
Dahası, bu çalışmanın bir problemi, çalışmanın mekanizmasının, makineyi "gey olma olasılığı daha yüksek" hissettiren iki resimden birini seçmesidir Bu karşılaştırma kararı aslında% 50 rasgele olasılıktan hesaplanmıştır. Yani bir resmi analiz etmekten çok farklı.
Bu aslında bir soruna neden oldu.Gerçek insan tanımasında, doğruluğunun ne kadar doğru olduğu ve bu ya-ya da tanıma yönteminin değerlendirme kriterlerinin hala birçok yerde tartışılması gerekiyor.
2. Algoritmik ayrımcılık hala "büyük bir sorun" dur
Algoritmik ayrımcılık, yapay zeka uygulamasında her zaman büyük bir sorun olmuştur. Örnek olarak aramayı ele alın. Google'da "CEO" aranırken, arama sonuçlarının hiçbiri kadın veya Asyalı değildir. Bu, potansiyel bir önyargıdır .
Açıktır ki, yapay zeka gerçekten tamamen "yapay" değildir. Makine öğreniminin yöntemi insan öğrenimiyle aynıdır. Toplumsal yapının normal durumunu kültürden çıkarır ve soğurur, böylece biz insanların onlar için belirlediği yolları yeniden inşa eder, genişletir ve devam ettirir ve bu yollar her zaman mevcut sosyal normalleri yansıtacaktır. .
Bir kişinin dürüst olup olmadığını yüzüne göre yargılamak ya da cinsel yönelimini yargılamak olsun, bu algoritmalar, insanın cinsel yöneliminin özünün kökeni olduğu inancı olan toplumun orijinal biyolojik özcülüğüne dayanmaktadır. İnsan vücudu teorisi. Sonuçta, bir yapay zeka aracı, veri birikimi ve algoritmik modeller aracılığıyla fotoğraflar aracılığıyla bir kişinin cinsel yönelimini değerlendirebilir ve sistem doğruluk oranı% 91'e kadar çıkmaktadır. Bunun getirdiği cinsel yönelim önyargısı küçümsenemez.
Bu yılın başlarında, Bath Üniversitesi ve Princeton Üniversitesi'nden bilgisayar bilimcileri, algoritmanın altında yatan eğilimi tespit etmek için IAT'ye (Örtük İlişki Testi) benzer ilişkilendirme testleri kullandılar ve algoritmanın bile ırk ve cinsiyete karşı önyargılı olabileceğini buldular. Google Translate bile önyargılardan kaçamaz, algoritma sosyal sözleşmelerin oluşturduğu önyargıları "keşfeder" ve "öğrenir". Belirli bir dil ortamında, başlangıçta nötr olan bazı isimler, bağlamın belirli bir sıfatı (nötr) varsa, nötr kelimeyi "o" ya da "o" ya çevirecektir.
Günümüzün yapay zekası temelde belirlenen görevleri tamamlamakla sınırlıdır ve bazen birçok pratik uygulama biri ya da diğeri değildir.Birçok seçenekte insan seçimlerinde hala ahlaki ikilemler vardır.Karar gücü algoritmaya verilirse, varlığı eleştirilecektir. Mesele apaçık ortada.
3. Veri kullanımı, "ısı" konusunda uzmanlaşmak anahtardır
Yapay zekanın çılgınca büyümesine izin vermenin insanların iş verimliliği sorununu çözmek olduğunu söylersek, yapay zeka kademeli olarak çeşitli sektörlere girdiğinde, "düzgün" yavaş yavaş verimliliğin yerini aldı ve yapay zeka uygulamaları için anahtar kelime haline geldi.
Elbette, bir şirket kullanıcı gizliliğini her yönden koruyabilirse, teknik olarak zor olacak ve belirli bir ticari itici güçten yoksun olacaktır, bu nedenle, şu anda ikisi arasındaki ilişkiyi dengelemek önemlidir.
Aslında Avrupa ülkeleri, devlerin kullanıcı gizliliğini yok etmesini engellemede uzun bir yol kat ettiler.Bu, son yıllarda Facebook ve Google gibi devlerle karşı karşıya kaldıkları sınıf eylemi vakalarına da yansıyor:
Ağustos 2014'te Facebook, Avrupa'da 60.000 kişi tarafından dava edildi. Avusturyalı bir gizlilik koruyucusu, Facebook'u Avrupa veri koruma yasalarını ihlal etmekle suçlayarak Facebook'un Avrupa yan kuruluşlarına karşı büyük ölçekli bir toplu dava açtı ve FB'nin Amerika Birleşik Devletleri'ne katıldığından şüphelenildi. Ulusal Güvenlik Ajansının "Prism" projesi, halka açık internette kullanılan kişisel verileri topluyor.
Bu yılın Ocak ayının başlarında, bir Alman hükümeti veri koruma kurumu Çarşamba günü yaptığı açıklamada, Facebook'u sosyal ağ sitesini kullanmayan kullanıcıların kişisel bilgilerini yasa dışı olarak okumak ve saklamakla suçlayarak Facebook'a karşı yasal işlem başlattığını söyledi. Almanya Hamburg Veri Koruma Bürosu komiseri, Facebook'un sosyal paylaşım sitesini izinsiz kullanmayan kullanıcıların kişisel bilgilerini toplayıp kaydetmesi nedeniyle bunun onbinlerce Euro para cezasına çarptırılabileceğini belirtti.
Açıkçası, kullanıcıların kendi verilerinin korunması konusundaki farkındalığı sürekli olarak güçlendiriliyor ve aynı zamanda kendi verilerini sürekli korurken gizlilik önlemlerini de güçlendiriyorlar. Sonuçta, yapay zekanın cinsel yönelimi tanıması şu anda yalnızca bir araştırma ve bir ürün değil.
