Cinsel yönelimi tanımlamak ve insanlar ve nesneler arasındaki ilişkileri tanımlamak için AI etiğinin sınırı nedir?
Dedikodu, akşam yemeğinden sonra her zaman insanın ebedi bir konusu olmuş gibi görünüyor, bir kişi ile diğeri arasındaki ilişki nasıl ayırt edilir? Örneğin, iyi bir arkadaş mı yoksa iyi bir arkadaş mı?
Bununla birlikte, AI, tüm bu özel sorunları doğru bir şekilde belirleyebildi ve bu gerçekten bir panik dalgasına neden oldu. Bundan hemen önce, Stanford Üniversitesi'ndeki iki araştırmacı, bir yüz görüntüsünü inceleyerek bir kişinin cinsel yönelimini tespit edebilen bir sinir ağı geliştirdi.
Araştırmacılar, homoseksüel ve heteroseksüel arasında eşit olarak bölünmüş 35.000'den fazla yüz görüntüsünden oluşan bir sinir ağını eğitti. Bu algoritmanın takibi, genetik veya hormonla ilgili özellikleri içerir.
Bu araştırmanın anahtarı, cinsel yönelimi etkileyen doğum öncesi hormon teorisidir (PHT). Bu teori özellikle, erkeklik hormonlarının esas olarak rahimdeki cinsel farklılaşmadan sorumlu olduğunu ve aynı zamanda gelecekteki yaşamda eşcinsel yönelim için ana itici güç olduğunu söylüyor. Çalışma ayrıca, bu özel erkek hormonlarının temel yüz özelliklerini bir dereceye kadar etkileyeceğine, yani belirli yüz özelliklerinin cinsel yönelimle ilişkili olabileceğine işaret etti.
Çalışmalar, geylerin ve lezbiyenlerin "atipik cinsiyet özelliklerine" sahip olma eğiliminde olduklarını, bu da gey erkeklerin genellikle kadınsı, lezbiyenler ve bunun tersi anlamına geldiğini buldu. Ek olarak, araştırmacılar eşcinsel erkeklerin genellikle düz erkeklere göre daha dar çeneye, daha uzun buruna ve daha büyük alnına sahipken, lezbiyenlerin daha büyük bir çeneye ve daha küçük alnına sahip olduklarını buldular.
Resim kaynağı: TechCrunch
Eşcinsel bir erkek ve heteroseksüel bir erkek olmak üzere bir çift görüntü rastgele seçilir ve makinenin öznelerin cinsel yönelim seçiminin doğruluğu% 80'e kadar çıkmaktadır. Aynı kişinin aynı anda beş resmi ile karşılaştırıldığında, doğruluk% 91'e kadar çıkmaktadır. Ancak kadınlar için tahmin doğruluk oranı göreceli olarak düşüktür,% 71 görüntü doğruluk oranı ve 5 görüntü ile% 83'e yükselir.
Yapay zeka, şüphesiz mahremiyet kısmına dahil olan ve gerçekten de göz korkutucu olan insan cinsel yönelimini tanır. Sosyal ağlarda ve devlet veri tabanlarında depolanan milyarlarca halka açık veri, benim iznim olmadan cinsel yönelimi tanımlamak için kullanılabilir ve bu tartışmaya açıktır.
Cinsel yönelimi belirlemenin yanı sıra, başkaları arasındaki ilişkiyi de tanımlayabilirsiniz.
Ancak bu tür araştırmalar devam ediyor. Sun Yat-Sen Üniversitesi'ndeki bir ekip, kişi ilişkilerini belirlemek için veri setlerini kullanabilir. Örneğin:
Veya bunun gibi bir şey:
Tüm bunlar, sosyal ilişkileri işlemek için Geçitli Grafik Sinir Ağı (GGNN) ile birleştirilen araştırmacılar tarafından eğitilen Grafik Akıl Yürütme Modeli'ne (GRM) dayanmaktadır.
Buna dayanarak, AI, resimdeki üçü arasındaki ilişkiyi belirleyebilir, harita üzerindeki kişi alanının özelliklerine göre ilişki düğümünü başlatabilir ve ardından görüntüdeki anlamsal nesneyi aramak, özelliklerini çıkarmak ve başlatmak için önceden eğitilmiş Faster-RCNN dedektörünü kullanabilir. İlgili nesne düğümleri; insanlar ve bağlamsal nesneler arasındaki etkileşimi tam olarak keşfetmek için düğüm mesajlarını grafikler aracılığıyla dağıtın ve her bir nesne düğümünün önemini ölçerek tanımayı desteklemek için en büyük miktarda bilgiye sahip düğümleri uyarlamalı olarak seçmek için grafik dikkat mekanizmasını kullanın.
Bununla birlikte, gerçek performansta AI tanıma tatmin edici değildir. Örneğin, polis, Şampiyonlar Ligi finalinde potansiyel suç görüntülerini eşleştirmek için AI yüz tanımayı kullandı ve hata oranı% 92'ye kadar çıktı.Karakter ilişkisi ve cinsel yönelim tanıma alanında, uygulama performansı mükemmel değil.
Cinsel yönelim belirlendikten sonra, AI etiğinin sınırı nerede?
"The New Yorker" bir zamanlar böyle bir görünüme sahipti: Robotlar dünyanın kahramanı haline geldi ve insanlar yalnızca robotların hayırseverliğini kabul etmek için yere çömelebilirler. Her yeni teknoloji herkesin endişelenmesine neden olacak, ancak geçmişte daha çok insanın fiziksel gücünün bir uzantısıydı ve beyin gücünün ve insan mahremiyetinin bir uzantısı olsaydı, bu endişe daha ciddi olurdu. Aixdlun analisti Ke Ming, cinsel yönelimi belirlemeden önce yapay zekanın birkaç önemli etik sorunu çözmesi gerektiğine inanıyor.
1. Yalnızca yüz tanımaya güvenmek çok saçma
"Kişilik ve Sosyal Psikoloji", Stanford'da yayınlanan ve derin sinir ağlarının görüntülerle cinsel yönelimi yargılamada insanlardan daha doğru olduğuna işaret eden bu araştırmayı yayınladı.Araştırma, eşcinseller diyen araştırmacıları belirlemek için bir bilgisayar modelinin kurulmasını içeriyor. "Atipik" özellikleri
Özette araştırmacılar, İnsanların yüz özelliklerinin insan beyni tarafından yargılanamayacak daha fazla cinsel yönelim özellikleri içerdiğine inanıyoruz. Bir resme göre sistem (sınıflandırıcı) gey erkekleri% 81 doğrulukla ayırt edebiliyor. Lezbiyenleri ayırt etmede% 74 olan doğruluk oranı, insan beynininkinden daha yüksek. "
Ancak, mesafe uygulaması sürecinde sadece yüz yapısı tanıma o kadar "güvenilir" görünmüyor. Teknoloji, insanların cinsel yönelimlerini belirleyemez.Teknolojinin sözde geleceği, yalnızca internetteki eşcinsellerin yüzlerindeki benzer kalıpları belirleyecektir.
Dahası, bu çalışmanın bir problemi, çalışmanın mekanizmasının, makineyi "gey olma olasılığını daha fazla" hissettiren iki resimden birini seçmesidir. Bu karşılaştırma kararı aslında% 50 rasgele olasılıktan hesaplanmıştır. Yani bir resmi analiz etmekten çok farklı.
Bu aslında bir soruna neden oldu.Gerçek insan tanımasında, doğruluğunun ne kadar doğru olduğu ve bu ya ya da tanıma yönteminin değerlendirme kriterlerinin hala birçok yerde tartışılması gerekiyor.
2. Algoritmik ayrımcılık hala "büyük bir sorun" dur
Algoritmik ayrımcılık, yapay zeka uygulamasında her zaman büyük bir sorun olmuştur. Örnek olarak aramayı ele alın. Google'da "CEO" aranırken, arama sonuçlarının hiçbiri kadın veya Asyalı değildir. Bu, potansiyel bir önyargıdır .
Açıktır ki, yapay zeka gerçekten tamamen "yapay" değildir. Makine öğreniminin yöntemi insan öğrenimiyle aynıdır. Toplumsal yapının normalliğini kültürden çıkarır ve soğurur, böylece biz insanların onlar için belirlediği yolları yeniden inşa eder, genişletir ve devam ettirir ve bu yollar her zaman mevcut sosyal normalliği yansıtacaktır. .
Bir kişinin dürüst olup olmadığını yüzüne göre yargılamak ya da cinsel yönelimini yargılamak olsun, bu algoritmalar, insanın cinsel yöneliminin özünün kökeni olduğuna dair bir inanç olan toplumun orijinal biyolojik özcülüğüne dayanmaktadır. İnsan vücudu teorisi. Sonuçta, bir yapay zeka aracı, veri birikimi ve algoritmik modeller aracılığıyla fotoğraflar aracılığıyla bir kişinin cinsel yönelimine karar verebilir ve sistem doğruluk oranı% 91'e kadar çıkmaktadır. Bunun getirdiği cinsel yönelim önyargısı küçümsenemez.
Bu yılın başlarında, Bath Üniversitesi ve Princeton Üniversitesi'nden bilgisayar bilimcileri, algoritmanın altında yatan eğilimi tespit etmek için IAT'ye (Örtük İlişki Testi) benzer ilişki testleri kullandılar ve algoritmanın bile ırk ve cinsiyete karşı önyargılı olduğunu buldular. Google Translate bile önyargılardan kaçamaz, algoritma toplum tarafından kurulan önyargıları "keşfeder" ve "öğrenir". Belirli bir dil ortamında, başlangıçta nötr olan bazı isimler, bağlamın belirli bir sıfatı (nötr) varsa, nötr kelimeyi "o" ya da "o" ya çevirecektir.
Günümüzün yapay zekası temelde belirli görevleri tamamlamakla sınırlıdır ve bazen birçok pratik uygulama ya hep ya hiç değildir. Birçok seçenekte, insan seçimlerinin hala ahlaki ikilemleri vardır Karar verme gücü algoritmaya verilirse, varlığı daha da açıktır.
3. Veri kullanımı, "ısı" konusunda uzmanlaşmak anahtardır
Yapay zekanın vahşice büyümesine izin vermek insanların iş verimliliği sorununu çözmekse, yapay zeka kademeli olarak çeşitli sektörlere girdiğinde, "düzgün" yavaş yavaş verimliliğin yerini aldı ve yapay zeka uygulamaları için anahtar kelime haline geldi.
Elbette, bir işletme kullanıcı gizliliğini çok yönlü koruyabiliyorsa, bu sadece teknik olarak zor değil, aynı zamanda belirli bir ticari itici güçten de yoksundur, bu nedenle, şu anda ikisi arasındaki ilişkiyi dengelemek anahtarıdır.
Aslında, Avrupa ülkeleri, devlerin kullanıcı gizliliğini baltalamasını önleme konusunda uzun bir yol kat ettiler.Bu, son yıllarda Facebook ve Google gibi devlerle karşı karşıya kaldıkları sınıf eylemi vakalarına da yansıyor:
Ağustos 2014'te Facebook, Avrupa'da 60.000 kişi tarafından dava edildi.Avusturyalı bir gizlilik koruyucusu, Facebook'u Avrupa veri koruma yasalarını ihlal etmekle suçlayarak Facebook'un Avrupa yan kuruluşlarına karşı büyük ölçekli bir toplu dava açtı ve FB'nin Amerika Birleşik Devletleri'ne katıldığından şüphelenildi. Ulusal Güvenlik Ajansının "Prism" projesi, halka açık internette kullanılan kişisel verileri topluyor.
Bu yılın Ocak ayının başlarında, bir Alman hükümeti veri koruma kuruluşu Çarşamba günü yaptığı açıklamada, Facebook'u sosyal paylaşım sitesini kullanmayan kullanıcıların kişisel bilgilerini yasa dışı bir şekilde okumak ve saklamakla suçlayarak Facebook'a karşı yasal işlem başlattığını söyledi. Almanya Hamburg Veri Koruma Ofisi komiseri, Facebook'un sosyal paylaşım sitesini izinsiz kullanmayan kullanıcıların kişisel bilgilerini toplayıp kaydetmesi nedeniyle bunun Facebook'a onbinlerce avro para cezasına çarptırılabileceğini belirtti.
Açıkçası, kullanıcıların kendi verilerinin korunması konusundaki farkındalığı sürekli olarak güçlendiriliyor ve aynı zamanda kendi verilerini sürekli korurken gizlilik önlemlerini de güçlendiriyorlar. Sonuçta, yapay zekanın cinsel yönelimi tanıması şu anda sadece bir araştırma ve bir ürün değil.
Dahası, web sitesinden resim almak teknik bir görev değildir.Bir makinenin çoktan seçmeli sorular yapmasına izin verme kavramı, on yıldan uzun bir süre önce bir Harvard otaku tarafından yapılan bir kampüs güzellik yarışması gibidir. Tadını bilin.
[Titanium Media'nın Yazarı; Intelligent Relativity (WeChat kimliği: aixdlun), Ke Ming]
Daha heyecan verici içerik için Titanium Media WeChat ID'yi (ID: taimeiti) takip edin veya Titanium Media Uygulamasını indirin
