AI onu korumaya başladığında
Görüntü kaynağı @
Metin | Beyin Kutupsal Gövdesi
Yapay zeka ile kadınlar arasındaki ilişki pek iyi görünmüyor.
Yapay zeka söz konusu olduğunda, sık sık gördüğümüz şey, "Yapay zeka taraması özgeçmişleri cinsiyete dayalıdır ve erkek çalışanlara karşı daha önyargılıdır." "Sekreterlerin, çevirmenlerin ve stenoların yerini alması, kadınları işsiz kılar" "Tüm yapay zeka asistanları kadın seslendiriyor ve ataerkilliği vurguluyor "...
İnsan bilgeliğinin ve deneyiminin yüksek bir kristalizasyonu olarak, AI ayrıca insan toplumunun ve kültürünün tortularını da miras alır ve herhangi bir kapak olmadan sergilenecektir.
Ancak bugün anlatacağımız hikaye, AI'nın kadınları çevrimiçi şiddetten nasıl koruduğuyla ilgili.
Kadın gazetecilerin, kadın politikacıların ve kadın hakları aktivistlerinin ortak günahları
Çevrimiçi şiddet yaşadınız mı?
Çoğu insan için siber şiddet bizden çok uzaktır. Bununla birlikte, açıklanamayan bir Weibo Twitter tacizi meydana geldiğinde bile, erkeklerin ve kadınların farklı deneyimler yaşaması gerekir. Erkekler için, alınan hakaretler genellikle "aptalca X" veya aile üyelerine "selamlar" gibi normal kelimelerdir. Kadınlara gelince, genellikle vücutlarına, görünümlerine ve cinsel tacize maruz kalıyorlar.
Uluslararası Af Örgütü soruşturması, bu durumun çok yaygın olduğunu ve Twitter gibi kamusal bir söylem alanında kadınların insan haklarına zarar verecek seviyeye yükseldiğini ortaya çıkardı.
Bu yılın başından bu yana Uluslararası Af Örgütü, sıradan kadınların, kadın gazetecilerin ve kadın politikacıların kadın statüleri nedeniyle Twitter'dan nasıl hakarete uğradığını anlatan sekiz bölümlük soruşturma raporları yayınladı. Soruşturma raporunun adı "Toksik Twitter" -Toxic Twitter.
Çeşitli anket raporlarında görünen verileri çıkarabiliriz:
"2017'de 778 kadın gazeteci ve politikacıya 1,1 milyon taciz edici tweet gönderildi."
"Kadınlara gönderilen tweetlerin% 7,1'i saldırı ve taciz içeriyor."
"Kadınları taciz eden tweet'lerde siyah kadınlardan bahseden tweetlerin oranı beyaz kadınlara göre% 84 daha yüksek."
Ve bu taciz edici kadın tweetlerinin genel içeriği nedir?
Bu var:
Bir de şu var:
Resimde de görüldüğü gibi, tüm hakaretler ve tehditler her zaman seksle ilgilidir ve her zaman kadın kimliğinin zayıflığını vurgular.
Soruşturma sırasında kadın siyasetçiler ve muhabirler de cinsiyetlerine yönelik saldırıların kariyerlerinde çok önemli zorluklar ve engeller olduğunu belirtti. Bir adam saldırıya uğradığında, saldırıya uğrayan şey onun davranışı ve çalışmalarının sonuçlarıdır. Ancak kadınlar saldırıya uğradığında, püskürtücüler daima cinsiyetlerini hedef alır.
Sanki kadın doğmuşum gibi, üzgün olmalıyım.
Algoritma, artan trafiği yönlendirmenin yanı sıra neyi de teşvik ediyor?
Ve tüm bunlarda Twitter'ın sorumlulukları nelerdir?
Temel olarak, Twitter, bu taciz edici dili kaynaktan kontrol etmek için yeterince güçlü bir hassas kelime inceleme ve filtreleme mekanizmasına sahip değildir.
En önemlisi, Twitter algoritması akıllı öneri yönüne ayarlandıktan sonra, orijinal olarak nispeten kapalı olan takip sisteminin daha açık hale gelmesidir. Geçmişte kadın politikacıların, kadın gazetecilerin ve sıradan kadınların hesap ve tweetleri yalnızca takipçilerinin zaman çizelgesinde gösteriliyordu. Ancak bilgi akışı daha açık hale geldikten sonra, artan trafik güneş lekelerini ve aşırı cinsiyetçileri de beraberinde getirdi - kadınları taciz eden aynı tweet'ler sıradan insanlardan geliyor, ancak yeni algoritma mekanizması altında, hiçbir şey olmasa bile Takipçiler de çok fazla maruz kalacaktır. Bir yandan dil hasarının enerjisini arttırırken diğer yandan güneş lekelerinin birbirini bulmasını ve kadınlara saldırmak için bir organizasyon oluşturmasını kolaylaştırıyor.
Uluslararası Af Örgütü de bu sorunları Twitter'a defalarca bildirdiklerini ancak tatmin edici yanıtlar almadıklarını belirtti.
Aslında Twitter bu konuda biraz masum görünüyor. Sonuçta, algoritma ayarı, kasıtlı olarak iyi olan her dairenin karşılıklı anlaşılmasını güçlendirdi. Ayrıca, yapay zeka, özellikle cinsiyet odaklı aşağılayıcı sözlerle aşağılayıcı kelimeleri tanımanın o kadar kolay olmadığını biliyoruz. "Tecavüze uğramış olsaydı ağzını kapalı tutar mıydı?" Gibi (Tecavüze uğramışsa ağzını kapatabilir mi?) Bu cümlenin kelime dağarcığı açısından yanlış bir tarafı yok, ama görünüşe göre United Context Kadınları konuşmayı bırakmaları için tehdit etmek için çok şiddetli seks suçları kullanıyorlar.
Ancak algoritmalar sorunlara neden olur ve bunları çözmek için algoritmalara ihtiyaç vardır.
Yapay zeka kadınların elinde tutulduğunda
Yapay zeka bağlamı anlayamıyor mu? Açıkçası hayır, uzun metinlerin anlamsal olarak anlaşılmasını içeren çok sayıda algoritma bunu yapar. Sadece cinsiyete yönelik hakaretler gibi nispeten karmaşık bir bağlamla yüzleşmek için çok sayıda eğitim örneği ve tekrarlanan ayarlamalar gerekiyor.
Twitter tarafından desteklenmediğinde, Uluslararası Af Örgütü iki şey yaptı:
Birincisi, Twitter'da bu aşağılayıcı ifadeleri ve normal yorumları bulup toplamak için 6.500 gönüllü bulmak. Açıklamalı veriler olarak, dünyanın en büyük "kadın nefret söylemleri" veri kümesini oluşturdular.
İkincisi, hem AI hizmetleri sunan hem de eğitim ve analiz için verileri kullanan bir başlangıç şirketi olan Element AI'yı bulmak ve son olarak yukarıdaki tüm verileri almak ve kadın hakaretlerini yargılayabilecek bir sinir ağı modeli eğitmektir. Uluslararası Af Örgütü raporunda, bu modelin doğruluğunun% 50'ye ulaştığını ve halen gelişmekte olduğunu belirtti.
Elbette nihai sonuç insanların düşündüğü kadar iyi değil Twitter, platformdaki kadın kullanıcıları korumak için modeli doğrudan benimsemedi. Ancak bu iki şey aracılığıyla Uluslararası Af Örgütü ihtiyaçlarını açıklığa kavuşturdu ve Twitter'a pek çok değerli fikir verdi.Örneğin Twitter, kadın hakaretlerinin daha fazla dikkat çekebilmesi için raporlama mekanizmasını iyileştirmeli; Twitter daha net açıklamalı Platform filtreleme algoritması nasıl çalışır, kadınlara yönelik sözlü şiddeti nasıl tespit eder; Twitter, kadın kullanıcıların eğitimini güçlendirmeli ve onlara kendilerini nasıl koruyacaklarını hatırlatmalı; daha da önemlisi, Twitter daha fazla insanın kadınları bilmesini sağlamak için daha alakalı verileri ifşa etmelidir. Sosyal medyada daha fazla baskı altında.
Teknolojiyi kırmak güçtür: onu ve yapay zekasını korumak
Bu olay aslında çok ilginç bir düşünceyi beraberinde getirdi: YZ'nin gelişimi daha olgunlaştıkça, güç sessizce kırılan teknolojinin laneti mi?
Kadınlar artık kendilerini biraz rahatsız eden bir konumdadırlar. Bunun büyük bir kısmı, erkeklere göre teknoloji üzerinde daha az kontrol sahibi olmaları ve bu nedenle erkekler kadar değer yaratamamalarıdır. Binlerce yıl önce kadınlar yiyecek yetiştirmek için nasıl daha fazla toprak ekeceklerini bilmiyorlardı; birkaç on yıl önce kadınlar bilgisayar kullanmayı bilmiyordu; bu yıla kadar kadınlar Twitter'ın algoritmasının bu nefret söylemini neden filtreleyemediğini bilmiyordu.
Teknolojinin gelişmesiyle birlikte kadınların teknolojiye erişiminin önündeki engeller yavaş yavaş yumuşatılıyor. Fizyolojik yapıdaki doğal fiziksel farklılıktan, zamanın sosyal ve aile kimlikleri tarafından işgal edilmesine kadar günümüze kadar.
Gönüllüleri veri toplamaya ve yardım etmeye istekli bir yapay zeka hizmet şirketine çağırarak, kadınların Twitter'ın "erkek gücü yalanını" kolayca kırabileceğini gördük - algoritmanın yapamayacağını mı söylüyorsun? Algoritmanın bunu yapabileceğini kanıtlamaya gittiler.
Yapay zeka modellerinin gelişimi daha düşük eşiklere doğru ilerlediğinde, hem Google hem de Baidu çocuklar tarafından kullanılabilecek model eğitim platformları başlattığında, bu (birlikte) daha az gelişim tecrübesine sahip kadın gruplarının da oluşturabileceği ve kullanabileceği anlamına gelir. AI'nın teknik yetenekleri.
Bu aynı zamanda bir araç olarak yapay zekanın en önemli değeridir. Geçmişteki yüksek yoğunluklu deneyimi ve bilgeliği herkesin kullanabileceği bir algoritmaya entegre ederek yol katillerinin eski bir sürücü gibi yolda araç kullanmasına ve PS ile Photoshop arasında ayrım yapamayan insanlara izin verir. Güzel fotoğraflar çekebilir. Günümüzde algoritma geliştirme sürecinin basitleştirilmesi, yapay zeka araçlarının değerini daha da artırmıştır. Bizi mutlu eden şey, kadınların yapay zekanın gücünü kendi adlarına korumak için kullanmaya başlamaları değil, Uluslararası Af Örgütü'nün başarısının tekrarlanabilmesidir.Sosyal medyada istismara uğramış kadınların yanı sıra diğer savunmasız gruplar da vardır. Gürültü yapmak ve kendinizi kurtarmak için benzer yöntemler kullanabilirsiniz.
AI onu koruyor ve onları da koruyabilir.
Daha heyecan verici içerik için Titanium Media WeChat ID'yi (ID: taimeiti) takip edin veya Titanium Media Uygulamasını indirin
