Algoritma ölmek istediğini düşündüğünde ...
Üzücü bir hikaye, 14 yaşındaki İngiliz kız Molly Russell, 2017'de beklenmedik bir şekilde intihar etmeyi seçti. Dünyaya karışmamış küçük bir kızı mahvetmenin nasıl bir şey olacağını hayal etmek bizim için zor olabilir.
Daha sonra, Molly intihar etmeden önce internette intihar ve kendine zarar verme resimlerini aradığı ve hatta bu resimlerin en sevdiği sosyal platformlardan bazılarında tavsiye edildiği keşfedildi. Molly'nin ölümünden sonraki aylarda bile Pinterest otomatik olarak ona bazı e-postalar gönderiyordu, içerik aynı zamanda kendine zarar vermeyle ilgili resimlerle ilgiliydi, Molly'nin Instagram'ı açıldığında bile besleme akışı alakalı içeriklerle doluydu.
Trajedinin ardından Molly'nin babası, Instagram ve Pinterest'in kızının öldürülmesinde suç ortağı olduğuna inanıyordu.
Teknolojinin suçlu olmadığı konusunda her zaman ısrar ediyorum. Ama algoritma ölmek istediğini düşündüğünde ne yapmalıyız?
Molly'nin trajedisi insanları çaresiz ve hatta biraz kızdırıyor. Buna dayanarak, yeni bir argüman türetilmiş - Instagram ve Pinterest gibi sosyal platformlar gençlerin "akıl sağlığı krizini" şiddetlendiriyor. İngiliz gençler arasında intihar oranı sekiz yıl öncesine göre iki katına çıktı ve sosyal medya Birleşik Krallık'taki "intihar neslinin" yükselişinin bir nedeni olarak görülüyor.
Molly'nin ölümü, birçok insanın sözde büyük veri ve algoritma problemlerini fark etmesine neden oldu. İngiltere Sağlık Bakanı Matt Hancock, sosyal medyanın bu son derece olumsuz içeriği kaldırması gerektiğini ve bunu yapmamanın büyük davalarla karşılaşacağını söyledi. Bundan önce, Instagram'ın kuralları yalnızca intihara ve kendine zarar vermeyi "güzelleştirmeye" karşı çıkıyordu, ancak şimdi doğrudan yasaklandı.
Ancak basit yasaklar bu sorunları çözemez.Sosyal platformlar bu olumsuz içeriği barındırmakla kalmaz, aynı zamanda öneri algoritmalarının rehberliğinde bu içerikler en savunmasız insanlara sunulacaktır. Öneri, yalnızca kullanılabilirlik değil, daha proaktif bir davranıştır. Gittikçe daha fazla akademik literatür bunu doğruluyor: ister kendine zarar verme, söylentiler, teröristleri işe alma veya bir tür komplo teorisi olsun, platform bu içeriği bulmayı kolaylaştırmaktan fazlasını yapıyor, çünkü algoritmaların varlığı, sosyal platformlar bir dereceye kadar. Bu içeriklerin yayılmasını genişletmeye yardımcı olur.
Instagram, Pinterest ve Tumblr'ın bu olumsuz içeriği kullanıcılara nasıl önerdiğini keşfetmeye çalıştık.Bu sosyal platformların intihar ve kendine zarar verme içeriği için bazı kısıtlayıcı kuralları olduğunu ve kullanıcıların bulmasını zorlaştırmak için bazı anahtar kelimeleri veya etiketleri engellediğini gördük. İçerik hala var olabilir ve algoritma belirli kurallara göre önerilecektir. Pinterest'te "beğenebileceğiniz şeyler" olarak bilinen bunlar, kullanıcının algoritmalar tarafından yönlendirilen tarama alışkanlıklarına göre kullanıcıların ilgisini çeken içeriklerdir. İşletmeler için, kullanıcı deneyiminin iyileştirilmesi olarak görülen "akıllı öneri", "kişiselleştirilmiş hizmet" vb. Demeyi tercih ediyorlar.
Örneğin, ev tadilatı için ilham aradığınızda, kısa süre sonra bilgi akışında çeşitli boya örnekleriyle ilgili resimler göreceksiniz ve ayrıca amatör iç mimarları önereceksiniz. Bu, kullanıcılar intihar veya kendine zarar verme gibi olumsuz içerik aradığında, algoritmanın ne kadar beğendiğinizi belirleyeceği ve ardından size farklı şekillerde önereceği anlamına gelir.
Molly'nin babasının keşfettiği gibi, sosyal platformların öneri algoritması ona farklı davranmıyor. Sosyal platformlarda görüntülenen "beğenebileceğiniz" içerik, kendi önceden belirlenmiş kurallarını ihlal edebilir.
Sosyal platformlarda kendine zarar verme türünde olumsuz içerik bulmaya çalışan kişi sizseniz, sistem öneri algoritması bu eğilimi öğrendikten sonra bunun yerine size güneşli pozitif içerik önerdiğini, sağlıklı bir zihinsel durumu yeniden inşa etmeyi öğrettiğini hayal edin. Algoritmanın önerdiği, o anda görmek istediğiniz şey olmayabilir, ancak sizi daha doğru bir duruma götürecektir.Belki de algoritmanın gerçekten yapması gereken budur.
Günümüz İnternet dünyasında, birçok insan sosyal platformlarda konuşmayı veya iç düşüncelerini dile getirmeyi tercih ediyor. Sosyal medya onların önünde bir ayna olacak, bu ayna kullanıcıların psikolojik durumunu doğrudan yansıtabilir ve onu büyütebilir veya çarpıtabilir. Bu tamamen farklı iki yönelim, algoritmanın nasıl yönlendirdiğine bağlıdır.Algoritma ölmek istediğinizi hissettiğinde, algoritmanın kullanıcıları ölüme götürmeye devam etmek yerine bir düşünce kılavuzu olabileceğini umabiliriz.
Algoritmaların bir alt satır değeri olmalıdır.
Tabii ki, öncül, sosyal platform tarafından belirlenen yasaklama kurallarının mükemmel olmasıdır, bu nedenle algoritmanın önerdiği şey, kullanıcıya yalnızca en kabul edilebilir içeriği sağlar, ancak gerçek durum böyle değildir.
İçerik incelemesi çok zordur ve kabul edilebilir ve saldırgan kurallar arasındaki çizgi genellikle bulanık olabilir. Manuel bir inceleme mekanizması kurulsa bile, her gün büyük sosyal platformlarda yayınlanan binlerce yeni içerik vardır ve gözden geçirenlerin birkaç saniye içinde veya daha kısa sürede kullanıcıların ruh sağlığını etkileyip etkilemediğini belirlemesi gerekir.Bu tür içerik çok fazla. Bu sadece kendine zarar verme türü değil, gün geçtikçe her zaman eksik bir şeyler olacaktır.
Örnek olarak Molly'nin trajedisini ele alalım: Sosyal platformlardaki yasak mükemmel olmadığı gibi, dolaylı olarak daha fazla trajediye bile neden olabilir. Kendi kendine zarar vermeye çalışan veya intihara meyilli olan pek çok insan, internette yaşamaya devam etmek için muazzam bir duygusal destek ve motivasyon bulmuştur. Küçük bir sosyal çevrenin kurulması yoluyla, ısınmak için birbirlerine sarılmak ve hatta nihayet pustan çıkmak. Bu insanlar için sosyal platformlar yardım istemek için tek kanaldır. Körü körüne yasak, bu grupların varlığını sıkıştıracak ve aynı türler arasında iletişim ve kabul eksikliği olduğunda, kendi olumsuz manevi dünyalarında derin bir hapsolacaklar ve kendilerini kurtaramayacaklar, bu da sonunda trajediye yol açacak.
Bu nedenle, sorun şu anda bu içerikleri ortadan kaldırmak değil. Platformun hangi içeriğin hangi zamanda hangi gruplara sunulması için daha uygun olduğunu daha iyi belirlemesi gerekiyor.Aranan içerik, algoritmanın önerdiği içerikten farklı olduğunda, platformun içeriğin belirli bir kişi için faydalı olup olmadığı, ancak tüm halk için faydalı olup olmadığına da karar vermesi gerekiyor. potansiyel bir tehdit.
Öneri sistemlerini tam olarak tartışmadık, belki de bunlar şu anda çok yaygın olduğundan veya çoğu kullanıcı nasıl çalıştığını anlamadı. Facebook'un daha önce satın almış olduğumuz Amazon ürünlerini tavsiye etmesine gülebiliriz. Belki Spotify'ı sevmiyoruz. Hüzünlü müziği sevdiğimizi düşünüyoruz, çünkü sadece belirli bir davranışınız olsa bile algoritma ilgi alanlarınızı buna göre değerlendirmeye başladı. Daha fazlasını önerin Birçok şey.
"Algorithm of Oppression" da Safiya Umoja Noble, Google'ı arama sonuçlarında ırkçı kalıpları güçlendirdiği için eleştirdi; "Twitter and Tear Gas" ın yazarı Zeynep Tüfekçi, YouTubeun komplo teorilerini ve aşırılık yanlısı içerikleri büyütme eğilimini, öneri algoritmasına inanarak vurguladı. "Videoları riskleri artıracak şekilde tanıtın, önerin ve dağıtın."
Ne kadar benzer tartışmalar o kadar iyidir Bu tavsiyelerin o kadar sağlıklı olmayan insanları nasıl etkileyeceği konusunda farklı görüşler vardır. Bazı insanlar kendine zarar veren resimleri görmenin kolay olduğunu düşünürken, diğerleri karşılaşmayı zor buluyor ve birçok kez görmek daha da zor.
Artık Instagram'ı yöneten Adam Mosseri, platformun sadece "intihar ve kendine zarar verme ile uğraşması gerekmediğini" kabul ediyor. Bir Pinterest sözcüsü şunları söyledi: "Mevcut kurallarımız artık kendine zarar vermeyi teşvik eden herhangi bir içeriğe izin vermiyor. Ancak, bu politikaların yeterli olmadığını biliyoruz. Algoritmamızın kullanıcıların ana sayfa akışlarında hassas öneriler önermesini önlemek için önemli iyileştirmeler yaptık. İçerik. Yakında onu tespit etmek ve silmek için daha proaktif bir yol benimseyeceğiz ve arayanlara daha fazla duygusal destek sağlayacağız. Bunu tek başımıza yapmamız imkansız, akıl sağlığı uzmanlarıyla bu şekilde çalışıyoruz Yöntemimizi daha etkili kılan nedir? "
Ancak, bu değişiklikler gittikçe zorlaşacak. Algoritmik öneriler, sosyal medyanın kullanıcıları platformlarında tutmasının ana yolu haline geldi ve ortadan kalkması pek olası değil. Bu algoritmalar, bireysel kullanıcıların ihtiyaçlarını karşılamak için optimize edilmiştir ve bunları toplu fayda için optimize etmek çok daha zordur. Sosyal medya şirketlerinin, saldırgan ve değerli içeriği daha iyi ayırt etmek ve bu platformların akıl hastalığı olan insanlar üzerindeki etkisini daha iyi anlamak için akıl sağlığı hakkında daha fazla bilgiye ihtiyacı var. Bu, Instagram'ın vaat ettiği şey ve buna bağlı kalmaları gerekiyor.
İnsanlar sadece içerik aramakla kalmıyor, bir cevap bekliyor veya yaşamak için bir motivasyon arıyor olabilirler. Bir algoritma, bir kişinin ölmek istediğini düşündüğünde, en azından ona şunu söylemeyi öğrenmelidir: Hayır, istemezsin.
* Referans kaynağı: Allenbiebb tarafından derlenmiştir, lütfen FreeBuf.COM'dan olduğunu belirtin
