Eski Facebook çalışanları ağladılar ve kan ve gözyaşlarının geçmişi hakkında şikayet ettiler: Günlük 8.000 deneme yayını, çocuk pornografisine karşı uyuştum
[Lieyun.com (WeChat ID :)] 21 Temmuz raporu (Derleme: Eski Umut)
Eski bir Facebook hakemi, rahatsız edici materyallerin sürekli baskısının sonunda onu çocuk pornografisine ve hayvanlarla cinsel ilişkiye duyarsız hale getirdiğini söyledi.
27 yaşındaki Sarah Katz, 2016 yılında üçüncü taraf bir yüklenici olan Vertisystem aracılığıyla, Kaliforniya Menlo Park'taki Facebook merkezinde sekiz ay boyunca içerik inceleme uzmanı olarak çalıştı. İşi basit: Facebook'a bildirilen yayınların şirketin ayrıntılı topluluk standartlarını ihlal edip etmediğini anlamak.
Pratikte bu, her 10 saniyede bir yeni, potansiyel olarak korkutucu materyale bakmak ve onu atıp atmayacağınıza hızlıca karar vermek anlamına gelir. İncelenmesi gereken yayınlara "biletler" denir ve günde yaklaşık 8.000 yayın vardır.
Bu şoka yanıt olarak Facebook, geçen yıl Katz gibi 4.500 hakem kiraladı ve Mayıs 2017'de Facebook'un kullanıcı çıktısının en karanlık köşelerinde savaşmasına yardımcı olmak için 3.000 hakem daha işe almayı planladığını duyurdu. Facebook ayrıca, ihlal içeren gönderilerle başa çıkmaya yardımcı olmak için yapay zekaya yatırım yapıyor.
Mayıs ayında bir şeffaflık raporunda Facebook, sorunlarını yasak içerikle ayrıntılı olarak açıkladı. Bu yılın ilk üç ayında çıplaklık ve cinsel aktivite içeren 21 milyon gönderi ve şiddet görüntüleri içeren 3,4 milyon gönderi ile ilgili eylemde bulunduğu belirtildi. Nefret söylemi, spam ve terör içerikli milyonlarca gönderi de silindi.
Gözden geçiren kişi, saldırgan materyalle ilgili bir feragat belgesi imzalamalıdır
İçerik gözden geçirenlerin, Facebook için çalışmaya başladıklarında bir feragat belgesi imzalamaları gerekir; bu, temelde rahatsız edici materyali görüntülemeye hazır olduklarını kabul eder. Ayrıca Facebook'u olası yasal işlemlerden korumayı amaçlamaktadır.
Katz tarafından imzalanan belgede, hakemin pornografik görüntüler dahil "bazı kişileri rahatsız edebilecek" materyallere maruz kalacağı belirtiliyor. Personel devam etmek istemezse Facebook'a hızlı bir şekilde haber vermeleri gerektiğini ekledi.
Katz, "Facebook'un milyarlarca kullanıcısı var ve insanlar bu platformu nasıl doğru kullanacaklarını bilmiyorlar, bu yüzden çok fazla pornografi, hayvanlarla cinsel ilişki ve şiddet var" dedi. "Facebook'ta görmek istemeyebileceğiniz pek çok paylaşılan içerik var."
Katz, Menlo Park'ta ücretsiz atıştırmalıkların olduğu ve meslektaşlarının arkadaş canlısı olduğu açık plan bir ofiste çalışıyor. İnceleme gönderileri için sıraya gireceklerini ve gönderiler atandıktan sonra birkaç saniye içinde bir karar vermesi gerektiğini söyledi.
Fatura hedefine ulaşamazsanız, sonuçlarından siz sorumlu olacaksınız. Katz, hedefe "bir veya iki kez" ulaşılmazsa uyarılacağını söyledi; üç defadan fazla "kovulabilirsin." Katz, hiç kimsenin kovulduğunu görmediğini, ancak personelin bunu özel olarak bildiğini söyledi. bir miktar.
"Bir süre sonra, bunun monoton bir iş olduğunu göreceksiniz" dedi. "Çok fazla okuduğunuz için kesinlikle bazı fotoğraf materyallerine karşı duyarsız hale geleceksiniz. Bir çok içerik geri dönüştürülme eğilimindedir."
Ortaya çıkan kötü resimler
Katz, kuyruğunda özellikle uğursuz bir fotoğraf ve videonun görünmeye devam ettiğini söyledi.
Fotoğraftaki iki çocuğun yaklaşık 9-12 yaşlarında göründüğünü, yüz yüze durduklarını, belden aşağısı kıyafet giymediklerini, birbirlerine değdiklerini söyledi. Katz, kameranın arkasındaki birinin onlara ne yapacaklarını söylediğinin açık olduğunu söyledi.
"Kaybolacak, ancak yeniden görünecek. Günde birçok kez görünecek." Dedi. "Kullanıcının konumu her seferinde farklı, bu sefer Pakistan'dan ve o zaman Amerika Birleşik Devletleri'nden. Orijinal kaynağı bulmak zor."
Katz, o sırada bu materyalleri paylaşan hesabı bildirmesinin kendisinden "huzursuz" olduğunu söyledi.
"Kullanıcının hesabı 30 günden azsa, hesabı sahte bir hesap adı altında devre dışı bırakacağız" dedi. "Hesap 30 günden eskiyse, yalnızca içeriği silmemiz ve hesabı etkin tutmaya devam etmemiz gerekir."
Deneyimi, Facebook'un platformunda çocuk istismarı sorununa yönelik çözümünün etkinliği hakkında soruları gündeme getirdi.
Şirket, Facebook ve Instagram'daki tüm görüntüleri taramak, bilinen çocuk pornografisini işaretlemek ve yeniden kullanılmasını önlemek için PhotoDNA teknolojisini kullanmak üzere 2011 yılında Microsoft ile bir anlaşma imzaladı. Ek olarak, Facebook hakemlerinin eğitilmesi gerekir ve bu içeriği gördüklerinde dahili olarak tanımlayacaklardır.
Facebook 2012'de New York Post'a yaptığı açıklamada, tüm çocuk istismarı olaylarını Amerika Birleşik Devletleri'ndeki Kayıp ve İstismara Uğramış Çocuklar Ulusal Merkezi'ne bildirdiğini söyledi.
O sırada bir şirket sözcüsü şunları söyledi: "Facebook'a yüklenen çocuk pornografisine sıfır toleransımız var ve çocuk istismarı içeriklerinin önlenmesi ve kaldırılmasında çok aktifiz."
Katz, bunun 2016'da tekrar olup olmayacağını bilmediğini söyledi.
Dedi ki: "Facebook şu anda rapor etmen gereken bir politikaya sahip olabilir, ancak o sırada yoktu."
Facebook, Katz'ın açıklaması ile belirtilen politikaları arasındaki farklar hakkında yorum yapmayı reddetti.
İnsan bakış açısının nüansları
Katz şu anda bulut bilişim şirketi ServiceNow için bir ağ güvenliği analisti. Facebook'taki çalışma hayatından esinlenen bir bilim kurgu romanı "Apex Five" yazdı. Bu işin olumsuz etkisinin kullanıcıları koruma duygularını fazlasıyla aştığını düşünerek Facebook deneyimleri konusunda iyimser değil.
"Bu çalışma birçok insanın gözünü gerektiriyor ve insanlar ne derse desin, onu tamamlamak için hepsi yapay zekaya atanamaz" dedi. "Biz insanlar olarak perspektifte nüanslarımız var. Yapay zeka milyarlarca kullanıcının tüm içeriğinin izlenmesine yardımcı olabilir. Her zaman başarılı olabilmemiz için insan faktörü de hesaba katılmalıdır."
Katz, teknoloji şirketlerini daha fazla iş yapmaya ve tahkimi kısa vadeli bir işten çok bir meslek olarak görmeye çağırdı.
"Yalnızca Facebook değil, genel sosyal medya platformları da içerik hakemlerini tam zamanlı olarak işe almalıdır, çünkü bu daha fazla teşvik sağlayacaktır" dedi. "Bizi iyi bir iş yapmaya ve onu bağlı kalmak istediğimiz bir şey haline getirmeye gerçekten motive ediyor."
Bir Facebook sözcüsü şunları söyledi: "Küresel içerik inceleme ekibimiz, Facebook topluluğu için güvenli bir ortam yaratmaya yardımcı olmada hayati bir rol oynadı. Bu bizim önceliğimizdir. Bu görevin genellikle zor olduğunu biliyoruz, bu nedenle Tüm çalışanlara sağlık ve psikolojik destek sağlayın. "
"Facebook'ta 2 milyardan fazla kullanıcı var, bu yüzden bu çok önemli bir iş, bu nedenle her hafta aldığımız milyonları gözden geçirmek için kısa süre önce 4.500'den fazla mevcut küresel topluluk operasyonları ekibimize 3.000 kişi ekledik. Raporlar. "
