Notre Dame yangınını "911 olayı" ile karıştırmak için mi? YouTube algoritması yine başarısız oluyor
15 Nisan yerel saatiyle Fransa'nın Paris kentinde akşam 6:30 civarında Notre Dame Katedrali'nde yangın çıktı! Fransız hükümetinin, 12. yüzyılda inşa edilen bu ünlü yapıyı yenilemek için milyonlarca dolar harcadığı, yangının sebebinin onarım sürecinde yanlış bir işlemden kaynaklanabileceği bildiriliyor. Şu anda, Paris polisi yangının can kaybına neden olmadığını söyledi.
Her zamanki acil durumlarda olduğu gibi, yangın koşullarının bazı canlı yayınları YouTube'da görünmeye başladı. Ancak beklenmedik olan, birkaç canlı video yayını altında, Amerika Birleşik Devletleri'ndeki "911 Olayı" haber manşetinin görünmesi ve alıntılanmasıdır " Encyclopedia Britannica'daki olayın açıklaması.
Notre Dame yangını ile "911 olayı" arasındaki yanlış bağlantı, YouTube'un geniş ölçekte uyguladığı bir algoritmadır. Bu algoritma, kullanıcıların sahte haberleri tespit etmesine ve engellemesine yardımcı olduğunu iddia etmektedir.
(Kaynak: YouTube)
Yukarıdaki şekilde gösterildiği gibi, Notre Dame de Paris'i aşağıdaki gri kutuda "911 olayı" olarak tanımlayan ilgili içerik birçok canlı video yayınında göründü, ancak sonraki birkaç dakika içinde bu bilgiler tek tek kaldırıldı. İlgili içerik kısa bir süre için ortaya çıkmasına rağmen, "sıcak gözlerin" kullanıcıların toplu olarak şikayet etmeye başlamasına engel olamadı. YouTube, Notre Dame yangınını "911 olayı" ile karıştırmak için hangi teknolojiyi kullandı?
Şekil | Notre Dame de Paris (Kaynak: Pixabay)
Notre Dame yangınının neden "911 Olayı" içeriğini tetiklediği henüz netlik kazanmasa da, bir YouTube sözcüsü, canlı ekranın altındaki gri kutudaki içeriğin mevcut durumu etkileyecek bir algoritmadan geldiğini söyledi. İçerik tanımlanır ve "Encyclopedia Britannica" gibi üçüncü taraf içeriğine bağlantılar önerilir. YouTube sözcüsü ayrıca, "İçerik bloğuyla ilgili önerilen içerik, algoritma tarafından otomatik olarak tetiklenir. Notre Dame Katedrali yangını için, bir algoritma önerisi hatası gibi görünüyor. Şu anda bu yangınla ilgili içerik önerilerini kaldırıyoruz." Dedi.
YouTube'un bu tür içerik önerisinin, şu anda yalnızca Amerika Birleşik Devletleri ve Güney Kore'deki kullanıcılar tarafından kullanılabilen yeni eklenen bir özellik olduğu bildirildi.Amaç, kullanıcının izlediği video içeriğiyle ilgili konular önermek, ancak öneri sürecinde değil Video görüntüsünde ifade edilen bakış açısını veya perspektifi dikkate alacaktır.
Algoritma sorunu nerede?
Bu yılın Mart ayında, küresel topluluğun sahte bilginin patlayıcı büyümesine ve teknoloji devlerinin eylemsizliğine karşı protestoları gittikçe yükseldi. Baskı altında YouTube, kullanıcılara sahte haber videolarını ne zaman izleyebileceklerini zamanında hatırlatmak için yeni bir özellik denemeye başladı: "Bilgi Paneli". Bu özellik, kullanıcılara "yanlış bilgilendirilmiş" terimler veya konular aradıklarında doğru bilgi sağlayacaktır.
YouTube'un resmi web sitesinde bilgi çubuğunun işlevinin tanıtılmasına göre: Kullanıcılar, "Encyclopedia Britannica" ve "Wikipedia" dahil olmak üzere çevrimiçi yanlış bilgilerden sıklıkla etkilenen birkaç tarihi ve bilimsel temalı video sayfasında üçüncü taraflardan gelen bilgileri görebilir.
Bilgi çubuğu, konuya bir arka plan sağlamak için arama sonuçlarında veya videonun izleme sayfasında görünebilir. Bu, bağımsız üçüncü taraflardan temel ve ilgili bilgileri içerecek ve kullanıcıların konu hakkında daha fazla bilgi edinmesini sağlamak için üçüncü taraf ortak web sitelerine bağlantılar sağlayacaktır.
Videoda ifade edilen görüş veya fikirlerden bağımsız olarak, bu bilgi çubuğu konuyla ilgili videonun altında görüntülenecektir.
YouTube, "üçüncü taraf iş ortaklarının" yeterlilik incelemesini geçtiğini ve schema.org'un ClaimReview biçimlendirme sürecine uyduğunu belirtti. Bilgi çubuğu, kullanıcılara arama sonuçlarında görünebilecek yanlış içeriği hatırlatmak için "şaka uyarısı!" Ve "yanlış" gibi istemler verebilir.
YouTube, bilgi sütununda kullanılan algoritmayı, Twtiter netizenleri tarafından yayınlanan çok sayıda yanlış etiketlenmiş ekran görüntüsünden sağlamasa da, ilgili CV'yi bulmak için algoritmanın videolar veya resimler arasındaki benzerliklere dayandığı sonucuna varabiliriz ( Bilgisayar görüşü) algoritmaları.
Çeşitli ülkelerdeki hükümetler yavaş yavaş "sahte haberlere" karşı yasa çıkarmaya başladıkça, Google ve Facebook gibi sosyal platform devleri, platformdaki içerik miktarını tespit etmek için yalnızca yapay zeka algoritmalarını kullanabilir. Özgeçmiş algoritması benzer görüntüleri etkili bir şekilde tanımlayabildiğinden, bu araçlar, aşırı terör örgütleriyle ilgili "bayraklar", "şiddet unsurları" ve "sloganlar" ile birlikte çocuk pornografisiyle "çocuk" unsurları ile mücadelede etkilidir.
Bununla birlikte, otomatik görüntü inceleme sisteminin beklenmedik acil durumlar ve önceden ayarlanmış inceleme içerikleri arasındaki benzerliklerle başa çıkması zordur. Örneğin, bilgi sütunu, 11 Nisan'daki Falcon Heavy roketini "911 Olayı" olarak yanlış etiketledi, çünkü büyük olasılıkla görüntüde "iki kule" ve "çok fazla duman" var.
Bilgi patlaması çağında yalan haberlerle nasıl baş edilir?
Bu kez YouTube'un algoritmik sorunları var ve bu da bizim için alarmı bir kez daha tetikledi: Bu bilgi patlaması çağında, teknoloji şirketleri, özellikle de medya ve sosyal medya alanlarındaki devler, sahte haberleri tespit etmek için yapay zekaya ve algoritmalara gerçekten güvenebilir mi?
(Kaynak: Pixabay)
2016 ABD seçimleri gibi erken bir tarihte, Facebook'ta başkan adaylarıyla ilgili "FBI, Hillary'yi mahkum etti" den "Vatikan Papa Trump'ı destekliyor" a ve çeşitli evlilik dışı ilişkiler ve dantellere kadar çok sayıda sahte haber ortaya çıktı. Haber sonsuzdur. Benzer şeyler Twitter, YouTube ve Google'da da sık sık görünür. Retweet ve görüntülemelerin sayısı binlerce ile yüzbinler arasında değişir.
Bu makaleler son derece güncel olduğu için, kısa sürede çok fazla ilgi çekecek, sosyal platformların öneri algoritmalarının "onları tercih etmesine" ve hatta CNN gibi ana akım medyanın eğilimi takip etmesine ve maruz kalma oranını daha da artırmasına neden olacak.
Bu nedenle, bir ülkenin eğilimiyle ilgili olan başkanlık seçimi gibi büyük bir konuda, sahte haberlerin yıkıcı gücü, WeChat'in arkadaş çevrelerindeki "şok olmuş vücut" makalelerinin çok ötesinde.
Sahte haberlerin yayılmasıyla ilgili medya ve kamuoyu tarafından eleştirildikten sonra teknoloji devleri haberleri silmek ve halkla ilişkiler için özür dilemekle meşguldü ve ayrıca sahte haberleri bastırmanın yollarını bulmak için girişimde bulundular.
Örneğin, Facebook başlangıçta denetim verimliliğini ve doğruluğunu artırmak için insan denetçileri makine tanıma ile değiştirmek istedi, ancak etki tatmin edici değildi. 2015 yılında, çok sayıda kullanıcı tarafından yanlış bilgi olarak bildirilen bağlantıları indirgeyebilen bir sistem başlattılar. Bununla birlikte, sonraki ABD seçimleri sırasında Facebook hala birçok sahte haber önermiştir.
Bu haberler çok beğeni aldı ve algoritma bu konuda hiçbir şey yapamıyor: yeterince gelişmiş değil ve yalnızca yasalar tarafından değerlendirilebilir, ancak bilgilerin gerçekliğini doğrulayamaz.
(Kaynak: MIT Technology Review)
Bugün Facebook, platformdaki sahte haberleri ve kötü bilgileri tespit etme konusunda uzmanlaşmış yaklaşık 15.000 kişilik bir içerik inceleme ekibine sahip. Ancak bu yöntemin verimsizliğinden bahsetmeye gerek yok, aynı zamanda denetçiler için bir işkence çünkü şiddet, kan ve ırk ayrımcılığı gibi karanlık içeriğe maruz kalmaları gerekiyor. Zamanla, bazı insanlar hala akıl hastalığından muzdarip olacaktır.
Benzer çabalar gösteren şirketler arasında, bir içerik algılama mekanizması oluşturmak için algoritmalara güvenmek isteyen YouTube ve Google da bulunmaktadır. Bu sefer tartışmalı "YouTube Doğruluk Kontrol Sistemi" en son hamle ve yalnızca bir aydan uzun süredir çevrimiçi.
Ancak, sistemin arkasındaki algoritmanın video içeriği ve arka plan hakkında kapsamlı bir anlayışa sahip olmadığı ortaya çıktı. Canlı yayında, videoyu "911" e yalnızca ateş ve yükselen dumandan bağlayabilir ve yanlış bir şekilde ilgili bilgileri tavsiye edebilir. Bu, insanları sahte haberleri tespit etme yeteneğini sorgulatır.
Yapay zeka teknolojisi, içerik tanımlama alanında en azından şimdilik sıçramalar ve sınırlarla ilerliyor olsa da, otomatik sistemler, özellikle son dakika haberleriyle karşılaştıklarında insan doğruluğuna ulaşamıyor. Bunun nedeni, AI sistemlerinin çoğunlukla yasalara dayanması ve başka kanıtları aktif olarak toplayıp birden fazla kaynağı entegre ederek mesajın doğru olup olmadığına karar verememesidir.
Bu, bu aşamada yanlış haberlerin tespit edilmesinin en iyi insan ve makine kombinasyonu ile gerçekleştirileceği anlamına gelir. Örneğin, bilgilerin ön taramasını tamamlamak için makinelerin kullanılması, iş yükünün azaltılması ve verimliliğin artırılması; makinelerin denetlenmesinden, nihai sonuçların doğruluğunun sağlanması ve balıkların ağdan kayma olasılığının azaltılmasından insanlar sorumludur.
Daha da önemlisi, denetçiler algoritmada boşluklar bulabilir ve makine tanımlama teknolojisinin daha iyi gelişmesine yardımcı olabilir. Gelecekte bir gün, AI sistemi gerçekten tek başına kalabilir.
