GitHub içeriği sansürlemekle suçlanıyor ve ünlü "yüzü değiştiren" açık kaynak projesi olan deepfake'in erişimi kısıtlandı
Dün, deepfake açık kaynak projesiyle ilgili bir Hacker News gönderisi (https://news.ycombinator.com/item?id=19182956) birçok geliştirici arasında yoğun tartışmaları tetikledi. Ne oldu? Hadi bir bakalım.
Gönderinin istemlerini takiben yazar, gizli modda oturum açmadan deepfake'in GitHub deposuna erişmeye çalıştı. Sonuç aşağıdaki şekilde gösterilmektedir:
Deepfake'in kod deposuna GitHub hesabına giriş yapmadan erişin (https://github.com/deepfakes/faceswap)
Gördüğünüz gibi, GitHub hesabınızda oturum açmadıysanız, açık kaynak proje deepfake'in kod havuzuna erişemeyeceksiniz ve GitHub oturum açma arayüzüne yönlendirileceksiniz. Ancak GitHub her zaman aşağıdaki kurallara sahipti: Kullanıcının oturum açıp açmadığına bakılmaksızın, herkese açık bir depo olduğu sürece herkes kaynak koda erişebilir ve indirebilir . Ve deepfake her zaman özel bir depo değil, halka açık bir depo olmuştur, bu nedenle bu durum daha anormaldir.
Tam da bu hareket yüzünden GitHub'daki deepfake sınırlamalarının geliştiriciler tarafından bir tür "sansür" ile karşılaştığı düşünülüyor. Ancak, bu davranışın GitHub'ın aktif iradesi mi yoksa üçüncü taraf baskısından mı kaynaklandığı bilinmemektedir.
Aslında, GitHub'ın açık kaynaklı projelere bu sınırlı erişim biçimini kullanması yaygın değildir. GitHub, hükümetten (https://github.com/github/gov-takedowns) bir kaldırma talebi aldığını açıkça belirtmiş olsa da, bunun nedeni GitHub'da barındırılan bu depoların çoğunun hassas içerik barındırmasıdır.
Peki, tamamen teknik bir açık kaynak projesi olarak deepfake neden bu muameleye sahip? Bundan bahsetmişken, önce deepfake'i kısaca tanıtalım, ancak buradaki herkesin buna aşina olmayacağına inanıyorum.
GitHub'da deepfake'in kendi kendine tanımı şöyledir: Resimlerde ve videolarda insanların yüz görüntülerini tanımak ve değiş tokuş etmek için derin öğrenme teknolojisini kullanan bir araç , Genellikle "yüz değiştiren yapı" olarak bilinir. Ancak daha fazla kullanıcı, deepfake'i bir kişinin yüzünü diğerine aktaran ve sahte videoların ve sahte haberlerin İnternet'te kolayca yayılmasına izin veren video dolandırıcılığı aracı olarak görüyor.
Bana inanmıyorsan aşağıdaki animasyonlara bak, doğruyu söyleyebilir misin?
GIF, erkek bir TV haber sunucusunun konuştuğu videodan geliyor. Doğru mu?
Bu kadın sunucu, konuşmasının videosu da doğru mu?
Bu erkek çapa nerede?
Ya on yuanınız ...
Bu animasyonların hiçbir çelişki yok gibi görünüyor, Ama hepsi sahte ! Animasyondaki bu insanlar bu ağız şekillerini ve ifadelerini asla yapmamışlardır. Daha da önemlisi, bunun gibi sahte videolar son iki yılda internette çok sayıda ortaya çıktı ve bu sahte videolar temelde deepfake teknolojisini kullanıyor.
Deepfake'in doğuşundan önce, video yüz değiştirme teknolojisi esas olarak film çekiminde kullanılıyordu ve nispeten yüksek teknoloji ve sermaye yatırımı gerektiriyordu. Ancak şimdi, deepfake gibi derin öğrenme teknolojilerinin ortaya çıkışı, yüzleri değiştirme eşiğini büyük ölçüde düşürdü.Kullanıcılar bunu sadece politikacıları hedef alan sahte haberler üretmek için değil, aynı zamanda kadın yıldızların pornografik videolarını yapmak için de kullanıyor.
Bu sahte videoların ve yalan haberlerin ne kadar zararlı olduğu konusunda burada ayrıntılara girmeyeceğim. Ve deepfake geçen yıl ABD Pentagon'unu bile alarma geçirdi. Çeşitli videoların gerçekliğini tespit etmenin yollarını bulmak için ABD Savunma Bakanlığı İleri Araştırma Projeleri Ajansı (DARPA) aracılığıyla ABD'nin her yerinden uzmanlar görevlendirdiler. Kısa süre sonra, DARPA bir Yüzleri değişen sahte videoları otomatik olarak algılayabilir Sahte videolara göre, AI araçları genellikle göz kırpma, nefes alma ve göz hareketinin özelliklerini göstermez ve sahte videoları% 99 doğrulukla belirleyebilir.
İlgili belgeler ve veri setleri:
https://arxiv.org/abs/1901.08971
https://github.com/ondyari/FaceForensics
HN gönderisinin altındaki yorumlarda, alexeldeib kimliğine sahip bir kullanıcı Microsoft'un bir çalışanı olduğunu iddia etti ve şu cevabı verdi: "Bu davranışın GitHub tarafından bağımsız bir karar değil, Microsoft'un GitHub'a talimat verdiği bir işlem olduğunu düşünüyorum. Dahili kararların sonucu yerine yukarıdan aşağıya karar verme çok hayal kırıklığı yaratacaktır. "
Bazı kullanıcılar, GitHub'ın Microsoft tarafından satın alınmasından sonra bunun tam olarak bir uzlaşma hamlesi olduğunu söyledi. Ancak hemen, diğer kullanıcılar bu davranışın edinimden önce var olduğunu söylediler (https://github.com/deepfakes/faceswap/issues/392).
Microsoft'un GitHub'ı satın almasından önce, kullanıcıların projeye erişmek için GitHub hesaplarında oturum açmayı gerektiren sorunları zaten deepfake havuzuna gönderdiği görülebilir.
Tüm gönderi boyunca herkes esas olarak teknolojinin kötüye kullanılması ve teknoloji ile etik arasındaki çatışma etrafında tartıştı. Elbette GitHub'ı kınayan birçok yorum var.Bunun GitHub'ın tutarlı bir uygulaması olduğunu düşünüyorlar çünkü Microsoft tarafından edinilmeden önce benzer davranışlar vardı.
Son olarak, gönderideki bir kullanıcının yorumuyla bitirmek istiyorum - "Söylediklerinize katılmayabilirim, ancak ünlülere karşı sahte çıplaklık yaratma hakkınızı savunmak için ölümüne yemin ederim" ("Söyleyeceklerinize katılmıyorum ama Ünlülerin sahte çıplaklarını yaratma hakkınızı ölümüne savunacağım. ").
Açık kaynak topluluğu OSC başlıkları, yabancı dil çevirisini, yazılım güncellemelerini, teknik blogları ve diğer yüksek kaliteli içeriği kapsayan en son yüksek kaliteli teknik makaleleri günlük olarak yayınlayın. Açık kaynak topluluğunun OSC başlıklarını takip edin, en son teknik bilgileri günlük olarak alın, tıklayın " daha fazlasını anla "Orijinal makaleyi okuyun.
