Yapay zeka yüz değiştiren anket: müstehcen videolar, 100 yuan'lık bir pakette 700 aktris için özelleştirilebilir
AI (yapay zeka) yüz değiştiren kasırga, ağ güvenliğine zorluklar getiriyor.
Beijing News'ten bir muhabirin yakın zamanda yaptığı bir araştırma, yapay zeka teknolojisinin popülaritesi ve eşiklerin düşürülmesi ile ünlülerin müstehcen videolarının satışının bir yeraltı işi haline geldiğini buldu. Baidu Tieba'daki "yüz takas + kadın ünlü adı" reklamını yapan bazı posterler, AI yüz takas teknolojisi aracılığıyla sentezlenen videoları parça başına 4 yuan veya bir pakette 700 video satın almak için 158 yuan fiyatına satıyor. Birçok tanınmış kadın yıldızdan sık sık bahsedilir.
Ek olarak, Beijing News muhabiri Xianyu'da "özelleştirilmiş yüz takas" hizmetleri sunan satıcılar olduğunu belirtti. Alıcılar ünlüler veya özel fotoğraflar sağlar ve satıcılar müstehcen videodaki kahramanı "çevirebilir". Özelleştirilmiş yüz değiştirme videoları, dakikada 20 yuan ile 50 yuan arasında değişmektedir.
Bu bağlamda, Birleşmiş Milletler'in siber güvenlik ve siber suç konularında kıdemli bir danışman olan Wu Shenkuo, Beijing News muhabirine yapay zekanın yüzünü değiştiren müstehcen videolar satmanın, kâr amacıyla müstehcen materyalleri yaymanın bir suçu olduğunu ve aynı zamanda portre hakkını ihlal ettiğini söyledi. Ancak, alıcı tarafından satın alındıktan sonra yayılması veya kâr amacıyla yayılması hukuka aykırı olabilir.
satmak
Muhabir aradı ve "yüz değiştiren", "Deepfake" ve "FakeApp" posta çubuğunun hepsinin yapay zeka ile yüz değiştiren müstehcen videolar satan gönderileri olduğunu buldu. Posterlerin çoğu, avatarları ve basit İngilizce harf isimleri olmayan kullanıcılardır ve yayınlamak için kullanılan sözcükler belirsizdir, "yurtiçinde ve yurtdışında 81, önce bütünlük" dahil.
Muhabir, daha sonra birden fazla müstehcen video listesinin ekran görüntülerini içeren sıkıştırılmış bir "80 Ünlü Bileşik Video Listesi" paketi gönderen Ah Chang (takma ad) adlı bir satıcıyla bağlantı kurdu ve dosya adı birçok tanınmış kişi tarafından işaretlendi Kadın yıldız.
"(Satın alma), parça başına 4 yuan, 15'ten fazla parça parça başına 3 yuan ve tümü için 80 parça yalnızca 68 yuan olarak sayılır." Chang, video dosyalarının WeChat, Alipay, QQ'yu destekleyen QQ dosyaları aracılığıyla gönderileceğini söyledi. Kırmızı zarflar ve diğer ödeme yöntemleri. Muhabir, 4 yuan karşılığında tanınmış bir kadın yıldız başlıklı bir videoyu rastgele satın aldı. Videoda, kadın kahramanın tüm yüzleri oyuncu ile değiştirilir.Yüz değiştirme etkisi kaba olsa da, yine de bir bakışta tanınabilir.
Daha sonra, Ah Chang, ilgili videonun birden fazla müstehcen videonun parçalarını içeren ve kadın kahramanın yüzünün aktris ile değiştirildiği kırpılmış bir versiyonunu verdi.
Başka bir satıcı, Lin Xiang (takma ad), muhabire çevrimiçi diske bir bağlantı gönderdi.Video kataloğu, ekran görüntüleri ve deneme videolarına ek olarak, çevrimiçi diskte ayrıca tanınmış bir kadın yıldız kataloğu olarak adlandırılan bir dosya da vardı.
"Paket fiyatı 158 yuan, 700 video, satın alın ve ekran görüntülerini göndermek için paketleyin." Lin Xiang tarafından sağlanan sıkıştırılmış dosya, birçok kadın ünlünün kahramana dönüşme sıklığının en yüksek olduğunu gösteriyor.
"30 dakika, 40 dakika ve 5 dakika var. Bazıları benzer, bazıları farklı, bu nedenle tek bir satın alma fiyatı aynı olamaz." Lin Xiang, tek bir videonun süre ve üretim etkisine göre fiyatlandırıldığını söyledi.
Ünlü bir kadın yıldızın yukarıda bahsedilen katalog dosyası 35 video içeriyor, paket fiyatı 69 yuan ve bekar yaklaşık 5-10 yuan satıyor. 10 dakikadan uzun videoların her biri 20-28 yuan tutmaktadır.
Muhabir, Ah Chang'a ilgili videoları satan diğer satıcıların da kendisi olup olmadığını sorduğunda, hemen reddetti ve güncellenmiş bir katalog çıkardı. "Bunlara sahip olmamalı, bunu güncelleyeceğim." Gazetecilere, bu videoların kendi başına yapılmadığını, ancak hepsinin belirli bir yerel ağ platformundan geldiğini ve şarj edilen üyelerin bunları indirip dağıtabileceğini söyledi.
Ancak muhabir, arama yoluyla bu tür yerel çevrimiçi platformlar bulamadı.
özel yapılmış
Baidu Tieba'ya ek olarak, ikinci el boşta çalışan platform Xianyu da ilgili satış bilgilerine sahiptir. Muhabir, Xianyu'da "AI Swap Face" araması yaptı ve "AI Swap'ın en eksiksiz ünlü ürünü", "AI Swap'ın yüzü, bir koleksiyon, hepsi anlıyor!" Ve diğer bilgilerin aslında "aşılanmış" ünlü kadın yüzü sattığını gördü. Müstehcen video.
Muhabir, 4 satıcıyla iletişim kurdu ve genellikle kadın ünlülerin isimlerini içeren kataloğun ekran görüntülerini sağlar ve bunları 10 RMB ile 38 RMB arasında değişen 100'lük paketler halinde satarlar. Satıcı Zijun (takma ad) gazetecilere, paketleyip sattığı müstehcen videolar arasında, en çok tanınmış kadın ünlülerin kötü niyetle "aşılanmış" olduğunu söyledi.
Ek olarak, muhabir Xianyu'yu aradı ve bazı satıcıların da "özelleştirilmiş yüz değiştirme" hizmeti sunduğunu gördü. Alıcılar ünlü veya özel fotoğraflar sağlar. Satıcılar, fotoğraflardaki yüzleri müstehcen videolar da dahil olmak üzere herhangi bir videoya "aşılayabilir". Süre 1-2 gündür ve teklif dakikada 20 yuan ile 50 yuan arasında değişmektedir.
Satıcı Gore (takma ad), video materyalinin ve fotoğraflarının alıcı tarafından sağlanması gerektiğini belirtti. "Daha fazla fotoğrafınız olmalı ve yan taraf gibi çeşitli açılardan en az 20 fotoğraf sağlamanız gerekiyor. Ne kadar çok fotoğrafınız olursa, o kadar benzerler. Fotoğrafsız video gönderebilirsiniz."
Başka bir satıcı, "yüzü değiştiren" müstehcen bir video ise, 3 dakika içinde başlamasını istedi. Satıcının özel fiyatı dakikada 50 yuan, iki dakika için 95 yuan ve üç dakika için 135 yuan. Yani alıcının müstehcen videoyu özelleştirmek için en az 135 yuan harcaması gerekiyor.
Muhabir, yakın zamanda Xianyu platformunda "yapay zeka yüz değiştirme" araması yaptı ve "yüz değiştiren yazılım", "özelleştirilmiş yüz değiştirme" ve "yüz değiştiren öğretim" dahil olmak üzere 9 ürünün satıldığını gösterdi. Bazı satıcılar ürün bilgilerinde "bu mağaza" Yalnızca hizmet yapılandırma ortamından ve temel bilgilerin öğretilmesinden sorumludur ve işleme yardımcı olmaz. Lütfen yerel yasalara bilinçli bir şekilde uyun, aksi takdirde sonuçları siz üstlenirsiniz. "
Muhabir, soruşturma sırasında Xianyu platformunun müstehcen videolar satmak için bazı bağlantıları sildiğini fark etti.
Ek olarak, muhabir Taobao'da "AI yüz değişimi" araması yaptı ve 20'den fazla mağazada ilgili satış bilgileri var. Muhabir rastgele 7 mağazaya sordu, bunlardan 4'ü özelleştirilmiş hizmetler sundu, ancak bazı satıcılar açıkça "pornografi yok, izin yok" dedi. Satıcı ayrıca, birisinin kendisinden sahte sertifikalar üretip satmasını istediğini muhabirlere kabul etti.
öğretim
Muhabir, yukarıdaki videoyu izlerken bazı videolarda "Sentetik İttifak" kelimelerinin ve QQ numarası filigranının bulunduğunu fark etti. Bu QQ hesabı aracılığıyla, muhabir, yalnızca ünlülerin yüz takas videoları ve özelleştirilmiş yüz takas hizmetleri değil, aynı zamanda öğretim hizmetleri de sunduğunu iddia eden "Ünlü Sentezi + Öğretme + Nesil Videosu" lakaplı satıcıyla temasa geçti.
"Öğretimi satın alın ve 600'den fazla kopya içeren eksiksiz bir video seti edinin." Satıcı, 398 yuan için AI yüz değiştiren video prodüksiyon öğretim hizmetleri sağladığını ve kiliseye 600'den fazla müstehcen videonun dahil edildiğini söyledi. "Kullandığımız bulut bilgisayar, Deepfake'ten onlarca kat daha etkili." Satıcı, gazetecilere, "FakeApp ve DeepNude'u almak için bir bulut bilgisayar satın alın" dedi.
Satıcı tarafından sağlanan eğitim içeriği, kullanıcının talimatlara göre "bulut sabit diskine bağlanma, yüz verilerini çıkarma, model eğitim ve yüzü değiştiren videoyu çıkarma" dört adımını tamamlayarak AI yüz değiştiren video üretimini gerçekleştirebileceğini göstermektedir.
"Güveniniz için teşekkür ederiz, (öğrenciler) dün öğleden sonra öğrendiler. Genel oturum 3 saatten az sürdü. Öğrenmek istediğim sürece size öğretmek için elimden geleni yapacağım." Satıcının WeChat Anları, birçok öğrencinin bunu öğrendiğini gösteriyor. Yapay zeka yüz değiştiren teknoloji.
Muhabir, satıcının arkadaş çevresine baktı ve "AI Smart yaz tatili sırasında öğrenci kimliği olan tüm öğrencilerin% 30 indirimli olacağını ve bunu çaba harcamadan öğrenebileceklerini" gördü. Satıcı tarafından sağlanan ekran görüntüsü, öğrencilerin öğrenci kimlik bilgilerini sağladığını ve öğretimi satın aldığını gösteriyor. hizmet.
New York Times'a göre, Deepfake, FakeApp programı tarafından oluşturulan yapay zeka yazılımıyla yapılmış sahte videolara atıfta bulunuyor ve FakeApp, AI yüz değiştirmeyi gerçekleştirebilir. Ve DeepNude, fotoğraflarda kıyafet giyen kişilerin "tek tıkla soyulma" etkisini gerçekleştirmek için yapay zekayı kullanabilir.
"Bilim ve teknolojinin gelişmesiyle, halk kesinlikle bu tür sorunlarla karşılaşacaktır. DeepNude tarafından üretilen fotoğraflar kendileri değil, PS sonrası etkilerdir." Ağ güvenlik uzmanı Zhang Baichuan, Beijing News'ten bir muhabir ile yaptığı röportajda İnternetin zaten var olduğunu söyledi. Bazı insanlar benzer algoritmaları incelemeye başladı.
Aynı zamanda, ağ güvenliği ile ilgili olarak Wu Shenkuo, "Ağ Güvenliği Yasası" nın ağ ürün ve hizmetlerinin güvenliği ve kontrolü ilkesini oluşturduğuna dikkat çekti. Müstehcen videolar çekmek için başkalarının portrelerini kullanmak veya "kötülük yapmak" için ağ teknolojisini kullanmak, başkalarının meşru hak ve çıkarlarının ihlali anlamına geliyor. .
tartışma
Aslında AI yüz değiştirme teknolojisi uzun süredir çeşitli alanlarda kullanılmaktadır. En çok kullanılan alan filmdir. Beijing News tarafından yayınlanan bir önceki rapora göre, Çin Bilimler Akademisi Bilgisayar Teknolojisi Enstitüsü'nden Zhang Jie, "Bu teknoloji, Li Sinin çarpık yüzünü öğrenme yoluyla gerçek bir yüze geri döndüren bir sinir ağı olarak anlaşılabilir." Öğrendikten sonra, sinir ağı herhangi bir yüzü "Li Si" yüzüne geri getirme yeteneğine sahiptir.
Bu yılın başlarında, Zhu Yin'in yüzünü "The Legend of the Condor Heroes" da Yang Mi ile değiştirmek için AI teknolojisini kullanan bir video internette hararetli tartışmalara neden oldu. Muhabir araştırdı ve video web sitesi Bilibili'de (İstasyon B) çok sayıda yapay zeka yüz değiştiren video olduğunu ve popülerliğin yüksek olduğunu gördü. Bunlardan biri Cai Xukun'un yüzünü eski bir çevrimiçi oyun sunucusu olan Lu Benwei'nin videosuyla değiştirdi ve görüntülenme sayısı 2,531 milyona ulaştı. Pek çok netizen, ilgili videonun yorum bölümünde "ihlal duygusu yok" ve "komik hahaha" yazan mesajlar bıraktı.
Bir Le (takma ad) kişiye merak ve eğlence nedeniyle Bilibili'de yapay zeka yüz değiştiren videolar izlemekten hoşlandığını söyledi. "Bir yabancının yüzünü kostümlü bir figüre çevirmek çok yeni." Bununla birlikte, bazı netizenler ilgili yorum bölümünde "Yapay zekanın pornografiye şantaj yapmak ve söylentileri yaymak için yüzünü değiştirdiğini (bunun için kullanılabilir), teknoloji masum ve gerçekten kötüdür" dedi.
Avukat ve Star Entertainment Law kurucusu Li Zhenwu, bir keresinde Beijing News'ten bir muhabire, video yapımcısının portresini Zhu Yin ve Yang Mi'nin izni olmadan kullandığını söylemişti. Savunması kârlı olmasa da, İnternet bağlamında trafikten para kazanıyordu ve hayranlar Çarpmayı kar amacı gütmeyen bir davranış olarak açıklamak zordur, bu nedenle bu eylemin portre hakkını ihlal ettiğinden şüphelenilebilir.
Bazı insanlar, AI'nın yüz değiştiren teknolojisinin eşiğinin sürekli olarak düştüğüne inanıyor. Bu bağlamda Zhang Baichuan, "Geçmişte teknik zorluk çok yüksekti. Bazı insanlar bu algoritmayı çoktan incelemeye başladılar. Algoritma halka açılırsa, bu eğilime direnmek zor olacaktır."
Zhang Baichuan gazetecilere verdiği demeçte, sıradan insanlar için yapay zeka yüz değiştiren teknolojiyi öğrenmenin kolay olmayabileceğini, ancak bazı insanların bu teknolojiyi benzer işlevlere sahip yazılımlar yapmak için kullanabileceğini, ardından sıradan insanların yalnızca APP'ye fotoğraf yüklemesi gerektiğini söyledi. Zhang Baichuan, bireylerin nasıl engelleneceğiyle ilgili olarak şunları söyledi: "Bu zor. İnternette fotoğraflarınız varsa, (kullanılma) riski olacaktır."
Muhabir, Deepfake ve DeepNude'un yurtdışında hararetli tartışmalara yol açtığını fark etti.New York Times'a göre, giderek daha fazla insan FakeApp'i ünlülerin pornografik videolarını yapmak için kullandıkça, FakeApp paniğe neden oluyor. The Guardian, yapay zekanın gelecekte neden olabileceği etik sorunlar hakkındaki endişeleri gösteren bu tür yazılımları "geleceğin korkunç bir görüntüsü" olarak adlandırıyor.
Yerel saatle 2 Temmuz'da, Amerika Birleşik Devletleri'nin Virginia eyaleti pornografi yasağına yasal bir değişiklik yaparak, ABD'de bilgisayar kaynaklı pornografinin yayılmasını yasaklayan ilk bölgelerden biri oldu. Değişikliğe göre, yanlış oluşturulmuş videolar veya hareketsiz görüntüler de dahil olmak üzere, herhangi bir şekilde izinsiz olarak oluşturulmuş çıplak veya çıplak halde bir kişinin videolarını veya hareketsiz görüntülerini dağıtmak veya satmak yasa dışıdır.
Çin'de, Ceza Kanununun 363. Maddesi uyarınca, kâr amacıyla müstehcen materyaller üreten, çoğaltan, yayınlayan, satan veya yayan herkes, üç yıldan fazla olmamak üzere sabit süreli hapis, cezai gözaltı veya gözetim ve para cezası; Ciddi durumlarda, üç yıldan az olmamak üzere on yıldan fazla olmamak üzere sabit süreli hapis ve para cezası ile cezalandırılır; özellikle ciddi durumlarda, on yıldan az olmamak üzere sabit süreli hapis veya müebbet hapis cezasına çarptırılır ve para cezası verilir veya müsadere edilir.
Birleşmiş Milletler Siber Güvenlik ve Siber Suçlar Kıdemli Danışmanı Wu Shenkuo'ya göre, Çin yasaları söz konusu olduğunda, yapay zekanın yüzünü değiştiren müstehcen videolar satmak, kâr amacıyla müstehcen materyaller yaymanın suçu. Aynı zamanda sivil haksız fiiller alanında, başkalarının portrelerini izinsiz kullanmak Kâr için portre hakkını da ihlal etti.
Wu Shenkuo, yapay zekanın yüzünü değiştiren müstehcen videoların alıcılarıyla ilgili olarak, şu anda müstehcen materyalleri satın almak için yasal bir sorumluluk olmadığını ve esas olarak müstehcen materyalleri yaymanın ve kar için müstehcen materyalleri yaymanın iki yasadışı biçimine odaklandığını söyledi. Alıcı, yapay zekayı yüz değiştiren müstehcen videoyu satın aldıktan sonra, onu yaymak veya kar için yaymak, bir yasanın ihlali veya hatta bir suç teşkil edebilir.
Zhang Baichuan, teknolojinin kendisiyle ilgili bir sorun olmadığına inanıyor. Bunun nedeni, bazı insanların kötülük yapmak için teknolojiyi kullanmasıdır. Halk, günlük yaşamlarında kişisel mahremiyetin korunmasına dikkat etmelidir. "Örneğin, anlık mesajlaşma yazılımı, bazıları çalışmak için, bazıları dolandırmak için kullanıyor."
Pekin Haberleri
