Aldatma ve pornografiden uzak, Deepfake araçlarını "insanlığa fayda sağlamak" için sorumlu bir şekilde nasıl kullanabilirim?
Tam metin 3088 Kelimeler, tahmini öğrenme süresi 9 dakika
Görüntü kaynağı: www.ifanr.com
ZAO, Jimeng ve Tiantian Ptu gibi yüz değiştiren yazılımların atası olan Deepfake, sayısız çağdaş gence fayda sağladı.
Deepfake, aynı zamanda sentetik medya teknolojisi olarak da bilinir. Doğumundan bu yana üç yıl geçti. 2017'de gizemli bir adam kendi yüzünü değiştiren videosunu internette yayınladı ve sonraki dönemde bu teknolojiyi yabancı kadın yıldızların fotoğraflarını ve pornografik videolarını birleştirmek için kullandı. Sentez neredeyse sahte ve gerçek olabilir ve bu da o sırada çok fazla soruna neden oldu. Ancak, Gal Gadot tarafından temsil edilen çok sayıda kurbandan gelen şikayetler üzerine, adamın hesabı sonunda bloke edildi ve video silindi. Kızgınlıkla, adam doğrudan yapay zeka yüz değiştirme projesinin kodunu açtı.
Adam "Deepfake" (Kullanıcı Kimliği). Aynı zamanda bizim şu anki "Deepfake", katalizör altında türev teknolojileri gelişiyor.
Görüntü kaynağı: www.ifanr.com
Aslında, Deepfake'in birçok faydası vardır.
Örneğin konuşma sentezi, insanların yüzlerce dili kendi sesleriyle konuşmasını sağlar. Video sentezi, gelecekteki olası hataları önlemek için sürücüsüz araba kazalarını simüle etmek için kullanılabilir.
Ancak bu teknolojiyi dikkatli kullanmazsanız, çok büyük bir bedel ödeyebilirsiniz: aynı temel teknoloji, küresel aldatmacaya yol açabilir.
Neyse ki, sıkı çalışmayla, bu teknolojinin parlak beklentileri, riskleri azaltılırken gerçekleştirilebilir.
Kaynak: Unsplash
"Kullanıcılar araçlarımızı kötüye kullanırsa, yapabileceğimiz hiçbir şey yoktur." Geliştiriciler sorumluluktan kaçınmak için bunu söyleyebilir.
Çünkü geliştiriciler pek çok şey yapabilirler, ancak genellikle yapmak istemezler. Bir başka görüş ise, "bu tür bir teknoloji her halükarda ortaya çıkacak." Bu tamamen yanlış değil, ancak "nasıl" ve "ne zaman" önemli konulardır ve geliştiricinin seçimi iki ana sorunu değiştirecektir.
"Aldatma her zaman var olacaktır" klişesinin arkasına saklanıp, derece ve etkideki büyük farklılıkları görmezden gelemeyiz.
Deepfake teknolojisinin bedeli tahakkuk etti. Sentetik yüzü değiştiren video susturdu muhabirler; sentetik konuşma, büyük ölçekli dolandırıcılık işlemlerinde ve casusluğu desteklediği iddia edilen sentetik insan yüzleri kullanıldı. Bunların tümü, savunmasız genel beta yazılımı kullanmanın zorluklarıdır. Çoğu kötü niyetli saldırgan için, sentetik medya teknolojisini kullanmanın önündeki engeller hâlâ büyüktür ve onları çekmek için yeterli değildir. Bununla birlikte, savunmasız genel beta sürümünden yazılımın resmi sürümüne kadar, deepfake'i yasadışı olarak kullanmanın zorluğunu artırarak en kötü durum senaryosundan kaçınma sorumluluğumuz var.
Söylemesi kolay ama nasıl yapılır?
Kötü niyetli kullanım olasılığını azaltmak için aşağıdaki önlemler alınabilir.
Yöntem 1: Kullanıcıları ve araçları kullanma yöntemlerini kısıtlayın
Açık, basit ve etkili yöntemlerden biri, kabul edilen kullanıcıları dikkatlice incelemektir. Bu, Synthesia gibi şirketlerin şu anki uygulamasıdır, sadece onaylanmış kurumsal müşterilerle çalışırlar.
Diğer bir yöntem, kullanımı kısıtlamaktır: kullanıcıların sentezleyebileceği veya değiştirebileceği içeriği kısıtlayın. Örneğin, önceden seçilen belirli seslerin veya yüzlerin manipüle edilebilmesini sağlamak için araçlar oluşturun. Humen'in yaklaşımı, oluşturulan videodaki insanların eylem dizilerini sınırlamaktır.
Ancak, birçok sistem bu tür kısıtlama yöntemlerini desteklemeyebilir. Başka ne yapılabilir?
Kaynak: Unsplash
Yöntem 2: Etik Deepfake araçlarını destekleyin
Günümüz iş ortamında rekabet giderek şiddetleniyor ve geri döndürülemez bir felaket meydana gelmedikçe, insanları zarardan korumak için fazladan iş yapma ihtiyacını haklı çıkarmak zordur. Peki bu yöntemlerin zamanında uygulanmasını nasıl sağlıyorsunuz? İşte fon verenler, hükümetler, gazeteciler ve halkın etik sentetik medya araçlarını kullanan kişileri desteklemek için atabileceği dört adım.
Doğru şeyi yapmayı kolaylaştırın
Bu, tüm bu alanlarda araştırmaya yatırım yapmamız gerektiği anlamına gelir, böylece bu yöntemleri uygulamak için geniş çapta erişilebilir ve iyi finanse edilmiş açık kaynak araçlarına sahip oluruz. Bilgi güvenliğinin geçmişi, işlerin güvenli olmasını sağlamak için basit açık kaynaklı araçlar kullanılabildiğinde, daha fazla şeyin emniyetle sonuçlanacağını göstermektedir. Aynı mantık burada da kullanılabilir: en azından herkese açık meta verilerin, filigranların ve günlük tutmanın standardizasyonunu acilen basitleştirmemiz gerekiyor. Resmi uygulamadan önce eğitim modeline tespit edilebilirlik katmanın mümkün olup olmadığını araştırmak da gereklidir. Bu altyapı ve araştırma olmadan pek çok iyi niyetli araç kötü niyetle kullanılacaktır.
Kötüye kullanımı azaltmak için uzmanlık geliştirin
Gizlilik ve güvenlikte olduğu gibi, sistemi güçlendirmeye ve kötü niyetli saldırganlarla başa çıkmaya odaklanan bir topluluk desteklenmeli ve şirket, ister danışman olarak ister dahili bir şirket olarak bu işi tamamlamak için insanları finanse etmeli ve işe almalıdır.
Sorumsuz araçların finansmanından, yapımından ve dağıtımından kaçının
Şirket veya araç kötüye kullanımı azaltmaya çalışmazsa, fon sağlayıcılar ve geliştiriciler destek sağlamamalıdır. Yukarıda açıklanan en iyi uygulamaları uygulamayan araç üreticilerinin iyi bir nedeni olmalı ve varsayılan olarak uygulama mağazaları bunu talep etmelidir.
İnsanları sorumlu tutarak normlar oluşturun
İhmalkar ve sorumsuz yatırımcılar, meslektaşlar, arkadaşlar veya aile üyeleri bile hatalarını belirtmelidir. İyi iş yapan insanları överek ve iyi olmayanları teşvik ederek etik oluşturun.
Nvidia, Adobe, Facebook ve Google gibi Deepfake teknolojisini tanıtan kuruluşlar, bu alanlara yoğun bir şekilde yatırım yapmalıdır. Risk sermayedarları ve vakıflar da bu işi desteklemek için ellerinden geleni yapmalı ve onu destekleyenlere ihtiyatlı davranmalıdır.
Bu, gereken kapsamlı çabanın yalnızca bir parçasıdır ve çoğu durumda bu çabalar bize yalnızca biraz zaman kazandırır. Bu, platformların ve politika yapıcıların bilgi ekosistemini daha esnek hale getirmek için bu zamanı akıllıca kullanmasını sağlamak anlamına gelir.
Çoğu geliştirici ürünlerini daha dikkatli tanıtmadıklarından pişmanlık duymadan önce ve bizim sadece bir geleceğimiz var. Berbat etmeyin.
Kaynak: Unsplash
Yöntem 3: Kötü amaçlı kullanımı önleyin
Yaygın olarak kullanılabilen genel sentetik medya araçları için, kötü amaçlı kullanımı azaltmanın hala birçok yolu vardır. Aşağıdaki gibi:
· Açıkça açıklama: Sentetik ortamı, özellikle yanıltmak için kullanılabilecek malzemeleri açıkça belirtin. Araçlar, çıktı dosyasına net görsel veya işitsel açıklamalar (görsel uyarılar veya sözlü açıklamalar gibi) ekleyerek bunu başarabilir. Meta veriler, en azından medyanın nasıl sentezlendiğini veya işlendiğini belirtmelidir.
· Rıza koruması: Taklit edilenin rızasını isteyin. Ses klonlama aracı "Lyrebird", kullanıcıların seslerini taklit etmek için belirli ifadeler söylemesini gerektirir. Bu, başkalarının rızası olmadan başkalarını taklit etmeyi zorlaştırır ve ses yalnızca sağlanan veri seti kullanılarak üretilemez. Elbette, bu yalnızca taklit etmeye izin vermek için geçerlidir Aracı.
· Algılama kolaylığı: sentetik ortamın algılanmasının zor olmadığından emin olmak; algılama araçlarını güncel tutmak; bunları güncel tutmak için algılama çalışmasında görevli personel ile işbirliği yapmak.
· Gizli filigran: Sentezlenmiş içeriği (hatta orijinal medyayı) gömmek için güçlü bir filigran kullanın; uygun araçlara sahip herkes tarafından erişilebilir veya özel ve silinmesi zor bir yöntem. (Örneğin, Modulate.ai üretilen sesi filigranlar ve Imatag ve onun açık kaynaklı benzer ürünleri gibi ürünler görüntüleri filigran haline getirir.)
· Kullanım günlüğü: Bir videonun belirli bir araçla sentezlenip sentezlenemeyeceğini belirlemek için araştırmacılar ve gazeteciler için erişilebilir bir şekilde kullanım ve ortam çıktısı hakkındaki bilgileri depolayın. Bu, sentetik zaman damgalarını depolamak için güvenilir karma algoritmaların veya medya yerleştirmelerinin kullanımını içerebilir.
· Kullanım kısıtlamaları: Başkalarının izni olmadan ifşaları veya filigranları ve işlemleri silme girişimleri gibi yasa dışı işlemleri yasaklayan ve cezalandıran sözleşme kullanım koşulları sağlayın ve uygulayın. Bu yöntemi uygulamanın daha iyi bir yolu, teknolojinin izin verilen kullanım aralığını açıkça belirtmek veya çıktı üretmektir.
Bu stratejiler her sistem için geçerli değildir. Bazı stratejiler riskli olabilir ve hiçbiri mükemmel değildir. "Derinlemesine Savunma" nın bir parçasıdırlar ve kötü niyetli kullanımı önlemek için mümkün olduğunca çok yöntemi birleştirmeleri gerekir. İnceleme veya kısıtlamalarla bile, bu yöntemler yine de sistem savunmasını daha güçlü hale getirebilir. Bu kurallara uyulması en çok "hizmet olarak yazılım" sistemleri için geçerli olsa da (teslimat sırasında herhangi bir kaynak kodu göstermez), yine de açık kaynak araçları ve modelleri için değer sağlarlar: birçok kötü niyetli kullanıcının bu korumaları atlatmak için teknik yeteneği yoktur Ölçümler.
Kaynak: İstasyon B
Tek başına bir öneri yoktur, ancak yukarıdaki noktalar gerçekten eylemde uygulandığında, gereken rolünü oynayabilir.
İster öncü araştırma yapmak, ister yeni ürünler geliştirmek, ister açık kaynaklı sistemler geliştirmek olsun, geliştiricilere bu teknolojiyi kullanma konusunda nasıl rehberlik edilir. Yatırımcılar ve teknolojinin sponsorları, geliştiricileri teknolojinin etkisini ciddiye almaya çağıran gazeteciler ve geliştiricilerin akrabaları ve arkadaşları nasıl hedeflenir. İnsanları harekete geçmeye nasıl çağıracağınız artık en önemli önceliktir.
Yorum Beğen Takip Et
Yapay zeka öğrenme ve geliştirmenin kuru mallarını paylaşalım
Yeniden yazdırıyorsanız, lütfen arka planda bir mesaj bırakın ve yeniden yazdırma şartnamelerine uyun
