Verilere görünmez bir "pelerin" koymak, bazı veri gizliliği nasıl kurtarılır?
Tam metin 2092 Kelimeler, tahmini öğrenme süresi 6 dakika
Kaynak: Unsplash
2020 yılına kadar internete yüklenen ve yayınlanan tüm fotoğrafların yüz tanıma teknolojisi ile analiz edileceğini söylemek güvenlidir. Yıllar geçtikçe, sadece Google ve Facebook gibi şirketler yüz tanıma işlevlerine büyük önem vermedi, aynı zamanda Clearview AI gibi şirketler de yüz tanıma teknolojisini polise satmak için halka açık internetten görüntüler yakalamaya odaklandı.
Artık yapay zeka araştırmacıları, teknolojinin bu fenomenin neden olduğu sorunları nasıl çözebileceğini düşünmeye başlıyor. Artık "PrivacyNet", "AnonymousNet" ve "Fawkes" gibi algoritmalar, halka açık ağlarda yüz tanımadan kaçmak için küçük bir sığınak sağlıyor.
Bu algoritmalar, çevrimiçi gizliliği korumaya yönelik çözümler değildir. Ama bir tür araç, eğer çevrimiçi platformlar bu algoritmaları benimserse, kaybolan mahremiyetin bir kısmını resimleri çevrimiçi yayınlayarak telafi edebilirler.
Fawkes, Chicago Üniversitesi tarafından yapılan araştırmaya dayanan bir anti-yüz tanıma sistemidir. Program, Anonymous hacker grubu tarafından yapılan ve internette yayınlanan yüz görüntülerinin kullanımını kısıtlamaya çalışan Guy Fawkes maskesine bir övgü niteliğindedir.
Fawkes bu görünmez özellikleri tanıdı ve benzerlikleri ortadan kaldırmak için onları ayarladı.
Kaynak: Unsplash
Bir kişinin görünümünü tanımak için bir yüz tanıma algoritması eğitilirken, algoritma farklı eğitim görüntülerindeki pikseller arasındaki ilişkiyi bularak uygulanabilir. Bu ilişki, bir insan yüzünün geometrik şekli kadar basit olabilir, ancak Chicago Üniversitesi'ndeki araştırmacılar, bu algoritmaların, bir kişinin görünüşünün somut olmayan "özelliklerini" de belirleyebileceğine dikkat çekti.
Fawkes, bu görünmez özellikleri tanır ve ardından görüntüler arasındaki ortak noktaları ortadan kaldırmak için bunları ayarlar. Bu küçük özellikler daha önce çıplak gözle görülmediğinden, bu ayarlamalar da öyle. Bu ince değişikliklere "pelerin" adı verilir.
Gizli görüntünün gerçek dünya algoritmalarını nasıl etkili bir şekilde aldatabileceğini test etmek için araştırmacılar, gizli görüntü üzerinde Microsoft, Amazon ve Google tarafından satılan yüz tanıma algoritmalarını eğitti. Her görüntü maskelenirse, "gizlemenin"% 100 etkili olduğunu görürler. Gizli eğitim verilerindeki görüntülerin yaklaşık% 15'i kapsanmazsa koruma oranı% 40'ın altına düşer.
Araştırmacılar şunları yazdı: "Bu sistemin kendisinin gelecekte uygulanabileceğine inanmasak da, yetkisiz makine öğrenimi modellerine karşı korunmak için kullanıcı merkezli gizlilik araçlarının geliştirilmesi gerekli ve önemlidir. adım."
Tanımlamayı iptal etmenin bir başka yolu, insanların görünümlerinde gözle görülür değişiklikler yapmak ve böylece görüntülerin insanlar ve makineler tarafından tanınmasını sınırlandırmaya çalışmaktır. Bu kullanım durumu beceriksiz görünse de, bu yöntem Facebook ve birçok üniversitenin ilgisini çekmiştir.
Tel Aviv'deki Facebook araştırmacıları, gerçek zamanlı videoda insanların görünümünü değiştirmeyi önerdi. Bu yöntem genellikle makinenin onları tanıyamamasına neden olur.
Facebook, kişinin videolarını ve önceki fotoğraflarını kullanarak kimliğini engelledi. Bu algoritma, görüntüler ve videolar arasındaki benzerlikleri bulmayı ve ardından yeni videolar oluştururken insan yüzlerinin bu benzer özelliklerinden "kaçınmayı" amaçlamaktadır. Bu fikir, videodaki kişilerin aynı kişi gibi görünmesini sağlamak için neredeyse özelleştirilmiş bir Deepfake gibidir.
Araştırmacılar şunları yazdı: "Örneğin, bu, kullanıcıların, yüz tanıma teknolojisinin onları tanımlayacağı endişesi olmadan, halka açık forumlarda anonim olarak doğal video mesajları bırakmalarına izin veriyor."
Biri Temple Üniversitesi'nden, diğeri Rochester Üniversitesi ve Purdue Üniversitesi'nden ortak bir makale olan ve her ikisi de farklı stratejiler kullanan iki makale var. Rastgele maskeler oluşturacaklar ve onları tanınmasını istemedikleri yüzlere dikecekler.
Purdue Üniversitesi lisansüstü öğrencisi ve AnonymouNet gazetesinin ortak yazarı Tao Li, "Bu teknoloji, yüz algılama algoritmalarını kandırmak için tasarlanmıştır. Bu teknolojinin insan gözünün algısal kalitesini korurken, insanlardan daha güçlü olduğu kanıtlanmıştır." To.
Bir düzenleme stratejisi olarak bu teknoloji, görüntünün arka planında görünen bireylerin mahremiyetini korumak için kullanılabilir. Li Tao, tanıma sorununun genellikle veri yayınlama ile ilgili olduğunu söyledi.Kişisel kimlik bilgileri paylaşmadan veri setindeki kişilerle görüntülerin nasıl paylaşılacağı yüzün tanınmaz hale gelmesi için yeterli.
"Sistemin gelecekte uygulanabileceğini düşünmesek de, bu önemli ve gerekli bir ilk adımdır."
Kaynak: Pexels
Li Tao, teknolojinin kişisel kullanımı için de nedenler sağladı. İnternette bir grup kişinin fotoğrafları yayınlanmışsa ve fotoğrafların İnternette görüntülenmesini istemiyorsa, yüz değiştirme teknolojisi kişinin yüz özelliklerini değiştirmek için yeterlidir. Fotoğrafı bulanıklaştırmadan veya bozmadan.
Bununla birlikte, görüntü olay bazında nasıl düzenlenirse düzenlensin, verilerin genel değerini değiştirmeyeceği gibi kötü niyetli kişiler tarafından veri elde etme ve yeniden satma konusunda İnternet'in açıklığını da değiştirmeyecektir.
Georgetown Üniversitesi Hukuk Fakültesi İletişim ve Teknoloji Hukuku Enstitüsü'nde avukat olan Lindsey Barrett şunları söyledi: "Bu araştırmanın değerini teyit ederken, en önemli şey, kişisel önleyici tedbirler değil, kurumsal teşviklerin yapısal reformunu yeniden şekillendirmektir." Bu önemli yapısal reformlar, yüz tanımayı etkili bir şekilde yasaklamaya ve mahremiyeti ihlal eden veri toplamayı önlemeye yardımcı olabilir.
Dedi ki: "Gizlilik ayarlarına dikkat etmemekten daha iyidir. Ancak yıllarca süren araştırmalar ve sağduyudan sonra, tüketici verilerinin kötüye kullanılması sorununun çok büyük ve çok karmaşık olduğunu ve her birimizin tek başına çok zayıf olduğunu biliyoruz."
Yorum Beğen Takip Et
Yapay zeka öğrenme ve geliştirmenin kuru mallarını paylaşalım
Yeniden yazdırıyorsanız, lütfen arka planda bir mesaj bırakın ve yeniden yazdırma şartnamelerine uyun
