Yüz tanımanın ardında: korkutucu olan teknoloji değil
Tam metin 3001 Kelimeler, tahmini öğrenme süresi 9 dakika
Kaynak: zh.lovepik.com
Önceden, yapay zeka yüz değiştiren yazılım ZAO bir gecede popüler hale geldi, yalnızca sunucularını "tam yükten çökme operasyonuna" krizine sokmakla kalmadı, aynı zamanda kullanıcıların güvenliğini ve gizliliğini çeşitli tehlikeli alanlara maruz bıraktı.
Aynı durum yurtdışında da nadir değildir.
Bu yılın Temmuz ayında, "değişken" bir yazılım birçok (ABD) cep telefonu kullanıcısının paniğe kapılmasına neden oldu. FaceApp olarak adlandırılabilir.Bu rötuş yazılımı, fotoğraflanan yüzlere gerçekçi bir değişim duygusu verebilmesi nedeniyle sayısız hayran kazandı, o zamandan beri internette bir "virüs" haline geldi ve yaygın.
Ve başlıca sosyal platformlara ve fotoğraf baskı web sitelerine bakıldığında, bunların hepsi onun sonuçlarıdır.
İlk başta, bazı şüpheci İnternet araştırmacıları yazılım sağlayıcısının bir Rus şirketi olduğunu keşfedene ve işler yeni bir yöne dönene kadar FaceApp'ın popülaritesi alışılmadık görünmüyordu.
İnsanlar bir an için kaynadı ve sosyal platformlar ve çevrimiçi forumlar insanların endişeleriyle doluydu: Bu Ruslar kim? Yüz fotoğraflarımızı neden istiyorsun? Toplanan verileri nasıl kullanacaklar? Bazı haber medyası sunucuları bunu kamuoyuna hatırlattı; başka bir Demokrat (ilgili departmanları) bunu araştırmaya çağırdı. Ülkedeki herkesin kalbinde şu soru var - rahatsız edici Rus istihbarat teşkilatları, ülkelerinin yüz tanıma programını iyileştirmek için yüz bilgilerini yasadışı bir şekilde kullanıyor mu?
FaceApp tedarikçisi ile Rus hükümeti arasındaki bağlantının abartıldığı ve aslında hiçbir şeyin olmadığı ortaya çıktı. "Washington Post" 'un bir soruşturma raporuna göre, şirketin uluslararası istihbarat örgütleriyle hiçbir kesişimi yok ve yasadışı gözetleme örgütlerine bilgi kaynağı sağlamayacak.Şu anda, saklanan fotoğrafları herhangi bir yüz tanıma sistemini yükseltmek için kullanmıyor. Bütün mesele, veriler hakkında yaygara koparmaktır.
Ancak böyle bir kargaşa beklenmedik değil. İnsanlar, görünüşte ilginç, kullanışlı ve kullanışlı birçok ağ hizmetinden art arda endişeleniyorlar, ancak FaceApp ikilemi kısa süre önce ortaya çıktı. İnsanlar bilmek istiyor, Facebook'ta fotoğrafları otomatik olarak etiketleyen bu teknoloji, şirketlerin kişisel bilgilerini anlamalarına ve bunları izlemelerine ve kullanmalarına izin verecek mi? Bir müşteri kasiyersiz bir Amazon mağazasına girdiğinde, perakendeci müşteriyle ilgilenmek için toplanan gözetim videosunu kullanır mı?
İnsanlar genellikle bunu algılayamazlar ve sorun da budur. Öyleyse arkasında ortaya çıkan soru şudur: Mevcut AI programları insan yüzleriyle ne yapacak? Önümüzdeki gerçeklerden değil, söylentilerden ne kadar korku gelir? Teknolojinin gücü insanları endişelendiriyor mu?
Bunu birlikte düşünelim.
Kaynak: dy.163.com
Yüz tanıma tam olarak nedir?
Yüz tanımanın risklerine girmeden önce, nasıl çalıştığını anlamak gerekir.
Yüz tanıma teknolojisinin (FRT) işlevi, esas olarak yüz düğümü ölçüm sonuçlarının tanınmasına ve model oluşturulmasına dayanır; burun genişliği, çene uzunluğu veya gözler arasındaki mesafe dahil ancak bunlarla sınırlı değildir. Bu ölçüm sonuçları nihayetinde belirli bir kod içeren bir şablona kopyalanacak ve daha sonra resim, veritabanındaki mevcut görüntü ile karşılaştırılabilir ve hatta eşleştirilebilir.
Örneğin, kumarhaneler, pazara giren oyuncuların dahili verilerini, söz konusu listelenen kumarbazların verileriyle karşılaştırmak için bu tekniği kullanabilir. Diğer araştırmacılar, ehliyet veri tabanları, polis tarafından arşivlenen şüpheli fotoğrafları veya Facebook gibi sosyal platformlar aracılığıyla istedikleri kaynaklara ulaşabilirler. Bununla birlikte, fotoğraf kütüphanesinin kullanımı, bu kişilerin görsel kaynaklarını kullanma hakkına ne kadar sahip olduğuna bağlıdır, bu da bundan sonra konuşacağımız şey - aramanın doğruluğu.
Kaynak: detail.zol.com.cn
Yüz tanıma ne yapabilir (veya yapamaz)?
İzleyicilerin peşinden koştuğu tüm casus planların aksine, FRT, ortam karmaşık olsa bile nadiren doğru bilgileri anında geri verir. Hükümetin sokaktaki belirsiz gözetleme görüntüleri ile hedef kişiyi birkaç saniye içinde bulacağını söylemek abartıdır.
Bununla birlikte, yüz tanıma izleme gerçekten mümkündür ve yüzleşmemiz gereken şey, düşük doğruluk ve çeşitli çevresel faktörlerden başka bir şey değildir. Kamera kalitesi, hesaplama prosedürleri, zaman, mesafe, veritabanı boyutu ve hatta demografide etnik köken ve cinsiyet, FRT aramasının nihai sonucunu etkileyecektir.
Yazar, 2018 yılında Amerikan Sivil Özgürlükler Birliği'nin (ACLU) bir test düzenlediğini ve sonuçların Amazon platformunun yüz tanıma sistemi Rekognition'ın 28 Kongre üyesini polis tarafından saklanan şüphelilerin fotoğraflarıyla yanlış bir şekilde eşleştirdiğini açıkça hatırlıyor.
MIT Media Lab tarafından başlatılan bir başka anket, Amazon kimlik sisteminin hala cinsiyet tespit etmekte zorlandığını gösterdi. Kadınların erkeklerle karıştırılma ihtimali% 19 ve 1 / 3'ten fazla Koyu tenli kadınların erkek olarak yanlış değerlendirilmeleri mümkündür. Amazon, tüm hataları düşük kalibrasyondan sorumlu tutar.
Amazon'un argümanı bir abartı değil, en azından mantıklı. Sonuçta, araştırmacılar Facebook'un tanıma sisteminin FBI'dan daha doğru olduğunu buldular, çünkü sosyal platformda referans için oldukça fazla fotoğraf var ve aynı zamanda kullanıcılardan aktif olarak algoritmayı geliştirmek için fotoğraflarını doğrulamalarını isteyecekler. İnsanlar Rekognition'ı yanlış anlayacaklar Elbette, tüm FRT yazılımları kaçınılmaz olarak sorgulanacaktır: bu yazılımların ne ölçüde yapabileceği sadece fotoğraf referans miktarına bağlıdır.
Kaynak: dy.163.com
Bir Amazon sözcüsü Verge'e "Sosisli sandviç, sandalye, hayvan veya diğer sosyal medya fotoğrafları için% 80 güvenilirlik kabul edilebilir, ancak yüz hatları olan insanlar için yeterli değildir" dedi.
İncelemeler objektif ve biraz tokatlanmış görünüyor. Çünkü şirket Rekognition'ı listeden çıkardı ve kanun uygulayıcılarına ve ICE'ye sundu, ancak hala yasal bir FRT güven düzeyi oluşturmadı. Tanımlamanın tekrarlanan yanlışlığı, FRT'nin önündeki yolda pek çok engel oluşturmuştur. Örneğin, teknoloji tek başına şüphelileri tutuklamak için bir temel olarak kullanılamaz ve yalnızca soruşturmalara yardımcı olmak için kullanılabilir.
Yanılmayın, mevcut ABD FRT kabiliyeti hedefi belirsiz gözetim görüntülerinde karanlık yola kilitleyemese de, bu yeteneğin elde edilebilmesi sadece bir zaman meselesidir. Çin, halkının hayatını izlemesiyle tanınıyor ve son zamanlarda bir BBC muhabirini FRT üzerinden yedi dakika içinde takip etmesi nedeniyle haberlerde gündem maddesi haline geldi. Bu, teknolojinin gelecekte Amerika Birleşik Devletleri'nde nasıl kullanılacağına dair bir emsal teşkil ediyor.
Bununla birlikte, bir şey açık: Amerika Birleşik Devletleri'ndeki mevcut yüz tanıma teknolojisi doğru tutulamasa da, yerli şirketler onu iyileştirmek ve kullanmak için çalışıyor. Şimdiye kadar iki büyük sorun var: Birincisi, güvenilmez teknoloji insanları yanlış suçlamalara maruz bırakabilir; ikincisi, teknoloji daha doğru ve genişledikçe gözetim eğilimi Çin'e daha da yaklaşacaktır.
FaceApp kullanıcıları nerede?
FRT'nin gelişimi genel eğilimdir, şu anda tam olarak doğru veya makul bir şekilde kullanılmayabilir, ancak gelecekte gerçekleştirilecektir. Aynı zamanda, insanların teknolojinin nasıl, ne zaman ve ne ölçüde kullanılması gerektiğini düşünmeye başlaması, FRT düzenlemenin ötesine geçmeden önce katı sınırlar koyması gerekir. "Washington Post" yazarlarından birinin yazdığı gibi, "Bugün yüz tanıma sizi beyzbol sahasına mutlu bir şekilde girmenize neden olabilir, ancak sistem tarafından orijinal olarak yazılmış görsel varsayımlara dayanarak, siz de şiddet içeren ve suçlu olarak kabul edilebilirsiniz. O zaman pek hoş olmayabilir "
Yani kullanıcının durumu daha çok felsefeyle ilgilidir. Komik bir program fotoğrafta kendinize bazı gerçekçi kırışıklıklar ekleyecektir, bu ilginç olabilir, ancak arkasında toplanan veriler er ya da geç insanların kendileriyle ilgilenmek için kullanılabilir. Elbette, bu fotoğraflar bir Rus tedarikçi tarafından bir yerde tuzağa düşürülmüş olabilir ve dokunulamaz veya insanları izlemek için daha verimli ve doğru bir FRT sistemi uygulamak için referans olarak kullanılamaz. Olay, dijital dünyadaki temel güvensizlik sorununa işaret etti ve insanları şu soruyu sormaya yöneltti: "Uzun süredir güvendiğimiz görünüşte masum veriler kendimize zarar mı veriyor?"
Kaynak: Pexels
Şimdi ne anlıyorsun?
Bir dahaki sefere fotoğraf filtreleri, çevrimiçi oyunlar veya dijital trendler yayıldığında, emniyet kemerinizi bağlayın ve kendinizi bağlayın ve bir trend haline gelmek isteyip istemediğinizi düşünün.
Selfie'nizin bir Sibirya sunucusunda sayılar veya metin şeklinde gizleneceğini düşünseniz bile, birisinin onu kullanacağını düşünmelisiniz.
Yerli ZAO'nun ortaya çıkışı gibi, yeraltı gri endüstrisi de yavaş yavaş ortaya çıkıyor.İnsanlar, viral panik patlak vermeden önce sorunun ne kadar ciddi olduğunu asla anlamayacaklar. .
Kriz duygusu olmadan, yalnızca pornografik pornografik resimlere baktığınızda yanlışlıkla yüzünüzü bulduğunuzda panik ve tehlike hissedebilirsiniz.
Yorum Beğen Takip Et
Yapay zeka öğrenme ve geliştirmenin kuru mallarını paylaşalım
Yeniden yazdırıyorsanız, lütfen arka planda bir mesaj bırakın ve yeniden yazdırma şartnamelerine uyun
