"Tartışma" Yabancı medya Çin'in yüz tanıma ve hükümlü suçlularını sorguladı, üç çalışma yüz tanımadaki zayıf noktalara bakıyor
1 Xinzhiyuan raporu
İngiliz "Financial Times" dün, bir kez daha Çin'in "hüküm giymiş suçluların yüz tanıma" sorununa odaklanan "Çin, Suçları Tahmin Etmek İçin Yapay Zekayı Kullanıyor" başlıklı bir rapor yayınladı.
Raporda, "Çin bir gözetleme ülkesidir ve yetkililer vatandaşların sözlerini ve eylemlerini kısıtlama olmaksızın sansürleyebilir. Bugün Çin, gelecekleri hakkında casusluk yapmak için suçu tahmin etmek ve önlemek için teknolojiyi kullanmaya çalışıyor."
Raporda, Çin Bilim ve Teknoloji Bakan Yardımcısı Li Meng'in "... Li Meng geçen Cuma yaptığı açıklamada, akıllı sistemler ve akıllı cihazlar iyi bir şekilde kullanılabilirse, kimin terörist olabileceğini ve kimin kötü şeyler yapabileceğini önceden bildiklerini" söyledi. .
Raporda ayrıca, yapay zeka geliştirilmesinde Çinli şirketlerin polise yardım ettiğine dikkat çekildi ve bunun polisin suç eylemleri işlenmeden önce şüphelileri tespit edip tutuklamasına yardımcı olacağı belirtildi.
Rapor Yuncong Teknolojisini örnek olarak kullanıyor ve Yuncong'un, alıcıların şüpheli davranışlarına (mutfak bıçağı aldıktan sonra çuval ve çekiç satın almak gibi) dayanarak yüksek riskli yerleri (bıçak ve çekiç satan dükkanlar gibi) izlemek için teknolojiyi kullandığını gösteriyor. Suçu tahmin edin.
"Financial Times" bildirdi: Çin hükümeti, vatandaşlarını izlemek ve kontrol etmek için kişisel veriler topluyor ve yapay zekanın hızlı gelişimi, hükümetin gözetleme yeteneklerini artırıyor. Kaynak: Financial Times
Çin yüz tanıma uygulamaları Batı toplumunun hayal gücünü aşıyor
Aslında bu, ana akım yabancı medyanın Çin'deki yüz tanıma teknolojisinin uygulama durumuna dikkat ettiği ilk olay değil. Geçen ayın sonunda, ABD "Wall Street Journal" uzun metrajlı bir uzun metrajlı yayınladı "Çin'in Her Şeyi Gören Gözetleme Devleti Vatandaşlarının Yüzlerini Okuyor" - Çin'deki "Skynet", vatandaşlarının yüzlerini izliyor ve Çin halkının günlük yaşamlarına sızmak için yaygın olarak kullanıldı. Cep telefonu uygulamalarında kimlik doğrulama, ofis binalarında yüz taramalı erişim kontrolü ve yol boyunca yolları kesişen kameralar dahil olmak üzere yüz tarama ve tanıma tanıtıldı.
Bu makale The Wall Street Journal'ın Çince versiyonunda "Çin'de Kırmızı Işığı Çalıştırmaya Cesaret Edebilir misiniz?" Başlığıyla yayınlandı. "Akıllı Yüz Tanıma, Shenzhen'de Kırmızı Işık Koşan Yayaları Yakaladı" içeriğinin yer alması nedeniyle başlık olarak yayınlandı.
Shenzhen'in trafik ihlallerini akıllıca yakalayan yüz tanımasına bir örnek: Bir yaya kırmızı ışıkta geçerse, güvenlik kamerası tarafından otomatik olarak yakalanacak ve gerçek zamanlı olarak elektronik ekranda görüntülenecektir. Resim kaynağı: Wall Street Journal
"Wall Street Journal" makalesi, "Çin hükümet kurumlarının, insanların davranışlarını etkilemek ve suçluları belirlemek için yüz tanıma teknolojisini kullanmayı umarak büyük ölçekli bir sosyal mühendislik deneyi başlattığını" belirtti.
Sadece bu değil, aynı zamanda makale Çin hükümetinin 2020 yılına kadar "vatandaşların çalışma birimlerindeki, kamusal alanlardaki ve kişisel finanslardaki performansına dayalı" bir ulusal sosyal kredi sistemi kurmayı umduğunu belirtti.
The Wall Street Journal'daki bir habere göre, yüz tanıma sistemi Çin toplumunda Batılıların en çılgın hayal gücünün ötesinde kullanıldı:
-
Şangay'da yarışmalar sırasında köşelerin kesilmemesi için pistin yan tarafına yüz tanıma sistemi kuruldu.
-
Pekin, birinin tuvalet kağıdı çalmasını önlemek için umumi tuvaletlere cephe kapıları kurun
-
Wenzhou, Zhejiang, tüm büyük kiliseler, camiler ve tapınaklara güvenlik kameraları yerleştirdi. "Kameraların bazıları kilisedeki bankları hedef alıyor."
-
Chengdu, Sichuan'daki bir güvenlik ekipmanı konferansında polis memurları, kalabalık izlemeyi yürütmek için bir yüz tanıma insansız hava aracı ekibine komuta etti (ürün, Shenzhen Yuntian Lifei Technology Co., Ltd.'den ve yolu geçip kırmızı ışıkta koşmak için kullanılan yüz tanıma sistemi de bu şirketten)
-
SenseTime, bir kamera ağı aracılığıyla birinin belirli bir alanın yakınında nerede olduğunu izlemeyi gösterir
-
...
Video güvenlik kameraları, Shenzhen gibi Çin şehirlerinde her yerde görülebilir. Resim kaynağı: Wall Street Journal
Veri ihlalleri nedeniyle Facebook'un yüz tanıma işlevi askıya alındı
"Financial Times" makalesinde açıkça belirtildi ki: yüz tanıma, "özellikle hukuk uzmanlarının yargı sisteminin gerekli kontrol ve dengelerden yoksun olduğunu söylediği bir ülkede, olası yanlış yargılar hakkında soruları gündeme getiriyor".
Raporda, Çin hukukunun şüphelileri suç teşebbüsüyle suçlayabileceği ve delil olmadan yapılan yanlış kararların temyizde tersine çevrilmesinin zor olduğu belirtildi.
FT Chinese.com yakın zamanda yapay zeka konusunu organize etti.Makine öğreniminde yer alan verilerin çoğu kişisel bilgilere aittir.Kişisel bilgilerin korunmasına ilişkin ilgili yasa ve yönetmeliklere göre, bu bilgilerin toplanması kullanıcılardan açık, yeterli ve tam yetkilendirme gerektirir ve kullanıcılar, koleksiyon hakkında açıkça bilgilendirilmelidir. Bilginin amacı, yöntemleri, içeriği, saklama süresi ve kapsamı.
2011 yılında Facebook'un yüz tanıma ve etiketleme işlevine, Illinois Biyoinformasyon Gizlilik Yasasına (BIPA) uymadığı için dava açıldı ve ardından yüz özellikleri toplanmadan önce açıkça hatırlatılmadı. Kullanıcının izni ile İrlanda ve Almanya'daki ilgili makamlar tarafından araştırılmıştır. Son olarak Facebook, ilgili Avrupa bölgelerinde yüz tanımayı devre dışı bırakmak zorunda kaldı ve Avrupalı kullanıcılar için yüz veritabanını sildi.
Çin'in sıcak yüz tanıma pazarı
Bilgisayarla görme ve yüz tanıma şu anda yapay zekanın en sıcak alanları. Bir McKinsey raporu, 2017'de makine öğrenimi alt alanında en fazla yatırımı bilgisayar vizyonunun aldığını gösteriyor.
McKinsey raporu, 2017'de makine öğrenimi alt alanına en fazla yatırımı bilgisayarla görmenin aldığını gösteriyor.
Çinli Hikvision şirketini örnek alırsak, bilgisayarla görme + güvenliğinin gelişim yönü, bu şirketin hızlı bir gelişme kaydetmesine yardımcı oldu. Şirketin 2001 yılında kurulmasından bu yana, Hikvision 16 yıl üst üste performansında istikrarlı bir büyüme sürdürdü ve Zhejiang hisse senetleri ile küçük ve orta ölçekli kurulların piyasa değerinin kralı oldu.Toplam piyasa değeri, birçok devi geride bırakarak tüm A hisse pazarında 16. sırada yer alıyor.
Şirket 2001 yılında kurulduğunda Hikvision, ana gövdesi Ar-Ge mühendislerinden oluşan 28 kişilik bir girişim ekibine sahipti. Şimdiye kadar, aralarında yaklaşık 10.000 Ar-Ge personeli bulunan 20.000'den fazla çalışana sahiptir. Bu yılın Haziran ayında, pazar araştırma kuruluşu IHS, Hikvision'un küresel video gözetim pazarının% 21,4'ünü oluşturduğunu ve arka arkaya altı yıl boyunca dünyada ilk sırada yer aldığını bildiren bir rapor yayınladı. Hikvision, sektör dergisi AS "Safety Automation" tarafından yayınlanan sıralamada, dünyanın en büyük 50 güvenlik şirketi arasında birinci sıraya yükseldi.
2015'ten 2017'ye kadar, yukarıda bahsedilen Yuncong, SenseTime ve Yuntian Lifei'nin yanı sıra Megvii Technology'nin yanı sıra, ana işleri olarak Çin'de ortaya çıkan bilgisayar vizyonu ve yüz tanıma ile çok sayıda start-up. "Wall Street Journal" raporuna göre, geçen sonbaharda Hangzhou G20 Zirvesi sırasında, Megvii de dahil olmak üzere birkaç şirket, suçlu zanlıları ve terörist zanlıları belirlemek için polisle işbirliği yaptı. "Bunun için bir aydan fazla bir süre içinde 60'ın üzerinde kişi gözaltına alındı."
Yüz tanımanın riskleri nelerdir? Şimdi yurtdışındaki en modern çalışmalardan bazılarına göz atalım:
CMU Araştırma-Suçlu Aksesuarları: En gelişmiş yüz tanıma teknolojisine gerçek ve sinsi bir saldırı
Yüz tanımanın doğruluğunu önemli ölçüde artıran ve böylece "Skynet" kurtarma işlemini sızıntı olmadan gerçekleştiren makine öğrenimi algoritmaları bağlamında, çeşitli motivasyonlarla motive edilen bir dizi anti-tanıma çalışması da gün yüzüne çıktı.
CMU araştırmacıları, kullanıcının yüz tanıma sistemi tarafından tanınmasını engelleyebilecek ve hatta sistemi başka bir kişi ile karıştırabilecek bir tür gözlük geliştirdiler.
Araştırmacılar, "Bir Suça Erişim Sağlayın: En Son Durumdaki Yüz Tanıma Üzerine Gerçek ve Gizli Saldırılar" (Bir Suça Erişim: Son Teknoloji Yüz Tanıma Üzerine Gerçek ve Gizli Saldırılar) başlıklı bir araştırma raporunda, araştırmacılar Sistem, yüz biyometrik analiz sistemine "fiziksel olarak gerçekleştirilebilir" ve "göze çarpmayan" bir saldırı olarak tanımlandı.
Başarılı taklit ve saldırı örnekleri. Şekil b - şekil d'de, yukarıdaki resimde yer alan araştırmacı çerçeveye koyarak aşağıdaki resimdeki kişiyi taklit etmektedir.
Bu saldırı, yüzleri tanımada insanlar ve bilgisayarlar arasındaki farktan yararlanır. Bir görüntüdeki belirli pikselleri seçici olarak değiştirerek, bir yüz görüntüsünün insan gözünde büyük ölçüde değişmeden kalmasını sağlarken aynı zamanda yüz tanıma sistemini mümkün olduğunca kafa karıştırıcı hale getirir.
Araştırmacılar, en iyi yolun bir çift büyük gözlük takmak olduğunu (ancak çok büyük değil), gerçek bir fotoğrafta bile bunun "pikselleri değiştirebileceğini" keşfettiler. Araştırmacı, abartılı çerçeveli bir çift "tuhaf" gözlük seçerek herhangi bir yüz fotoğrafındaki piksellerin% 6,5'ini değiştirebildi. Bu çerçevelere göre, görüntü tanıma efektini değiştirmek için modu bulabiliriz.
Görünmezlik saldırısı örnekleri. Sol: Kiefer Sutherland'ın orijinal görüntüsü; Orta: Yüzü kaplayan pikselleri bozarak görünmezlik; Sağ: Aksesuar kullanımıyla görünmezlik.
Bilgisayarlar ve bizimkiler yüzleri farklı şekillerde tanıdıklarından, insan yüzlerine eklenen bu desenler bizim için kaplumbağa kabuğu gözlüklerinden başka bir şey değil. Bunun maliyeti de çok düşük: Araştırmacı sıradan bir fotoğraf yazıcısı kullanarak deseni çerçeveye göre yazdırıyor ve her birinin maliyeti sadece 0,22 ABD doları.
Nihai sonuç etkileyici. Bu tür gözlükler, Face ++ gibi ticari yüz tanıma yazılımlarının yanı sıra 5 araştırmacı ve 5 ünlüyü tanımak için özel eğitim alan modelleri kandırabilir. Araştırmacı, sadece bu tür gözlükleri takarak, yazılımı tamamen yüzünü tanıyamaz hale getirebilir ve aynı zamanda Milla Jovovich ve Carson Daly gibi bazı ünlüleri taklit edebilir.
Çalışmanın kendisi sınırlar koymaz. Araştırmacılar uyardı: "Çalışmada incelediğimiz görüntü koşullarının değişkenleri, gerçek durumdan daha dar olabilir."
Örneğin, ışığı kontrol etmek için araştırmacı penceresiz bir odada fotoğraf çekmiştir. Ancak binalara biyometrik tarama da dahil olmak üzere birçok yüz tanıma yazılımı uygulamasının benzer sınırlayıcı değişkenlere sahip olduğuna işaret ettiler.
Elbette, diğer durumlarda bu tür bir kontrol mevcut değildir. Araştırmacı, "Saldırganın ışığı kontrol etmesi pek olası değil, sokaktaki güvenlik kamerası ile kendisi arasındaki mesafeyi kontrol etmesi mümkün değil" dedi.
Makalenin özeti:
Makine öğrenimi, kanser teşhisi ve sürücüsüz otomobiller için yeni algoritmalar da dahil olmak üzere bir dizi yeniliği güçlendirdi. Makine öğreniminin yaygın uygulamasıyla karşı karşıya kaldığınızda, makine öğrenimi algoritmasının hangi saldırılara karşı güvenlik açığı sergileyeceğini anlamak önemlidir.
Bu yazıda, güvenlik ve giriş kontrolünde yaygın olarak kullanılan yüz biyometrik sistemine odaklanıyoruz. Yeni bir tür saldırı tanımladık ve araştırdık: bu tür saldırı fiziksel olarak gerçekleştirilebilir ve göze çarpmaz, saldırganın tanınmamasına izin verir ve başka bir kişi olarak taklit edilebilir. Yüze bir çerçeve yazdırarak otomatik olarak böyle bir saldırı oluşturabilen sistematik bir yöntem geliştirdik. Böyle çerçeveli bir fotoğraf giyen bir saldırgan, en gelişmiş yüz tanıma sistemini onu tanıyamaz hale getirebilir veya başka biriyle karıştırabilir. Araştırmamız beyaz kutu yüz tanıma sistemlerine odaklanıyor, ancak benzer teknolojilerin kara kutu sahnelerinde yüz algılamayı da önleyebileceğini de gösteriyoruz.
Yüzdeki bazı basit ve modaya uygun çizgilerle akıllı kameraları kandırabilirsiniz.
Rusya Yandex'in teknik satış direktörü Grigory Bakunov yeni bir çalışma yürütüyor. Her gün iş dışında, yüz tanıma yazılımının bir kişiyi başarılı bir şekilde tanıyamayacağı bir algoritma geliştiriyor. Özel makyaj sayesinde insanların kimliklerini yapay zekadan gizlemelerine yardımcı olabilir.
Grigory Bakunov, "Hızlı bir şekilde basit ve etkili bir algoritma geliştiriyorum. Yüzdeki bazı basit ve modaya uygun çizgilerle akıllı kameraları kandırabilirim." Dedi.
Ancak bu proje kısa sürdü çünkü Bakunov bankaları ve polisi de aldatabileceğini fark etti.
Bakunov, "Bu yüzden onu pazara sunmamaya karar verdik. Kötü adamlar tarafından kullanılması çok muhtemeldir." Dedi.
Aslında Bakunov ve CMUnun araştırmasının, güvenlik karşıtı teknoloji araştırmaları ile modayı bir araya getirdiği ilk sefer değil. 2010 yılının başlarında, sanatçı ve teknisyen Adam Harvey, CV Dazzle projesini başlattı.
Bu proje, yüz tanıma teknolojisine karşı koymak için daha cesur makyaj ve saç stillerinin kullanılmasını teşvik ediyor.
Adam Harvey şunları söyledi: "CV Dazzle, yüzün sürekliliğini bölümlere ayırmak için avangart saç ve makyaj tasarımları kullanıyor. Yüz tanıma algoritması yüzün temel özelliklerine ve mekansal ilişkisine dayandığından, engellemek için bir" anti-yüz "oluşturabiliriz Test yapmak."
Referans
İş ayrıntılarını görüntülemek için orijinal metni okumak için tıklayın ve katılmanızı dört gözle bekleyin ~
