Amazon'un yüz tanıma teknolojisini polise satmasını protesto etmek için Bezos'a on bin kişi yazıyor
Xinzhiyuan önerilir
Bu makale ilk olarak WeChat genel hesabı "AI Frontline" (ID: ai-front) tarafından oluşturulmuştur.
Yazar: Debra editörü: Natalie
Xin Zhiyuan Rehberi Son zamanlarda 20'den fazla kuruluş, şirketin yüz tanıma teknolojisini polise satmasını protesto etmek için Amazon CEO'su Bezos'a ortak bir yazı yazdı. İnsanların bu kadar kızgın olmasının nedeni, kolluk kuvvetlerinde yüz tanıma teknolojisinin kullanımı ve amacına yönelik açık bir yasal gereklilik olmamasıdır.Kolluk kuvvetlerinin kendilerinin güvenilmez bir şey yaptığını söylemek ironi değildir. Büyük veri çağında, mahremiyetin korunması Pisagor'un teoremini çözmekten daha zor hale geldiğinde, çığlık atmak ve sinirlendirmekten başka ne yapabiliriz?
Ünlü Amazon, burada "her şeyi satın alabileceğini" iddia eden çevrimiçi alışveriş merkezidir, ancak son zamanlarda insanlar bu şirketin çok az kişinin tanıdığı başka ürünlere sahip olduğunu öğrendi - polis, Amazon'dan insanları satın almak için para harcıyor. Yüz tanıma teknolojisi Rekognition , Polisin aradığı kişiyi gerçek zamanlı olarak milyonlarca yüzden tespit edebilir.
2012'nin başlarında Rekognition, Çinli öğrenciler Wang Meng ve Liu Tianqiang tarafından kurulan bir şirket olan Orbeus tarafından geliştirildi ve piyasaya sürüldü ve daha sonra gelecekteki Amazon Rekognition ekibini oluşturmak için Amazon tarafından satın alındı. Belki de ABD gizlilik politikasının kısıtlamaları nedeniyle, bu teknoloji ABD polis departmanı tarafından büyük ölçekte kullanılmamıştır.
Aslında benzer "kamu hizmetleri" sunan tek şirket Amazon değil, Massachusetts'te bulunuyor. MorphoTrust FBI ve diğer kolluk kuvvetlerine yüz tanıma teknolojisi sağlamaya maruz kaldı. Detroit ayrıca Data Works Plus Benzin istasyonu görüntülerinde şiddet içeren suçluları belirlemek için benzer bir teknoloji satın alın. Peki neden Amazon kınama konusu oluyor? Çünkü Amazon Kolluk kuvvetlerine yüz tanıma teknolojisi sağlayan ilk büyük şirket .
ACLU'nun (500.000'den fazla mevcut üyesi olan Amerikan Sivil Özgürlükler Birliği, Amerikan Sivil Özgürlükler Birliği) satışı ifşa ettikten sonra, ACLU dahil 20'den fazla kar amacı gütmeyen kuruluş Amazon CEO'su Jeff Bezos'a bildirdi. Bir mektup ondan bu sistemi polise satmayı bırakmasını istedi.
Mektupta, teknolojinin yetkililer tarafından kaçınılmaz olarak istismar edileceği belirtildi ve Amazon'u "insan haklarını ihlal eden ve renkli insanlar ve göçmenler de dahil olmak üzere topluluklar için büyük bir tehdit oluşturan güçlü bir izleme sistemi sağlamakla suçladı. Polis bunu protestocuları izlemek için kullanabilir veya Polis tarafından şüpheli olarak listelenen diğer hedefler, sadece suçlular değil. "
Ortak mektubun orijinal bağlantısı:
https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf
Amazon yanıt veriyor: Polise özel hizmet sunulmuyor
"New York Times" haberine göre, bu teknoloji yayına girdikten bir hafta sonra etkili oldu, bir mağazadan 5.000 dolar çalan bir hırsız yakalandı ve sistem maliyeti çok düşüktü. 400 ABD Doları Kurulumdan sonra, bakım için ayda yalnızca birkaç dolara mal olur.
Tehditkar kınama için Amazon biraz tatsız bir yanıt verdi:
Tüm Amazon müşterilerinin yasalara uyması ve sorumlu olması gerekir. Amazon, kolluk kuvvetlerine diğer müşterilerden farklı hizmetler sunmaz.
Bir Amazon sözcüsü yaptığı açıklamada, şirketin halka sunduğu "evrensel" görüntü tanıma teknolojisinin insanları, nesneleri ve etkinlikleri otomatik olarak tanımlayabildiğini vurguladı.Kuruluş, kayıp çocukları bulmak ve düğün davetlilerini tespit etmek için bu teknolojiyi kullanıyor.
Amazon yetkilileri ayrıca, daha önce YouTube'a yüklenen bir videonun yorum alanında, Amazon Rekognition genel müdürünün hizmeti açıkladığı, GM'nin açıklamasının yanlış olduğunu ve Orlando polisinin sadece hizmeti yürüttüğünü söyleyen bir açıklama yaptı. Dahili Test , Tüm şehirde kamera kurmadı veya ürünü kullanmadı, yanlış anlaşılmadan dolayı halktan özür diledi.
Düzenlenmemiş yasal olmayan arazi
Kolluk kuvvetleri ile yüz tanıma arasındaki "kombinasyon": Kolluk kuvvetlerinin sizi potansiyel bir suçlu olarak gördüğünü ve her sabah işe gidip her hareketinizi izlediğinizde yüzünüzün nişan çerçevesi tarafından kilitlendiğini hayal edebiliyor musunuz?
Bu tartışma bir soruyu gündeme getirdi: Yüz tanıma teknolojisinin polis tarafından kullanılmasını düzenleyen ve kısıtlayan herhangi bir yasal düzenleme var mı? Aldığımız cevap: neredeyse hiç .
Amerika Birleşik Devletleri'nde, federal ve eyalet hükümetlerine genellikle kamusal kameralı telefonlarda yüz bilgilerinden video ve resim arama hakkı verilir. Şehirler ve yerel departmanlar yerel politikaları ve yönergeleri formüle edebilir, ancak yüz tanıma teknolojisini ilk benimseyenlerin sistematik kuralları yoktu.
ACLU tarafından yayınlanan belgelere göre, Amazon ve Orlando ve Florida, polisi yakalamak için sekiz kamusal kamera kullanan bir sistem kurmak için işbirliği yaptı. İlgilenen hedef "Sistem. Sistemin yasalara uygun çalışıp çalışmadığı sorulduğunda, bir sözcü," Bu bir pilot proje olduğu için henüz ilgili politikalar formüle edilmedi "dedi.
Halka açık belgelere göre, Orlando polis şefi, sistemin kullanılmadan önce test edildiğini ve sistemin kamu güvenliğini artırabileceğini ve kanun uygulama verimliliğini artırabileceğini kanıtladığını söyledi. Ancak Orlando sözcüsü, bunun yalnızca erken bir test olduğunu ve sistemin gerçekten etkili olduğunu kanıtlayacak hiçbir veriye sahip olmadıklarını söyledi ve kamuya açık yerlerden soruşturma ve görüntü almak için kullanılmadığını söyledi.
Belge ayrıca, bazı polis memurlarının, vatandaşların yüz görüntülerini Amazon bulutunda saklama uygulaması hakkında gerçekten şüpheleri olduğunu da gösteriyor. Bu davranış " Hükümet ve büyük veri ".
Arizona Üniversitesi'nde hukuk profesörü olan Jane Bambauer, "ABD Anayasasında büyük verilerden bahsedilmiyor, ancak yüz tanıma için koruma sağlamıyor" dedi. "Eyalet yasası polis tarafından yüz tanımanın kullanılmasını da sağlamaz."
Bu bağlamda, ACLUnun teknoloji ve sivil özgürlükler direktörü Nicole Özer, şu anda yalnızca Amazon'a, kanun uygulayıcı kurumlara ve yerel topluluklara kendi kurallarını geliştirmeleri için baskı yapmayı umabileceğini söyledi. "Yasaların çıkarılma hızı, durumun taleplerine yetişemeyecek kadar yavaş."
Electronic Frontier Foundation'da kıdemli bir avukat olan Jennifer Lynch, "Bu, teknolojinin kanunun dışına çıkmasının tipik bir örneğidir ve hiçbir denetim yoktur" dedi.
Tanıma doğruluğu yeterli değil ve renkli insanların tanınması daha kötü
Belki bir gün siyah bir arkadaş sokakta dondurma hakkında rastgele sohbet ediyordu ve bir grup polis tarafından götürüldü ve sonra bir hata yaptıklarını öğrendiler ...
Polisin yüz tanıma teknolojisini kullanmasının bir diğer endişe verici nedeni, tanıma doğruluğunun beklendiği kadar yüksek olmaması ve tüm kanun yaptırım durumlarında kullanımının kolay olmamasıdır. FBI tarafından 2017 yılında yayınlanan bilgilere göre, ajans, büyük veriden en yakın 50'den fazla "şüpheli hedefi" seçmek için% 85 tanınma oranıyla algoritmalar kullandı. Geçen yıl Birleşik Krallık'taki Güney Galler polisi bir futbol maçında daha da iyi bir tanınma oranına sahipti. Ne yazık ki sadece% 8.
Cinsiyet ve ırk tanımlama açısından bu teknoloji de mükemmel değil. MIT tarafından yapılan bir ankete göre, Koyu tenli kadınlar Yüz tanıma yazılımı tarafından hatalı bir şekilde tanınma olasılığı% 35'e kadar çıkmaktadır.
Bazı insanlar, polisin, farklı ırklardan insanlar üzerindeki tanıma performansı da dahil olmak üzere, yüz tanıma sisteminin belirli verilerini yayınlaması gerektiğine ve polis tarafından yüz tanımanın mevcut temelsiz kullanımının uzun sürmeyeceğine inanıyor.
Her yerde gözetim, gerçek "Trumen'in Dünyası"
Meşhur "Şeytan Balığı" olayını düşünün. Amerika Birleşik Devletleri'nde, federal ve eyalet kolluk kuvvetleri, büyük miktarda kullanıcı bilgisi elde etmek için genellikle "şeytan balığı" olarak bilinen bir cihazı kullanır. Bu güçlü izleme aracı, bu cep telefonlarının coğrafi konumunu izlemek ve hatta cep telefonu kullanıcılarının iletişimlerinin içeriğini engellemek için cep telefonu sinyallerini simüle ederek, şüphelenmeyen vatandaşların cep telefonlarını işgal ediyor.
Kullanıcı bilgilerinin böylesine görkemli bir şekilde çalınmasıyla, geçmişten gelen bu ders, yüz tanıma teknolojisinin kaçınılmaz olarak suistimal edileceğinden endişelenmesine neden oluyor. Ekranda, "Trumen's World" ün gerçek versiyonu sahnelenecekmiş gibi saklanacak hiçbir yer yok.
Yüz tanıma teknolojisinin sadık hayranları, onu suçluları yakalamak için güçlü bir silah olarak görüyor, ancak bu konuda iyimser olmayanlar, büyük ölçekli gözetlemenin getirdiği gizli endişelerin kokusunu alıyor. Amerika Birleşik Devletleri'nde Georgetown Üniversitesi Hukuk Fakültesi Gizlilik ve Teknoloji Merkezi'nden alınan verilere göre, yüz tanıma teknolojisi suçluları yalnızca tanımlama hedefleri olarak listelemiyor, 130 milyondan fazla Amerikalı yetişkinler suç arama veritabanında.
Yüz tanıma ve hükümet "işbirliği" yaptığında, kimse kaçamaz.
Amerika Birleşik Devletleri'nde, yarışmada sorun yaşayan kişileri tespit etmek için yarışma alanında yüz tanıma kullanılacak ve Ulusal Güvenlik Bürosu bunu havaalanında çok uzun süre kalan yabancı turistleri tespit etmek için kullanacak.
Mağaza, müşterileri tanımlayan akıllı kameralarla donatılmıştır.
Amerika Birleşik Devletleri ülke insanlarından biraz uzakta olabilir Ülkeye daha yakından bakın.Aslında yüz tanımanın popülaritesi hayal gücümüzün çok ötesinde.
Yüz tanıma Çin stilinin yolun karşısına geçmesinin tüm dünyada ünlü olduğu söylenebilir.
Lingyin Tapınağı ve Cennet Tapınağı pilotları yüzlerini fırçaladı ve tuvalet kağıdı aldı.
Devlet kurumları caddelere, metro istasyonlarına, havalimanlarına ve gümrüklere akıllı yüz tanıma kameraları kurar.
Tuvalet kağıdını almak için makinenin önünde yüzünü fırçaladığında yukarıdaki kızın ruh hali nasıldı bilmiyorum. Bu konuda oldukça yeni görünüyordu. Belki de tuvalet önemli olduğu ve başka seçeneği olmadığı içindir ...
Ancak yenilik geçtikten sonra bu olay insanları Soğuk ter içinde irkildim : Baştan yukarı görülebilen gözetim Skynet gibi başka şeyler yaptığımızda kişisel bilgilerimizi vermek zorunda kaldığımızda sessiz kalmayı seçecek misiniz? Yoksa kendi çıkarlarınız için savaşmaya mı çalışacaksınız (zor olsa da)? Bu temelsiz bir endişe değil, büyük veri çağında giderek daha ciddi bir gizlilik koruma sorunu.
Yukarıda bahsedilen korkunç şeyler sadece "Trumen'in Dünyasında" değil, gerçek hayatta da sahneleniyor ... Belki yakın gelecekte, belki şimdi, hükümetten sayısız çift "göz" tarafından bakılıyorsunuz. Kulağa ürkütücü geliyor mu? Ama bu bir abartı değil.
Çin halkının mahremiyet kavramı ve mevcut durum
Bu en boğucu değil, çünkü özel ulusal koşullara sahip büyük bir ülke olarak, halkımız her zaman devlet dairelerinin "özel ilgisinden" yararlandı ve bu mahremiyet meselesi de bir istisna değil ve çaresizce "önemsiz" olarak görülüyor. .
Örneğin, Amazonun bu kez kolluk kuvvetleriyle yaptığı işbirliği mantıksızdı ve bazı insanlar protesto etti. Amazon'un hangi özel önlemleri alacağını ve işbirliğini sonlandırma konusunda baskı görüp görmeyeceklerini bilmemelerine rağmen, en azından dev hızla yanıt verdi. Ve halktan özür diledi. Ülkede belki Küçük bir spreyi kaldıramıyorum bile .
Çin halkının mahremiyet konusundaki görüşlerine gelince, çoğu insanın görüşlerinin aynı olduğuna inanıyorum: mahremiyet ihlal edildi ve sen kızgınsın, ama kızgın olmaktan başka ne yapabilirsin?
Yukarıdakiler, netizenlerin Amazon ve polis arasındaki iş birliği hakkındaki görüşleridir ve kabaca iki kategoriye ayrılabilir:
- Yerli ve yabancı mahremiyet koruması arasındaki uçurumdan ağlamak
- Büyük veri çağında mahremiyet yoktur ve özgürlük ve güvenlik ikisine birden sahip olamaz
Bu yorumlar, yurtdışındaki insanların mahremiyete ne kadar önem verdiğini özetleyemese de, aşağı yukarı insanların hakim psikolojisini yansıtabilir.
Sonuç olarak, Çin şu anda yüz tanıma teknolojisinin devlet daireleri tarafından en yaygın şekilde benimsendiği ülkelerden biri.Gelecekte daha fazla gizlilik sorunu ve tartışması olacak. Öfke işe yaramaz. Yapmamız gereken, zaten oluşmuş bu büyüklüğün üstesinden nasıl gelineceğidir. Mümkün olduğunca çevrenin altında tutun Son haysiyet .
(Bu makale, AI Frontline'dan yeniden basma yetkisine sahiptir)
