Bezos'un baş ağrısının vakti geldi: Yüz tanıma teknolojisini polise satmak mı istiyorsunuz?
Lei Feng.com, Google'ın Savunma Bakanlığı ile sözleşme yenilemesinden vazgeçmesiyle ilgili rapor verirken, yapay zeka teknolojisinin sürekli gelişiminin genel eğilimi karşısında neredeyse tüm teknoloji devlerinin giderek daha katı ahlaki yargılarla ve kamuoyu ortamlarıyla yüzleşmek zorunda kaldıklarını ifade etti. Bu, ABD Kongresi tarafından duyulan Facebook ve sözleşmesini yenilemek için Savunma Bakanlığı ile işbirliğinden vazgeçmek zorunda kalan Google için geçerli.
Şimdi sıra başka bir dev, bu sefer e-ticaret patronu Amazon.
Yüz tanıma polis tarafından kullanıldığında
Bir şeyler aniden olmadı, ancak uzun vadeli biracılıkta var oldu.
Amazon 2016 yılında bir yüz tanıma aracı olan Rekognition'ı piyasaya sürdü; görüntüleri ve videoları tanıyabilir ve bunların içindeki insan yüzleri, sahneler, metinler, nesneler gibi içerikleri belirleyebilir; elbette bunun arkasında Amazon'un güçlü Yapay zeka teknolojisi ve AWS. Bu teknolojinin kendisi sorunlu görünmüyor ve birçok fayda sağlayabilir, ancak sorun şu ki, gerçek uygulama senaryoları, örneğin polis departmanından farklı tepkilere neden olacak.
Nitekim, Amazon'un Rekognition'ı Amerika Birleşik Devletleri'ndeki ilgili devlet kurumlarına uygulanmıştır.Amazon'un resmi web sitesinin ilgili giriş sayfasında Rekognition, Oregon'daki Washington County Şerif Ofisine (Oregon'daki Washington County Şerif Ofisi) başvurmuştur. Olumlu bir durum: Bir hırsız bu aracı kullanarak başarılı bir şekilde yakalandı.
Haziran 2017'de Amazon, söz konusu Office'ten bir analist tarafından resmi blogunda, vakadaki şüpheliyi belirlemek için Amazon Rekognition'ın nasıl kullanılacağına ilişkin yazdığı bir makale yayınladı.
Leifeng.com, analistin yazıda iki vakadan bahsettiğini öğrendi; ilk durumda banka gözetleme kamerası, nakit çekmek için kullanılan çalınan kredi kartının lensini yakaladı ancak ışık ve açı sorunları nedeniyle müfettiş manuel işlem yapamadı. Tanıma ve Amazon Rekognition aracılığıyla% 95 personel eşleşmesi sağlandı. Başka bir durumda, vaka işleyicisi Amazon Rekognition'ı kullanarak Facebook'ta içerik yayınlamak için takma ad kullanan bir kişiyle başarılı bir şekilde iletişim kurdu.
Bu makalenin sonunda, analist yüz tanıma için AWS'yi kullanmanın rahatlığını vurguladı ve Amazon Rekognition'ın Office'in şüphelileri tespit etmesi için yararlı bir araç haline geldiğini ve bunun yüz tanıma için yasal bir vaka haline geleceğini umduğunu söyledi. Standart aletler.
Tabii ki, yukarıda belirtilen vakalara ek olarak, Amazon Rekognition, Orlando Polis Departmanı gibi polisle ilgili diğer kurumlara da başvurdu. Amazon'un açıklaması, birçok kuruluşun bu teknolojiyi insan ticareti mağduru kişileri ve kayıp çocukları bulmak için kullandığından da bahsetti. Buna ek olarak, Amazon Rekognition'ın Pinterest ve C-SPAN gibi kanun yaptırımı dışında pek çok ticari müşterisi vardır.
Amazon'un karşı karşıya olduğu kamuoyu dalgaları
Ancak yine de, Amazon Rekognition ile ABD kolluk kuvvetleri arasındaki işbirliğinin getirdiği olumsuz kamuoyu etkisi, özellikle insanların mahremiyetine gelince, fermantasyona devam ediyor.Birçok kuruluş ve kişi, Amazon'dan memnuniyetsizliklerini dile getirdi.
Mayıs 2018'in sonlarında, Amerikan Sivil Özgürlükler Birliği (ACLU) ve diğer bazı gizlilik koruma grupları, Amazon'dan Amazon Rekognition'ı polis teşkilatlarına satmayı bırakmasını istedi çünkü kolluk kuvvetleri bu teknolojiyi çok basit bir şekilde kullanabilir. Herhangi birinin nerede olduğunu gerçek zamanlı olarak belirleyebilen ve izleyebilen bir sistem kurmak.
ACLU şu anlama gelir:
İnsanlar hükümetin gözü önünde değil, sokakta özgürce yürümeli. Amerikan toplumlarında yüz tanıma, bu tür özgürlüğü tehdit ediyor ... Yüz tanıma, Amazon onu nasıl kullanırsa kullansın, tarafsız bir teknoloji değildir. Büyük ölçekli gözetimi otomatikleştirir, insanların hükümet gözetimi dışında özel hayat özgürlüğünü tehdit eder ve ceza adaleti sistemindeki önyargı ve eşitsizliği büyütmeye hazırdır.
ACLU tarafından alınan e-postalara göre, Washington County Şerif Bürosu 305.000 görüntüyü Amazon Rekognition teknolojisiyle tanıma sistemine yalnızca 400 ABD Doları karşılığında aktarabilir ve hizmeti kullanmaya devam etmek için ayda 6 ABD Doları ödeyebilir. Ancak söz konusu Şerif Bürosu, kendisini ACLU'nun bahsettiği özgürlüğe bir tehdit olarak görmüyor ve bunun bir sözcüsü şunları söyledi:
Aslında büyük ölçekte veri toplamadık ve sokak köşelerine kamera yerleştirmedik. Yerel topluluğun ne yaptığımızı ve onu suçlu sorunlarla başa çıkmak için nasıl kullanabileceğimizi, ne olduğunu ve ne olmadığını bilmesini istiyoruz.
Leifeng.comun görüşüne göre, kişisel mahremiyet konusunda endişe duyan ACLU dahil pek çok Amerikalının sözcünün sözlerine para ödemeyeceği açıktır - onlar yalnızca bu teknolojinin hangi alanlarda kullanıldığı konusunda endişelenmiyorlar, aynı zamanda Gizlilik ihlallerine uygulanma potansiyeli konusunda endişeli. Ancak Amazon'a gönderdikleri mektup çok net bir yanıt alamadı.
İşler geçen Cuma daha da mayalandı. Yaklaşık 20 Amazon hissedarı Amazon'un CEO'su Jeff Bezos'a mektuplar göndererek Amazon Rekognition'ın kanun uygulayıcı kurumlara uygulanmasının yarattığı sorunlar ve etkileri konusunda endişeli.
Bu hissedarlar mektupta şunları yazdı:
Amazon hissedarları, bu tür devlet gözetim tesisi teknolojisinin yalnızca müşteriler ve ülke çapındaki diğer paydaşlar için bir gizlilik tehdidi oluşturmayacağından, aynı zamanda şirketimizin karşı karşıya olduğu önemli riskleri artırabileceğinden, şirketimizin hisse senedi fiyatını olumsuz etkileyebileceğinden ve hissedarlar için mali kaynakları artırabileceğinden endişe duymaktadır. risk.
Tabii ki, bu hissedarlar, Rekognition'ın kadınların, beyaz olmayanların, göçmenlerin ve diğer marjinal grupların medeni haklarını ihlal edebileceğinden endişe ediyorlar.Bu insanlar özellikle polisin dikkatinin hedefi olacaklar.
Şimdiye kadar Amazon, hissedarlardan gelen mektuba kamuya açık bir şekilde yanıt vermedi.
