Wanzi Long Makalesi: Amazon sizi her zaman ve her yerde "izliyor"
Amazon hala teknolojinin sadece bir araç olduğu konusunda ısrar ediyor.
Facebook ve Google, Amerika Birleşik Devletleri'nde son yıllarda çevrimiçi gizliliği ihlal ettiği için eleştirildi, ancak aslında herkes, eşit büyüklükte ve potansiyel olarak daha fazla soruna neden olabilecek başka bir şirketi gözden kaçırdı - Amazon. Herkesin bu şirket hakkındaki izlenimi hala e-ticaret devi üzerinde kalabilir, ancak akıllı evlere ve yapay zekaya sürekli olarak nüfuz etmesi ile Amazon, sessizce etrafımıza göz kulak oldu ve hatta herkesin çevrimdışı gizliliği etkilenebilir. Tehdit etti. Medium'daki OneZero sütunu bu konuya odaklanmaktadır. Orijinal yazar Will Oremus ve başlık: Amazon İzliyor
Amazon'u düşündüğünüzde, kanepede oturup alışveriş yapmayı, sadece satın almak istediğiniz şeyi satın almayı düşünebilirsiniz ve mağazada ödediğinizden daha ucuza mal olur. Kuryenin paketi kapınıza zamanında bıraktığını düşünebilirsiniz ve eğer ürünle ilgili bir sorun varsa geri gönderip paranızın tamamını geri alabilirsiniz. Alexa'dan bir şarkıyı veya belirli bir TV şovunu çalmasını veya ışıkları açmasını istemeyi düşünebilir ve (genellikle) yapabildiğine şaşırabilirsiniz. Prime üyelerinin Whole Foods'tan (2017'de Amazon tarafından satın alındı) avokado satın alırken indirim alabileceğini düşünebilirsiniz.
Amazon, müşterilerine düşük fiyatlar ve amansız verimlilikle hizmet vermesiyle tanınır, bu da neden birbiri ardına yapılan anketlerde bu şirketin Amerika Birleşik Devletleri'ndeki en değerli veya en popüler markaların listesinin başında olduğunu açıklamaya yardımcı olabilir. Son zamanlarda yapılan bir araştırma, Amazon'un Amerika Birleşik Devletleri'ndeki en güvenilir kurumlar arasında, Google'ın, polisin ve yüksek öğrenim sisteminin önünde ve yalnızca ABD ordusunun arkasında ikinci sırada olduğunu buldu. Sonsuz bir dizi gizlilik ve seçim skandalının Facebook'un itibarını zedelediği ve Google'ın YouTube'un radikalleşmesinden ve içerik incelemesinden etkilendiği bir zamanda, Amazon her zamankinden daha güçlü hale geliyor.
Ancak Amazon'un güvenilir bir "her şeyin deposu" olarak kamuya açık imajı, dönüştüğü gizemli devin imajını gizler ve aynı zamanda bugün ürettiği ürünlerin (çevrimiçi ve hatta çevrimdışı) gizliliğimizi aşındırdığını da gizler. davranışı. Rakipler kendi veri uygulamalarını yeniden değerlendirdiğinde, sorumluluklarını düşündüğünde ve yeni düzenlemeler talep ettiğinde bile Amazon, izleme ekipmanını ikiye katlıyor, diğerlerinin teknolojiyi kullanma biçiminin sorumluluğunu üstlenmeyi reddediyor ve akademisyenleri görmezden geliyor, Medyanın, politikacıların ve kendi çalışanlarının endişeleri.
Georgetown Hukuku Kamu Temsilleri Enstitüsü'nde (IPR) tam zamanlı bir avukat olan Lindsey Barrett şunları söyledi: "Hepimiz döngüsel hapishaneler inşa etmemelerini umuyoruz." Hukuk firması 19 denetim kurumundan oluşan bir gruptur. danışman. IPR geçen ay, Amazon'un çocukların çevrimiçi gizliliğini koruyan federal yasaları ihlal ettiğinden şüphelenilip şüphelenilmediğini araştırmak için FTC'ye (Federal Ticaret Komisyonu) bir itirazda bulundu. Diğer endişelerin yanı sıra, ebeveynler verileri silmeye çalışsalar bile Amazon'un Echo Dot çocuk akıllı konuşmacısının çocukların kayıtlarını ve kişisel verilerini hala sakladığını buldular. Amazon, sorunun en azından bir kısmını bir yazılım hatasından sorumlu tuttu ve düzeltildiğini söyledi.
Bu davanın sonucu görülecek olsa da, bu dava buzdağının sadece görünen kısmı. Günümüzün Amazon'u halka açık İnternet üzerinde geniş bir etkiye sahiptir; dünyadaki birçok büyük şirket ve kurumdan (Merkezi İstihbarat Ajansı dahil) gelen verileri işlemek için yapay zeka kullanır; ayrıca kullanıcı alışveriş alışkanlıklarını izler ve hedefli reklamlar için ayrıntılı kullanıcılar oluşturur. Portre; ve buluta bağlı ve evde yapay zeka tarafından desteklenen hoparlörler ve ekranlar satın alın. Satın aldığı bir şirket tarafından üretilen Wi-Fi yönlendirici, özel İnternet trafiğimize erişmek için bir örgü ağ oluşturabilir. Amazon, yan kuruluşu Ring aracılığıyla milyonlarca hanenin kapı zillerine gözetleme kameraları yerleştirdi ve onları bir suç önleme sosyal ağında komşuları ve polisle görüntüleri paylaşmaya davet etti. Yüz tanıma sistemlerini de polise ve özel şirketlere satıyor.
Amazon temelde korku satıyorPatentlerde, sözleşme tekliflerinde ve pazarlama materyallerinde belirtildiği gibi, yarının Amazon'u daha yaygın olabilir. Her yerde halka şeklindeki kapı zili kameralarını hayal edin. Komşulara ve polise yardım edemeyeceğiniz kadar çok varken dışarı çıktığınızı hayal edin. Bu kameraların, şüpheli olarak değerlendirilen kişileri tespit etmek için bir ağ olarak birlikte çalışabilen yerleşik bir yüz tanıma sistemine sahip olduğunu düşünün. Ardından, arabalarda ve drone'larda Ring güvenlik kameraları, kreşlerde Ring bebek monitörleri ve okullardan otellere ve hastanelere kadar çeşitli Amazon Echo cihazlarını hayal edin. Şimdi Alexa destekli tüm bu akıllı hoparlörlerin ve ekranların sesinizi tanıyabildiğini ve ne zaman kızdığınızı, hastalandığınızı veya bir şey satın almak istediğinizi bilmek için konuşma kalıplarınızı analiz ettiğini hayal edin. Telegraph geçtiğimiz hafta Amazon'un 2015 yılında "hizmet olarak gözetim" adı verilen bir patent başvurusunda bulunduğunu bildirdi. Bunu, halihazırda sattığı birçok ürünü özetlemek için kullanmak uygun görünüyor.
Bunun arkasında aynı şirket var. Bu şirketin liderleri genellikle gizlilik sorunlarını abartı, dahili itirazları önemsiz ve Amazon teknolojisinin olası suistimalini başka birinin sorunu olarak görüyorlardı.
Amazon'un bulut sektörü başkanı Andy Jassy, bu ayın başlarında Kod Konferansı'nda şunları söyledi: "Teknolojinin suistimal edilme potansiyeline sahip olması, onu yasaklamamız ve kınamamız gerektiği anlamına gelmez." Yüz tanıma sistemlerinin yasaklanmasının (etkili gözetim araçları olabilir, ancak genellikle beyaz olmayan insanlara karşı ayrımcılık yapar) e-posta veya bıçak kullanımını yasaklamaya benzediğine inanıyor - bu iki teknolojiden biri yeni, diğeri çok eski. İyilik veya kötülük yapmak için kullanılabilir. "Bıçak sokabilirsin" dedi.
Amazon'un yaptığı her şeyin iyilik yapmak için kullanılabileceği söylenmelidir. Kapı zili kamerası, yürüyen insanları yakalayabilir; yüz tanıma yazılımı, yetkililerin şüphelileri izlemesine yardımcı olabilir; Alexa, evde sayısız şekilde kullanılabilir. Ancak bunları bir araya getirdiğinizde, şirketin buluta bağlı gözleri ve kulakları Orwell etkisi yaratabilir. Buna karşılık, tüketicilerin gizlilik konusunda en çok endişelenme eğiliminde olduğu teknoloji şirketleri - Facebook ve Google aşağı görünüyor.
Oturma odasında kulaklar var
Akıllı evlerin ana ürünleri haline gelen Amazon Echo, Echo Dot ve Echo Show gibi şirketin Alexa motorlu cihazlarından başlayalım. Mutfağınıza, oturma odanıza veya yatak odanıza İnternet'e bağlı her zaman açık bir mikrofon (bazen bir kamera dahil) koyarlar. Paranoyak olanlar için tek başına bu haklı olabilir: Neden İnternet ile ailenin en özel alanı arasında kalıcı bir portal açma riskini alalım? Ancak 100 milyondan fazla alıcı onları kabul etti ve Amazon'un bu süreçte kayıtlarını koruyacağına inanıyorum.
Amazon, Echo cihazlarının yalnızca "Alexa" gibi önceden ayarlanmış bir uyandırma kelimesi duyduklarında kayda başlayacağını söylüyor. Ne yazık ki, sistemleri kusursuz olmaktan çok uzaktır - hemen hemen her Alexa kullanıcısı bunun gibi şoklar yaşamıştır - uyandırma kelimesi olarak yanlış anlaşılan cihaz aniden etkinleştirildi. Sonuç olarak, Alexa sıklıkla yanlışlıkla konuşma parçalarını topladı ve kurtardı ve en az bir kez Amazon bu kayıtları yanlışlıkla bir yabancıya gönderdi. Amazon, rakip akıllı hoparlörlerin içerdiği veri gizliliği özelliklerini görmezden geliyor ve bu da faydasız. Echo'dan kayıtları silmek, Google Home veya Apple HomePod'dan daha zordur.Amazon, yanlışlıkla kaydı önlemek için Echo Show gibi cihazların kameralarında fiziksel panjurları yapılandırmayı erteliyor. (Facebook'ta bile bir tane var.)
İnsan-bilgisayar ilişkilerinde devrime öncülük eden bir şirket olarak Amazon bazen gizlilik endişelerini önemsemiyor gibi görünüyor. Geçen yıl Slate'in "If Then" adlı podcast'indeki bir röportajda, Alexa Engine Software'in başkan yardımcısı Al Lindsay'den Amazon ile ilgili etkili olduğuna inandığı bir veri gizliliği sorununa dikkat çekmesini veya bir soruyu adlandırmasını istedim. Ekibinin gizlilikle ilgili devam eden zorluklarını Xiang. Tek bir tane düşünemediğini söyledi.
Ancak Amazon dışındaki denetçiler bazılarını buldu. Bu yılın Nisan ayında Bloomberg, Amazon'un şüphesiz Alexa kullanıcılarının kayıtlarını dinlemek için dünyanın dört bir yanındaki ofislerde binlerce müteahhit tuttuğunu bildirdi. Amaç, ekipman yazılımını izlemek değil, iyileştirmektir. Bu, AI eğitimi için yaygın bir uygulamadır - birey bunu bilse de bilmese de, Alexa ve Siri gibi akıllı dijital asistanların insan kullanıcıları eğitim sürecinin bir parçasıdır - ancak Amazon, sisteminin mekanizmasını kullanıcılara açıkça açıklamaz. Apple'ın Siri ve Google'ın asistanı da insan denetçileri kullanıyor, ancak Alexa'nın kayıtları her kullanıcının hesabı, cihaz seri numarası ve adıyla ilişkilendirilirken, kullanıcıların kayıtlarını anonim hale getirmek için önlemler aldılar.
Daha sonra Amazon'un Echo Dot Çocuk Sürümünün Federal Çocukların Çevrimiçi Gizliliğini Koruma Yasasını (COPPA) ihlal ettiğine dair suçlamalar vardı. Ebeveynler çocuğun kişisel bilgilerini silmeyi denedikten sonra, cihaz yine de saklamayı başardı.Ayrıca, cihaz bu bilgileri süresiz olarak sakladı ve ebeveyn onayını imzalamak için kusurlu bir yöntem kullandı. IPRden Barrett, bu büyüklükteki bir şirketin, çocuklara yönelik olduğu açıkça belli olan cihazlarda gizliliği bu kadar doğrudan ihlal etmeye cesaret edebilmesinin inanılmaz olduğunu söyledi.
Amazon, bu makaleye cevaben, müşteri gizliliğini ve güvenliğini korumak için katı sözleşmeleri olduğunu belirten bir açıklama göndermiş ve müşterilerin kayıtlarını Alexa uygulamasında veya çevrimiçi Alexa Privacy Hub'da istedikleri zaman görüntüleyebileceklerini ve silebileceklerini belirtmiştir.
Amazon'un Alexa cihazlarını arabalara, otel odalarına, sınıflara ve hatta çocuk hastanelerine dağıttığını düşünürsek, şirket gizlilik ve güvenlik açısından pek halkla ilişkiler yapmadı ki bu biraz garip. Bu nihayet değişmeye başladı. Geçen ay Amazon, aralarında "Alexa, bugün söylediğim her şeyi sil" diyebilen kullanıcılar da dahil olmak üzere bir dizi yeni Alexa gizlilik özelliği tanıttığını iddia etti. Ancak bu özelliğin güçlü bir Bizans tonuna sahip olduğu ortaya çıktı. Stil: Kaydı ilk sorduğunuzda silmek yerine Alexa, akıllı telefonunuzdaki Alexa uygulamasını açmanız ve uzun bir menü seçenekleri listesinde gezinmeniz için size rehberlik eder. Bundan sonra, kayıtları uzun bir süre değil, yalnızca bir gün silebilirsiniz. Her şeyi silmek için 8 adımdan geçmeniz ve ayrıca Alexa uygulamasına ihtiyacınız var. Amazon, yine de Google gibi kayıtları otomatik olarak silme seçeneği sunmuyor.
Amazon şu ana kadar Alexa'da sesli reklamları kullanıma sunmadı. Bu, sizi bir ürün yapmaktan ziyade şirketin bir şeyler satma imajını güçlendirmeye yardımcı olabilir. Ancak bu, Echo'nuzun veri toplamayacağı ve bundan kâr etmeyeceği anlamına gelmez. Artık ürün önerileri için satın aldıklarınızı ve müzik seçimlerinizi takip etti. Google veya Facebook ile aynı sansürü almamış olmasına rağmen, Amazon'un dijital reklamcılık işi sessizce patlama yaşıyor: şu anda ikilinin arkasındaki en büyük üçüncü. Son tahminlere göre Amazon'un 2019'da 130 milyar dolarlık pazarın yaklaşık% 10'unu ele geçirmesi bekleniyor.
Sokaktaki göz
Bir de Amazon'un 2018'in başlarında 1 milyar dolara satın aldığı bir "akıllı kapı zili" girişimi olan Ring var. Diğer İnternet devlerinin çoğu, gözetleme davranışlarını kullanıcıların çevrimiçi davranışlarıyla sınırlar ve Ring, Amazon'a ve sizin gerçek dünyadaki diğer insanların davranışlarını izlemenize izin verir. Evlerin ve iş yerlerinin kapılarının dışına kurulan Wi-Fi bağlantılı cihazları, 30 fitlik bir yarıçap içindeki koşulları sürekli olarak izleyebilir ve hareket algılandığında video yakalayabilir. Kullanıcılar kamera içeriğini gerçek zamanlı olarak görüntüleyebilir ve ödeme yapıldıktan sonra kaydedilen içeriği saklayabilir ve izleyebilir.
Bu gözetleme yetenekleri yeni değil: şirketler ve binalar her zaman pahalı güvenlik kamera sistemleri kullanmışlardır. Ancak Amazon'un önceki e-ticaretinin onu halka sunması gibi, Ring de kapı zili kamerasını basit bir 200 dolarlık pakete yerleştirerek hizmeti ana akım haline getirdi ve aynı zamanda onu sıradan evlere ve polis departmanlarına aktif olarak tanıtıyordu. . Amazon şu anda kapı zili kamera pazarında önemli bir oyuncu. Bir analist, bu ev güvenlik kamerası alt pazarının 2023 yılına kadar 10 milyar ABD dolarına ulaşacağını tahmin ediyor.
Ring, kullanıcıların kendi ön bahçelerini izlemelerine izin vermekle yetinmiyor ve kamerasını Komşular adlı bir uygulama aracılığıyla yarı halka açık bir arama ağına dönüştürdü. Komşular, Ring sahiplerinin gözetim videolarını yüklemelerine, paylaşmalarına ve birbirleri hakkında yorum yapmalarına izin verir ve kullanıcılar da bunları polise sunmayı seçebilirler. Amazon yaptığı açıklamada, "Ring's Community Alerts, topluluğun güvende kalmasına yardımcı olmak için toplumu etkinlik vakalarında yerel polisle işbirliği yapmaya teşvik ediyor." Dedi.
Bu özellik, bazı kolluk kuvvetlerini mutlu edebilir. Bir CNET raporu, Houston'dan Hammond, Indiana'ya kadar polis departmanlarının vatandaşlara indirimli Yüzükler sağlamak ve onları Komşularda gözetim videosunu paylaşmaya teşvik etmek için Amazon ile işbirliği yaptığını ortaya çıkardı. New Jersey, Bloomfield'daki polis memuru CNET'e Ring sayesinde "tüm kasaba artık kameralarla kaplı" dedi. Alabama'daki Mountain Brook Polis Şefi, web sitesine, Komşular aracılığıyla sakinlerin Ring videolarına erişmenin, departmanının şehrin güvenlik kameralarını neredeyse ücretsiz olarak tam olarak kapsamasını sağladığını söyledi. Amazon, kullanıcıların gözetim videolarını polisle paylaşmalarını istemez, ancak kanun yaptırımı için web sitesi, yetkililerin herhangi bir belirli kullanıcıdan talepte bulunmasını kolaylaştırır ve birçok kişi bu tür talepleri reddetmeyi zor bulabilir. Teknik olarak kullanıcılar uygulamada anonim kalır, ancak yaklaşık konumları zaten bellidir. Ring, OneZero'ya kullanıcı gizliliğini korumayı taahhüt ettiğini söyledi ve müşterilerin cihaz indirimleri karşılığında polisle video paylaşmasını gerektiren planları desteklemediğini belirtti.
Herkesin çevrimiçi gizliliğe olan ilgisi arttığında, teknoloji devlerinin çevrimdışı gözetlemeye dahil olma konusunda daha dikkatli olmaları gerektiğini düşünebilirsiniz. Ama burada Amazon'da yanılıyorsun. Ring'in kurucusu Jamie Siminoff'un liderliğinde şirket tutkulu görünüyor. Siminoff, 2016 yılında çalışanlarına kamuflaj tişörtleri çıkardı ve pislik suçlularına savaş ilan etti.
Ancak şirketin kendi güvenliği, en azından Amazon tarafından satın alınmadan önce, bazen biraz gevşek görünüyordu: Ring'in, müşterilerin ev WiFi şifrelerini düz metin olarak sakladığı ve 20 ms'lik kısa ses paketlerini dış sunuculara gönderdiği defalarca keşfedildi. Ring, bu iki sorunu çözmek için hızla adımlar attı ve herhangi bir zarara neden olduğuna dair hiçbir kanıt yok. The Information'ın 2018 raporuna göre, 2016'dan itibaren Ring, Ukraynalı Ar-Ge personelinin analiz için kullanıcıların kişisel video kayıtlarına erişmesine de izin verdi. Amazon daha sonra, müdahalenin Komşular uygulamasında herkese açık olarak paylaşılan videolarla sınırlı olduğunu, ancak politikanın ne zaman yürürlüğe girdiğini söylemeyi reddetti. Ring yaptığı açıklamada, "Topluluktaki suçları azaltmaya kararlı bir güvenlik şirketi olarak güvenlik Ring'in merkezinde yer alır. Yaptığımız her şeyi yönlendirir. Kullanıcı izin vermedikçe veya paylaşmadıkça hiç kimse kullanıcının videosunu görüntüleyemez. Video."
Amazon, Ring'in suçla mücadele fikrini kabul etti. Amazonun ekipman başkan yardımcısı Dave Limp, Eylül 2018deki bir etkinlikte Bundan daha asil bir görev düşünemiyorum dedi. Bu yılın başlarında Ring, Facebook'ta hedefli reklamları da başlattı. Jingcheng sakinleri, bir kadının arabaya zorla girmeye çalıştığı gerçek gözetim videosunu gösterdi.
Macomb Community College'da İngilizce profesörü olan Chris Gilliard, "Amazon temelde korku satıyor. Daha odaklı bir toplumun daha güvenli bir toplum olduğu fikrini satıyorlar." Ancak bu sizin izlenip izlenmediğinize bağlı. insanlar. Gilliard, Ring ve Komşular'ın aslında toplumu beyaz olmayan insanlara karşı daha güvensiz hale getireceğine ve mahalle izleme unsurlarına sahip sosyal ağların orantısız bir oranında "şüpheli" olarak değerlendirildiğine inanıyor. Geçmişte mahalle sakinleri, şüpheli gördükleri birini gördüklerinde komşularına söyleyebilir veya polisi arayabilir, "ama bunu tüm mahalleye ilan etmeyebilirler. Ama şimdi öyle."
Buluttaki beyin
Çoğu insanın Amazon hakkındaki izlenimleri çoğunlukla çevrimiçi perakendeciler olsa da, kârının çoğu AWS'den geliyor. Tahminlere göre bulut sunucuları İnternet'in neredeyse yarısını destekliyor. Daha küçük web siteleri için AWS esas olarak bir altyapı sağlayıcısı olarak hareket eder. Ancak dünyanın en büyük kuruluşlarından ve şirketlerinden bazıları için AWS ayrıca verileri madencilik yapar ve analiz eder, metin ve görüntülerin kodunu çözer, tahminler ve önerilerde bulunur.
Müşterileri arasında ABD İç Güvenlik Bakanlığı, Savunma Bakanlığı ve Merkezi İstihbarat Teşkilatı gibi büyük kolluk kuvvetleri ve istihbarat kurumları bulunmaktadır. Amazon, 2017 yılında gizli devlet istihbaratını yönetmek için AWS'de özel bir departman kurdu. AWS müşterileri arasında, ABD göçmenlik ve gümrük yaptırımı (ICE) için yazılım sağlayan ve Peter Thiel'in ortak kurduğu bir Silikon Vadisi büyük veri şirketi olan Palantir de bulunmaktadır. Şu anda AWS, Pentagon'u buluta koymak için 10 milyar dolarlık devasa bir sözleşme için Microsoft Azure ile rekabet ediyor. Google zaten kendi çalışanlarının baskısı altında çekildi.
AWS'nin en tartışmalı hizmeti, görüntüleri ve video klipleri analiz etmek için makine öğrenimini kullanan bir platform olan Rekognition'dır. Rekognition, video kaydındaki yüzleri veritabanındaki yüzlerle ve yüz özelliklerini ve ifadelerini seçen yüz analizi teknolojisiyle de karşılaştırabilir. ACLU'nun 2018 raporu, Amazon'un yüz tanıma yeteneklerini kolluk kuvvetlerine nasıl tanıttığına odaklandı.Ayrıca şirketin Orlando, Florida ve Washington County, Oregon'da polisle ortaklıklar kurduğuna da işaret etti.
NPR'ye göre, Güney Kore'nin Seul kentinde düzenlenen bir geliştirici konferansında Amazon'dan Ranju Das, Orlando polisinin Amazon'a gerçek zamanlı analiz için görüntü sağlayabilecek "şehrin her yerinde kameraları" olduğunu açıkladı. Daha sonra, "şüphelinin" nerede olduğunu yeniden belirlemek için gözetim videosundaki yüzü veri tabanındaki bir dizi fotoğrafla karşılaştırabilir. Mart ayındaki bir CNET raporu, Washington County Şerif Bürosunun hırsızlık şüphelilerini tespit etmek ve tutuklamak için Rekognition'ı nasıl kullandığını ayrıntılı olarak açıkladı.
Yüz tanıma yazılımıyla ilgili bir sorun, iyi belgelenmiştir ve bu, özellikle renkli insanları tanırken yanlışlıktır. 2018 ACLU testinde Rekognition, 28 Kongre üyesini şüphelilerin fotoğraflarıyla yanlış bir şekilde eşleştirdi. Uyumsuzluklar arasında renkli Kongre üyeleri çok yüksek. Amazon, AWS önerisinden daha düşük eşleşen bir güven eşiği kullandığı ve Rekognition yazılımının eski bir sürümünü kullandığı için bu çalışmanın birkaç yönden yanıltıcı olduğuna inanıyor.
Bazı çalışanlar ve hissedarlar, Amazon'un Palantir ve ICE için yapay zeka araçları ve yüz tanıma geliştirme fikrinin uygunsuz olduğuna inanıyor. Adı bilinmeyen bir Amazon çalışanı, geçtiğimiz sonbaharda Medium'da yaklaşık 450 çalışanın, Palantir'i terk etmesi ve polise Rekognition sağlamayı bırakması çağrısında bulunan CEO Bezos'a bir mektup imzaladığını yazdı. Çalışan şöyle yazdı: "Bizimki gibi bir şirket işleri karıştırmamalıdır." Daha sonraki bir röportajda çalışan, Amazon'un liderlik tepkisinin "radyo sessizliği" olduğunu belirtti.
Bu şaşırtıcı değil, çünkü AWS başkan yardımcısı Teresa Carlson, Temmuz 2018'de bir güvenlik konferansında şirketin polis ve orduya yüz tanımayı kullanma konusunda "sağlam bir bağlılığı" olduğunu açıkladı. Gizmodo, Kasım 2018'de AWS CEO'su Andy Jassy'nin dahili bir toplantıda Rekognition'ı kanun yaptırımına yükseltme uygulamasını yeniden onayladığını bildirdi. Teknolojinin genel olarak olumlu olduğunu söyledi ve bunu, insan ticareti mağdurlarının bulunmasına ve kurtarılmasına yardımcı olmak için yazılımı kullanan bir kuruluşun çalışmasıyla vurguladı. Jassy, Amazon'un müşterilerin hizmet şartlarını veya herkesin anayasal haklarını ihlal ettiğini tespit etmesi halinde onlarla çalışmayı bırakacağını da sözlerine ekledi. Ancak, Carlson'a daha önce Amazon'un üstlendiği savunma çalışmaları için herhangi bir kırmızı çizgi çizip çizmeyeceği veya yönergeler oluşturup oluşturmayacağı sorulduğunda cevabı netti: "Kırmızı çizgiler çizmiyoruz."
Amazon, Şubat 2019'daki bir blog gönderisinde, şeffaflığı ve medeni haklara saygıyı teşvik etmek için yüz tanıma ile ilgili bir tür yasaya açık olacağını belirtti. Bu hamle, Microsoft'un 2018'de attığı adımları takip ediyor, ancak ikincisi Amazon'dan çok daha ileri gitti.Bu, teknolojinin düzenlenmesi için doğrudan bir çağrı ve Amazon her zaman bunun kullanımını savundu. Şirket bir blog gönderisinde, "Amazon Rekognition'ı sağladığımız iki yıldan fazla bir süredir, kanun yaptırımlarının kötüye kullanıldığına dair bir rapor almadık" dedi.
Hizmet olarak izleme
Patent başvurusu, şirketin bunu gerçekten yapıp yapmayacağını söyleyemez. Genellikle, fikri mülkiyet haklarının bir gün ticari olarak kullanılabilmesi durumunda mümkün olduğu kadar çok patent başvurusunda bulunurlar. Ancak buna rağmen, patentler belirli bir şirketin önümüzdeki yıllarda rekabet ortamına ilişkin görüşünü hala ortaya çıkarabilir. Amazon'un patent başvurusu herhangi bir şeyi ortaya çıkarabiliyorsa, o da şirketin izleme yeteneklerinin genişlemesini geleceğinin önemli bir parçası olarak görmesidir.
Bazıları Alexa ve ses tanıma ile ilgilidir. Bir 2017 uygulaması, hedefli reklam hizmetleri için arkadaşlar arasındaki konuşmalardan anahtar kelimeler seçebilen bir "ses algılayıcı" algoritması tanımladı. Başka bir uygulama, öksürük, burun tıkanıklığı veya tekrar ses tonuna dayalı olarak insanların sağlık veya duygusal durumlarını çıkarmayı önermektedir, hedefli reklamcılık potansiyel bir kullanım örneğidir.
Amazon'un Ring'in geleceği için de bazı büyük fikirleri var. Bu ayın başlarında Quartz, Amazon'un "ev ve iş gözetim sistemleri" olarak bilinen arabalara veya bebek monitörlerine takılan kameraları içerebilen ekipman için bir ticari marka edindiğini bildirdi. Şirket tarafından 2015 yılında dosyalanan bir başka patent, Amazon'un bu konuları Ring'i satın almadan çok önce düşündüğünü açıkça belirtti: patent, bir müşteri tarafından tutulan bir kurye uçağının belirli bir hedefin üzerinde uçabileceği bir sistemi tanımladı. Ardından keşif videosunu çekin. Amazon bu fikri "bir hizmet olarak gözetim" olarak adlandırıyor. "
Amazon'un bir adı veya görünüşte antitopik işlevi olan bir ürünü piyasaya sürüp sürmeyeceği şüphelidir. Ancak uygulama için başka patentleri de var ve Kasım 2018'de yayınlanan bir grup patent, şirketin yaptığı şey gibi görünüyor. Patent, şüpheli kişilerin veritabanında yüzleri görünen kişileri otomatik olarak tespit etmek için bir paylaşılan veri kameraları ağının yazılımla nasıl kullanılabileceğini açıklamaktadır. CNN'in ilk bildirdiği gibi, bu, yüz tanımayı Ring ve Neighbors ile birleştirmek için bir yol haritası gibi geliyor. ACLU avukatları buna "gelecek için rahatsız edici bir vizyon" diyor ve insanlar komşular tarafından takip edilmeden sokaklara bile çıkamıyor.
Ring, OneZero'ya yaptığı açıklamada, patent başvurusunun mutlaka bir ürün üreteceği anlamına gelmediğini yineleyerek, "Topluluğumuzu daha iyi ve daha güvenli bir yer haline getirmek için mahallelerimiz için yenilikler yapıyoruz. , Ve bu patent, hizmetleri geliştirmeye yönelik birçok fikirden biridir ".
Akıllı hoparlörler, AI ses asistanları, kapı zili kameraları ve halka açık yerlerde yüz tanıma hepsi iyidir. Bunlar bize kolaylık ve gönül rahatlığı sağlar ve aksi takdirde imkansız olabilecek bazı cezai sorunları çözmek mümkündür. Ancak bunları bir araya getirirseniz - çok büyük bir şirket tüm verileri kontrol eder ve polis ve istihbarat teşkilatlarıyla yakın işbirliği içinde çalışır - eşi görülmemiş ölçekte bir gözetim tesisiniz olabilir.
Hiç kimse Amazon'un bu ağı kurmasını engellemek istemiyorsa, soru, Amazon'un ürünleri tasarlarken ve toplanan büyük miktarda veriyi korurken sorumlu olacağına inanmak, düşünceli ve dikkatli olmak ve buna güvenip güvenemeyeceğimizdir. Amazon teknolojisini kullanan tüm kuruluşların sorumlu olduğuna güvenilebilir.
Başın üstünde bulut
Facebook (yararlı olsun ya da olmasın) veya gizlilik ihmalinden dolayı özür dileyen ve son yıllarda kendi sorunlarını çözmeyi vaat eden Apple (gizliliği açık bir satış noktası haline getiren) ile karşılaştırıldığında, Amazon'un şu ana kadarki muazzam izleme yetenekleriyle tetiklenen etik kuralları Etki neredeyse hiç endişe göstermedi. Microsoft, yüz tanıma teknolojisini polise satmayı reddettiğinde ve Google'ın bu satış işi hiç olmadığında, Amazon bunu ülke çapındaki polis departmanlarına satıyor.
Gözetim teknolojisinin geliştirilmesiyle ilgili olarak Amazon'un sosyal sorumluluk konusundaki pozisyonu (veya eksikliği) hakkında hala sorular varsa, CTO Werner Vogels bu yılın Mayıs ayında bir davada cevabını çoktan verdi. Vogels, BBC ile yaptığı bir röportajda yüz tanıma sisteminin sorumlu bir şekilde kullanılmasını sağlamanın Amazon'un görevi olmadığını açıkladı. "Bu benim vermem gereken bir karar değil. Bu teknoloji birçok yerde iyi uygulandı. Hangi teknolojinin hangi koşullarda kullanılacağına karar vermek topluma kalmıştır."
Bu ses maksimuma ayarlandı. Ekim 2018'de San Francisco'daki bir teknik konferansta Bezos, şirketin askeri sözleşmesini vadesi gelen vatanseverlik yükümlülüklerinin bir parçası olarak gördü. Şirketin ileri teknoloji izleme araçlarını geliştirmesini kitapların icadı ile karşılaştırdı. Hikaye anlatımı iyilik yapmak için ve kötülük yapmak için de kullanıldı. Bir CNN raporuna göre Bezos, "Yeni teknolojiler yapmak istediğimiz son şeydir" dedi. Bazı insanlar Amazon'un son istediği şeyin zarar verecek yeni teknolojiler geliştirmek olduğunu umabilir, ancak yöneticileri daha çok bunu yapmamakla ilgileniyor. Yeniliği engelleyin.
Yeniliğin hızı durdurulamaz ve kendi başına yaratılan yeni teknoloji şirket tarafından yönlendirilmemeli, bunlar onlarca yıldır teknoloji şirketlerinin stratejisine yansımıştır. Yenilikçiler için af istemenin izin istemekten daha iyi olduğuna inanarak, "hızlı davranma ve basmakalıpları kırma" eğiliminde örtüktür. Ancak bu yeniliklerin sosyal maliyetleri daha da ağırlaştıkça, Facebook, Google ve Twitter gibi yasadışı platformlar - kendi çalışanlarının teşvikiyle - bunu en azından bir dereceye kadar gerçekten kabul etmeye başladıklarında Ürünlerin toplum üzerindeki etkisine dair sorumlu bir bakış açısı, hala onu aktif olarak şekillendirme yeteneklerine sahip olduklarını düşünüyor.
Ancak görünüşe göre Amazon onlarla aynı fikirde değil.
Ring ve Komşular'ın azınlıkları nasıl etkilediğini inceleyen bir araştırmacı olan Gilliard, Amazon'un ürünlerinin etkisine karşı kayıtsız (kasıtlı veya kasıtsız) tutumunun sürdürülemez olabileceğinden şüphelendiğini söyledi. Bana şöyle dedi: "Amazon, Cambridge Analytica anlarıyla henüz karşılaşmadı."
O an nasıl olurdu? Gilliard bir an tereddüt etti, sonra varsayımsal bir sahne çizdi. Amazon'un Anahtar eve teslim hizmetinin, teslimatçıların müşterilerin garajlarını açmak ve paketleri koymak için akıllı kilitler kullanmasına izin verdiğini belirtti. (Başlangıçta ön kapıyı açmak istedim.) Gilliard, bir Amazon kuryesinin renkli bir insan olduğunu hayal etti. Müşterinin garajına girdiğinde, müşteri Amazon'un kendi ürünlerinden (Ring veya Komşular uygulaması) şüpheli bir kişi alabilir. Alarm. Bu durum utanç verici olabilir. Gilliard, "Bunun olmamasını çok ama çok umuyorum: birisi zarar görebilir. Bir Amazon çalışanı zarar görebilir, tutuklanabilir veya saldırıya uğrayabilir."
Haber manşetlerine hakim olan büyük ölçekli bir fiyasko ya da Amazon çalışanlarının ve yönetiminin vicdanında ani bir dönüm noktası olmadan önce, şirketin boyun gerilmesine karşı en iyi savunma düzenleme olabilir. Mayıs ayında San Francisco, Amerika Birleşik Devletleri'nde yüz tanımayı yasaklayan ilk büyük şehir oldu. Teknolojinin savunucuları bu eylemi olgunlaşmamış ve çok radikal buldu. Ancak anonim bir Amazon çalışanı, mümkün olan en kısa sürede harekete geçmezsek, "neden olunan hasarın telafi edilmesinin zor olacağı" konusunda uyardı. Polis departmanı Komşular uygulamasına bağımlı hale geldiğinde ve onu kullanmaktan vazgeçmelerini sağladığında, bunu yapmaya zorlanmadıkları sürece aynı derecede hayal edilemez. Amazon'un kapı zilleri, arabalar veya dronlar için yüz tanıma yetenekleri sağlamamaya karar vereceği umulsa da, liderlerinin bir sorun olduğunu düşündüklerine dair hiçbir gösterge yok.
Amazon daha önce sosyal güvenin engellerini aştı. İnternet tarihindeki ilk çevrimiçi alışverişten sadece bir yıl sonra, 1995 yılında bir çevrimiçi kitapçı kurdu. Amazon ve eBay birlikte, halkı çevrimiçi kredi kartı kullanmanın şüphecilerin düşündüğü kadar çılgınca olmadığına ikna etti.
Şirket, uygun olmayan bir yönde genişlemiş gibi görünse bile, ister yüksek verimli ve düşük maliyetli lojistik, ister ses kontrollü akıllı elektronik ürünler olsun, bir zamanlar zahmetli olan süreçleri basitleştirmeye yüksek derecede özen gösteriyor. Tek bir şüphelinin yüzünü veri tabanındaki yüz binlerce yüz fotoğrafı ile karşılaştırmanın ağır görevini otomatik olarak gerçekleştirmek için Rekognition kullanımından veya Ring'in blokta şüpheli bir olay meydana geldiğinde komşuları ve polisi nasıl uyardığını, Aynı dürtüyü görün. Ancak izlemeyi Amazonun tek tıklamayla satın almasının rahatlığına ve her yerde bulunmasına dönüştürmeden önce, topluma bazı şeyleri hantal tutmanın daha iyi olup olmadığını sormaya değer.
Çevirmen: boxi.
