Google kötülük yapmaz, Amazon, Microsoft çalışanları: Ya da yapmayalım
Leifeng.com 18 Ekim'de Amazon'un yüz tanıma aracı Rekognition'ın ABD polisi ile yaptığı işbirliği nedeniyle dahili çalışanlar tarafından karşı çıktığını bildirdi. Bir çalışan, Medium platformunda şirketin polisle işbirliği konusundaki endişelerini dile getiren bir açık mektup yayınladı.
Meselenin kaynağı, Amazon CEO'su Bezos'un Wired konferansında ABD Savunma Bakanlığı'nın JEDI bulut sözleşmesini savunduğu ayın 15'iydi, popüler olmayan kararlar almanın (orduyla çalışmak gibi) iş liderlerinin çalışmalarının bir parçası olduğunu vurguladı. ". Sadece bir gün sonra, bu çalışanın açık mektubu büyük medyaya yayıldı.
Bu açık mektup bunu şu şekilde açıklıyor:
Amazon beklerse, hasarın telafi edilmesinin zor olacağını düşünüyoruz.
Rekognition projesini başlatın
Leifeng.com bu "Rekognition" projesini daha da araştırdı.
Kamuya açık bilgilere göre Rekognition, kaçakları, insan ticareti mağduru kişileri ve diğer nesneleri izlemek için polis teşkilatlarında ve belediye izleme sistemlerinde kameralar kullanabilen güçlü bir gerçek zamanlı yüz tanıma sistemidir. Bu teknoloji, Amazon tarafından Kasım 2017'de resmen başlatıldı.
Ana işlevleri şunlardır: video akışının gerçek zamanlı analizi, kişi tanıma ve izleme, yüz tanıma, yüz analizi, nesne sahnesi ve etkinlik algılama, video algılama, ünlü tanıma vb.
Resimde: Rekognition kayıp kişileri sosyal medyada buldu
Leifeng.com, o sırada Rekognition tarafından yayınlanan basın bültenini sorgularken yukarıdaki açıklama metnini çıkardı:
"Artık on milyonlarca yüz içeren koleksiyonlarda gerçek zamanlı yüz araması yapmak mümkün. Bu, arama gecikmesinin 5-10 kat azaldığı ve yüz koleksiyonlarının saklanmasına öncekinden 10-20 kat daha fazla izin verildiği anlamına geliyor. Kamu güvenliği uygulamaları için, Başka bir deyişle, bu güncelleme milyonlarca yüz koleksiyonunun gerçek zamanlı olarak tanınmasına yardımcı olur, böylece anında müdahale gerektiren yargılamalar ve eylemler gerçekleştirilebilir.
Şu anda, bu teknoloji esas olarak Marinus Analytics'in insan kaçakçılığına karşı savaşmasına yardımcı oluyor (Lei Feng.com'un notu: Marinus Analytics, teknolojiyi kolluk kuvvetlerine lisanslayan bir ABD başlangıç şirketidir). Amazon Rekognition ile Marinus Analytics kullanan araştırmacılar, kurbanları bulmak ve hızlı ve etkili önlem almak için birkaç saniye içinde milyonlarca kaydı arayabilir.
Kısacası, kolluk kuvvetleri kayıp çocukların fotoğraflarını, sosyal medya fotoğraflarını veya sosyal hizmet görevlilerinin fotoğraflarını kullanabilir ve fotoğrafları çevrimiçi olarak bir işlem olarak kullanılıyorsa, bunları Traffic Jam veritabanındaki diğer kişilerle eşleştirebilir. Reklam bilgileri yayınlandığında, kolluk kuvvetlerinin eşleşen fotoğraflar yoluyla mağdurları bulmasına yardımcı olacaktır.
Ancak bu teknolojinin "genişletilmiş kullanım" olma riski vardır.
Washington Post tarafından yayınlanan bir başka rapora göre, Washington'daki bir polis şefi Rekognition'ı ziyaret etmek için ayda 6 ila 12 dolar ödüyor ve bu da departmanın konunun gerçek zamanlı kameralara göre fotoğraflarını taramasına ve izlemesine olanak tanıyor. Rekognition'ın şehirdeki bir kamera ağında gerçek zamanlı yüz tanıma çalıştırabildiği bildirildi.
Rekognition Proje Direktörü Ranju Das, Orlando'da yetkili kameralar olduğunu açıkladı. Bu kameralar, verileri Kinesis video akışına aktarır ve Amazon, verileri gerçek zamanlı olarak analiz eder ve sahip oldukları yüz koleksiyonunu arar. Belki polis, belediye başkanının belirli bir yerde mi yoksa takip etmek istediği başka bir kişi mi olduğunu belirlemek istediğinde, bunların hepsi yapılabilir.
Sivil özgürlükler sosyal birliklerin endişelerini artırıyor
ACLU (Amerikan Sivil Özgürlükler Birliği) için bu yetenek, önemli sivil özgürlük endişelerini gündeme getirdi. Örgüt yaptığı açıklamada şunları söyledi: "Otomatikleştirilmiş geniş ölçekli gözetim yoluyla, Rekognition gibi yüz tanıma sistemleri sivil özgürlükleri tehdit ediyor ve mevcut siyasi ortamda haksız muamele gören topluluklar için özel bir tehdit oluşturuyor. İnsanlara hükümet tarafından muamele edilmemelidir. Gözetim altında sokakta özgürce yürüyün.
Daha önce, 22 Mayıs 2018'de ACLU, Bezos'a yazdığı bir yazıda da bu endişeye değindi.
Resimde: ACLU'dan Bezos'a 22 Mayıs 2018 tarihli mektup
Çalışanların maaş artışları konusunda henüz bir miktar çalışan direnişini tetikleyen Amazon'un, çalışanların muhalefeti nedeniyle bir sorunla karşılaştığı görülüyor.
Ancak Leifeng.com'a göre bu, teknik personel tarafından bir haftadan kısa bir süre içinde gönderilen ikinci isimsiz mektup. Sonuncusu Microsoft'tan.
Geçen Cuma, bir Microsoft çalışanı, Medium'un şirketin 10 milyar dolarlık JEDI Savunma Bakanlığı bulut sözleşmesine katılımıyla ilgili endişelerini de dile getirdi.
"Bu 10 milyar dolarlık gizli bir proje. Amaç, Trump yönetimi tarafından denetlenen 'daha ölümcül' bir askeri güç yaratmaktır. Google çalışanları bunu çok iyi görüyor, bu yüzden protesto ettiler ve sonunda şirketi tekliften çekilmeye zorladılar ve biz Çok net görebiliyorum. "
Büyük Amerikan teknoloji şirketlerinde, çalışanları fikirlerini ifade etmeye teşvik etmek her zaman bir gelenek olmuştur. Leifeng.com ayrıca son yıllarda "çalışan muhalefeti" nedeniyle askıya alınmaya zorlanan bazı proje veya planları da sıraladı:
-
Google: Çalışanlar, Google'ın Savunma Bakanlığının yapay zeka projesi "Maven" a katılmasına ortaklaşa karşı çıkarak Google'ın yenilemeyi terk etmesine yol açtı; çalışanlar Google'ın Çin sansürlü arama motorunun geliştirilmesine katılmasına karşı çıktı, yöneticiler protesto için istifa etti ve haberi verdi; çalışanlar Google'ın JEDI Savunma Bakanlığı bulut bilişim sözleşmesine katılmasına karşı çıktı Google yalnızca tekliften çekildiğini açıklayabilir.
-
Microsoft: Çalışanlar, AI etik ilkelerine uymadığını iddia ederek Microsoft'un IEDI bulut sözleşmesi teklifine karşı çıkıyor; çalışanlar şirketin ICE'ye hizmet sağlamasına karşı çıkıyor. (Lei Feng net notu: ICE, ABD göçmenlik ve gümrük uygulama kurumudur)
-
Salesforce: Göçmenlik politikasına katıldı ve sonunda, çalışanların muhalefeti ve eleştirileri ortasında ABD Gümrük ve Sınır Koruması ile teknik işbirliğini kesintiye uğrattı.
-
Apple: Gizlilik önlemleri son derece katı olduğundan ve hatta çalışanların normal yaşamını bile etkilediğinden, çalışanlar da şikayetlerle karşılaştı. Apple, 2017'de 12'si tutuklanan toplam "29 sızıntı" yakaladı.
-
Facebook: Bir Facebook küresel politika yöneticisi olan Kaplan, Yüksek Mahkeme adayını desteklediği ve adaylık duruşmasına katıldığından, yüzlerce Facebook çalışanı öfkesini dile getirdi. Çalışanlar şirketin siyaset tarafından kaçırıldığına inanıyor ve daha sonra Kaplan, Don'un dahili bir forumda yaptığı olağanüstü koltuk duruşması için özür diledi.
Leifeng.com Yorumları
Amerika Birleşik Devletleri'ndeki büyük ölçekli teknoloji şirketleri arasında, "çalışanların hesap verebilirlik sistemi" nin büyük bir etki oluşturduğu veya medyanın etkisini aştığı ve destekleyici şirketlerin sürekli olarak kararlarını ayarladıkları görülebilir. CEO'ları küresel iş liderleri olsa bile, bu fikirleri görmezden gelmenin bir yolu yoktur.
Şu anda, Amazon çalışanları "kötü olmayın" konseptinde ısrar ettiklerinde ve devam ettiklerinde Rekognition'ın çalışmaya devam edip etmeyeceğinden emin değiliz. Çin ile karşılaştırıldığında, polis ve ordu ile işbirliği çok önemli ve stratejik görünmektedir, çünkü devlet tedariki güçlü bir onaydır ve teknoloji ve süreçler için çok katı prosedürler vardır. Önemli olan nokta, bu tür bir projenin genellikle Hepsi büyük siparişlerdir, on milyonlarca hatta yüz milyonlarca. Yerli şirketler askeri sözleşmeler peşinde koşarken, biz seyircilerin aslında net düşünmek için daha fazla alana sahip olması gerekir.
Açık mektubun tam metni:
"Ben bir Amazon çalışanıyım. Şirketim yüz tanıma teknolojisini polise satmamalı "
17 Ekim
Bir şirket yeni teknolojiyi dünyaya tanıttığında, sonuçları hakkında düşünme sorumluluğu vardır. Çalıştığım Amazon şirketi şu anda ülke çapındaki polis departmanlarının yüz tanıma ürünü "Rekognition" ve diğer çalışanlarını satın almalarına izin veriyor ve ben hemen durmamızı talep ediyorum.
Birkaç hafta önce, meslektaşım Jeff Bezos'a ve diğer yöneticilere 450'den fazla çalışanın imzalarını içeren bir mektup yazdı. Mektupta ayrıca Palantir'in AWS'den çıkarılması ve çalışanların etik denetimini şart koşması talepleri de yer alıyordu. Palantir, ICE'nin geri dönüş ve takip prosedürlerinin çoğu için yazılım şirketidir.
Bezos'un bu endişelerin farkında olduğunu ve artık endüstri çapında bir diyalog içinde olduğunu biliyoruz. Sahnede, yüksek teknoloji ürünlerinin diktatörler tarafından suistimal edilebileceğini hatta sömürüldüğünü kabul etti. Ancak bu anlamlı bir açıklama değil. Amazon, kendi teknolojisinin suistimal edilmesini önlemek için harekete geçecek. Bezos, toplumun "bağışıklık tepkisini" beklememizi öneriyor.
Amazon beklerse, hasarın telafi edilmesinin zor olacağını düşünüyoruz.
Sonuçta, diğer şirketlerin gelecekte neden olabileceği zarar konusunda endişelenmiyoruz, ancak Amazon şu anda bir dizi tehlikeli, büyük ölçekli izleme sistemi tasarlıyor, pazarlıyor ve satıyor: Rekognition. Amazon'un web sitesi, sistemin aynı anda on milyonlarca yüzü saklayıp arayabildiğiyle övünüyordu. Kolluk kuvvetleri Amazon'un yüz tanıma teknolojisini kullanmaya başladı, ancak neredeyse hiçbir kamu denetimi, kamuoyu tartışması veya kısıtlama yok. Orlando, Florida, Rekognition'ı şehrin her yerinde bulunan güvenlik kameralarından gelen gerçek zamanlı video sinyalleriyle test ediyor. Oregon'daki bir polis departmanı şu anda Rekognition'ı olay yerindeki polis memurlarının veritabanındaki yüz fotoğraflarıyla fotoğrafları karşılaştırmasına izin vermek için kullanıyor. Bu artık varsayımsal bir durum değil.
Liderlik etmek istiyorsak, insan ve kâr arasında seçim yapmalıyız.
Tarih bize, yeni ve güçlü izleme araçlarının hala devletin elinde olduğunu ve yanlış bir şey yapmayan insanları hedef almak için kullanılacağını söylüyor; Amerika Birleşik Devletleri'nde, kamusal sorumluluk eksikliği ilk kez renkli insanlar, göçmenler ve egzersiz yapanların ortaya çıkmasına neden oldu. Değişiklik hakkına sahip olan kişiler aşırı müdahaleye ve aşırı denetime sahiptir. Hükümetlere ve kolluk kuvvetlerine güçlü teknoloji sağlarken, bu acil sorunları görmezden gelmek tehlikeli ve sorumsuzluktur.
Bu nedenle, AWS Küresel Kamu Sektörü Başkan Yardımcısı Teresa Carlson, geçtiğimiz günlerde Amazon'un kanun yaptırımı, savunma ve istihbarat müşterilerini "sıkı bir şekilde desteklediğini" söylediğinde, tüm araçlarla gerçekte ne yaptıklarını bilmesek bile hayal kırıklığına uğradık.
Amazon, polis memurlarının vücut kameraları için Rekognition işlevini sağlamayı bile öneriyor, bu da aslında bir polis hesap verebilirlik aracı olan şeyi halk için bir mobil izleme cihazına dönüştürecek. Bunu neden yapıyoruz?
Hepimiz hükümet tarafından sürekli izlenmeden yaşama hakkına sahibiz. Bizimki gibi şirketler, otoriter denetimi teşvik etmeye katılmamalıdır. Ne şimdi ne de gelecekte. Ancak Rekognition, bir video karesinden düzinelerce yüz kimliğini çıkarmayı ve bunları daha sonra kullanmak üzere depolamayı veya milyonlarca resimden oluşan bir veritabanıyla hemen karşılaştırmayı destekliyor.
Bu sistemi satmak Amazon'un değerlerine aykırıdır. Kendimizi müşteri odaklı bir şirket olarak görüyoruz. Bezos ayrıca, etik olmayan hükümet politikalarına ve Müslüman yasaklarına doğrudan karşı çıktı.
Bu güçlü müşterilerden kamu yararı pahasına kâr edemeyiz; işimizin kamu yararına verilen zararı görmezden gelemeyiz. Sattığımız Rekognition sistemi, Amerika Birleşik Devletleri'ndeki mevcut önyargıları güçlendiren kusurlu bir teknolojidir. Araştırmalar, yüz tanıma teknolojisinin koyu tenli insanları yanılma olasılığının daha yüksek olduğunu gösteriyor. Bu, son Rekognition testinde açıkça gösterildi. Anket, ABD'li kongre üyelerinin fotoğraflarını veri tabanındaki bazı yüz fotoğrafları ile tek tek karşılaştırdı ve 28 yanlış eşleşme olduğu ortaya çıktı ve yanlış sonuç yüzdesi özellikle beyaz olmayan insanlar arasında yüksek oldu. Ancak bu hatalar düzeltilse bile, kolluk kuvvetlerinin bu yazılımı kullanmasına izin vermek yine de sorumsuz, tehlikeli ve etik değildir. Şimdi, bu önyargının kaynağı daha geniş Amerikan toplumunda ve yargı sisteminde yatıyor. Yüz tanıma teknolojisinin kullanımı, yalnızca Amerika Birleşik Devletleri'ndeki bu mevcut önyargıyı çoğaltacak ve güçlendirecektir.
Amerika Birleşik Devletleri'ndeki mevcut siyasi ortam, yüz tanıma ürünlerini hükümete satma fikrini daha da saldırgan hale getiriyor. ABD polisi, siyah aktivistlerin gözetimini artırdı ve Trump yönetimi, göçmenliği önlemeye devam etti. ABD hükümetinin süper gözetim sistemine hiçbir şekilde katkıda bulunmak istemiyoruz. Amazon, Rekognition müşterilerinin yasalara uymasını istediğini söyledi, ancak bu, bu teknolojinin olumsuz kullanımı için sorumluluktan kaçınmanın yalnızca bir yolu.
Google çalışanları, şirketin ABD Savunma Bakanlığı ile yaptığı Maven sözleşmesine alenen karşı çıktı ve Microsoft çalışanları şirketin ABD Savunma Bakanlığı JEDJEDI ile olan bulut bilişim sözleşmesine alenen karşı çıktı. Onların adımlarını izleyeceğiz. ABD ordusu hakkındaki görüşümüz ne olursa olsun, hiç kimse "ordunun ölümcüllüğünü artırmaktan" kâr etmemelidir.
Amazon liderliğin değerlerinden çok bahsetti. Liderliğe sahip olmak istiyorsak, insan yararı ve kâr arasında seçim yapmalıyız. Kolluk kuvvetlerine tehlikeli gözetim sistemleri satabiliriz veya adaleti sağlayabiliriz. Ama ikisine birden sahip olamayız.
