"Yüz tanıma", ne kadar risk taşıyabiliriz?
Yeni taç pnömoni salgını küresel ölçekte patlak verdikten sonra, birçok teknoloji şirketi ağır darbe aldı.
Google, Haziran ayından önce yapılması beklenen tüm çevrimdışı etkinliklerin iptal edildiğini duyurdu; Apple, Büyük Çin dışındaki tüm doğrudan işletilen mağazaları kapattı ve başlangıçta Mart ayı sonunda yapılması planlanan ilkbahar yeni ürün lansmanı etkinliği iptal edilebilir. En iyimser tahminlere göre bile, salgının etkisi altında, küresel teknoloji endüstrisinin ilerlemesi en az yarım yıldan bir yıla kadar ertelenecek.
Fırsatlar, zorluklar altında bir arada var olur. "İnsanlığın Kısa Tarihi" kitabının yazarı Yuval Harari, birçok medyaya verdiği röportajda, yeni taç zatürree, AIDS ve Ebola virüsünün sayısız cana mal olmasına rağmen 21. yüzyıl salgınının ölümlere neden olduğunu söyledi. Toplam nüfusun oranı, Taş Devri'nden bu yana herhangi bir zamandan daha düşük.
İnsan bilimi ve teknolojisindeki ilerlemeden dolayı, salgın hakkında daha çok şey biliyoruz ve bununla baş etmenin daha fazla yolu var. Salgının yayılmasına karşı küresel mücadelede, bilimsel ve teknolojik bilgilerin paylaşımı özellikle kritiktir. Hararinin görüşleri birçok teknoloji deviyle örtüşüyor gibi görünüyor.
Geçtiğimiz iki ay boyunca, Çinli internet şirketleri meslektaşları için gösteri yapmak için öncülük yaptı. Mart ayından bu yana Apple, Microsoft ve Google gibi İnternet şirketleri, salgının gelişimini kontrol etmede hükümetlere yardımcı olmak için büyük veri, bilgi izleme ve diğer teknik araçları kullanıyor. Öte yandan, Facebook gibi sosyal platformlar da salgın sırasında damgalama ve ayrımcı yorumlarla mücadele etmek için yanlış reklamları engelliyor.
Bu salgın savaşta teknolojinin insanlığa getirdiği avantajların söylenmesine gerek yok. Ancak teknolojinin getirdiği çeşitli risklerden nasıl kaçınılır? Büyük verilerin kullanımı ve yapay zekanın keşfi, mahremiyet, siber suç ve sosyal etik üzerinde benzeri görülmemiş bir etkiye sahip oldu. Teknolojinin alet özellikleri zayıflarken insanlara karşı tehlikeli bir silah olabilir mi?
Teknoloji geliştiricilerinin ve yöneticilerin nasıl düşündükleri ve nasıl yanıt verdikleri, bu zor problem dizisini anlamamız için daha sezgisel olabilir. Aşağıdaki "Araçlar mı Silahlar mı?" "Bu kitapta, Microsoft Başkanı ve Baş Hukuk Sorumlusu Brad Smith (Brad Smith) ve Carol Ann Browne (Carol Ann Browne) dijital çağda siber güvenlik, kişisel mahremiyet ve çevre korumayı birlikte tartışıyorlar. Sürdürülebilirlik ve diğer konular kendi görüşlerini ortaya koyuyor. Yazar ve liderliğindeki ekip tarafından uygulamada yapılan keşif, teknoloji endüstrisi ve hatta her sıradan insan için referans ve aydınlanma önemine sahiptir.
Orijinal Yazar | Brad Smith, Carol Ann Brown
"Araçlar veya Silahlar" (ABD), Brad Smith ve Carol Ann Brown, Yang Jingxian ve Zhao Lei, CITIC Publishing Group, Şubat 2020 baskısı tarafından çevrilmiştir.
1
Birçok insan tanıma ile yüzleşmeye alışkın
Kilidi açmak için parola kullanmak yerine
Haziran 2002'de Steven Spielberg'in yeni filmi "Azınlık Raporu" prömiyerini yaptı. Bu film, bilim kurgu yazarı Philip Dick'in 1956'daki ünlü kısa öyküsüne dayanıyor. Film, Tom Cruise'un oynadığı, 2054'te suçun ortadan kalktığı Washington, D.C.'de geçiyor. Oyunda, Tom Cruise seçkin polis departmanının "suç önleme ekibi" direktörünü canlandırıyor.Bu ekip, katilleri suç işlemeden önce tutuklamakla sorumludur. Ekip, üç "peygamber" tarafından görülen görüntülere dayanarak tutuklama hakkına sahip, çünkü bu üçünün geleceğe dair doğaüstü içgörüsü var. Ancak kısa süre sonra "peygamber", Cruise'un cinayeti kendisinin işleyeceğini tahmin etti ve bu yüzden, herkesin ve tüm eylemlerin izlendiği bir şehirde, kendi departmanını takip etmekten kaçınarak kaçmaya başlaması gerekti.
"Azınlık Raporu" (2002) fotoğrafları.
15 yıl sonra bu filme dönüp baktığımızda, neyse ki, bu yasa uygulama yöntemi çok zor görünüyor. Ancak bugün, "Azınlık Raporu" ndaki bir sahne 2054'ten çok önce gerçeğe dönüşmüş gibi görünüyor. Filmde Cruise, kaçarken bir Gap mağazasına girdi. Perakendeci, mağazaya giren her müşteriyi tanımlayabilen ve müşterilerin beğeneceğini düşündüğü bir ekranda kıyafet resimlerini hemen göstermeye başlayacak bir teknolojiye sahiptir. Bazı insanlar bu hizmeti çekici bulabilir, ancak diğerleri onları sinir bozucu ve hatta ürkütücü bulabilir. Kısacası, böyle bir mağazaya girmek, bazen internette gezindikten sonra sosyal medyaya gidiyoruz, sadece web'de az önce göz attığımız şey için reklamlar olduğunu bulmak için.
"Azınlık Raporu" nda Spielberg, izleyicinin teknolojinin nasıl kullanılabileceğini ve suistimal edilebileceğini - teknolojinin suçu fiilen oluşmadan önce ortadan kaldırmak için kullanılabileceğini düşünmesini istiyor, ancak bir şeyler ters giderse, aynı zamanda İnsan haklarını ihlal etmek için istismar edilmek. Gap mağazasında Cruise'u tanımlama teknolojisi, içinde gömülü olan bir çipe dayanır. 21. yüzyılın ilk 20 yılında, gerçek dünyadaki teknolojik ilerleme Spielbergin hayal gücünü bile aştı çünkü bugün artık bu tür cipslere ihtiyaç yok. Yüz tanıma teknolojisi, geçen hafta veya bir saat önce mağazaya giren müşterilerin yüzlerini tanımak için bulut verileriyle desteklenen yapay zeka tabanlı bilgisayar görüşü ve kameralar kullanıyor. Bu teknoloji, teknoloji endüstrisi ve hükümet için bir cep telefonu buluşması yaratıyor Yapay zekanın etik ve insan haklarıyla odaklanmış ve somut bir şekilde nasıl başa çıkılacağı, bu fırsatı yakalayıp değerlendiremeyeceğine bağlıdır. Yüz tanıma teknolojisinin denetlenmesine nasıl karar verilir.
Çoğu insan için, fotoğrafları kataloglama ve arama gibi basit senaryoların ilk uygulaması artık giderek daha karmaşık hale geldi. Birçok kişi, iPhone'ların veya Windows dizüstü bilgisayarların kilidini açmak için parola yerine yüz tanımaya güvenmeye alıştı. Uygulaması burada bitmiyor.
"Prison Break" in (2017) beşinci sezonunda yüz tanıma taklidi.
2 Yüz, parmak izi kadar benzersizdir
Şimdi, bir bilgisayar, insanların yüzlerini doğuştan tanıyarak neredeyse hepimizin yapabildiğini yapabilir. Çoğumuz için bu, başlangıçta anneleri tanıma yeteneğidir. Çocuk yetiştirmenin en güzel yanlarından biri de eve girerken küçük çocukların heyecanla size doğru koştuğunu görmektir. Ergenliğe kadar devam edecek bu tür bir tepki, insanın doğal yüz tanıma yeteneğine bağlıdır. Günlük hayatımızın temeli bu olsa da, bunu neyin mümkün kıldığını düşünmeyi neredeyse hiç bırakmayız.
Yüzlerimizin parmak izleri kadar benzersiz olduğu ortaya çıktı. Yüz özelliklerimiz arasında göz bebekleri arasındaki mesafe, burnun boyutu, gülümsemenin görünüşü ve çene konturu yer alır. Bilgisayarlar, bu özellikleri çizmek ve bunları bir araya getirmek için fotoğrafları kullanabilir ve buna dayalı olarak algoritmalar aracılığıyla erişilebilen bir matematiksel denklem oluşturabilir.
İnsanlar, insanların yaşamlarını iyileştirmek için bu teknolojiyi dünyanın her yerinde kullanıyorlar. Bazı durumlarda, bu tüketicilerin rahatlığı için yapılır. National Australia Bank, müşterilerin ATM'ye gitmelerine ve banka kartı olmadan güvenli bir şekilde para çekmelerine olanak tanıyan bir hizmet geliştirmek için Microsoft'un yüz tanıma teknolojisini kullanıyor. Bu ATM'ler müşterinin yüzünü tanıyabilir ve ardından para çekme şifresini girip işlemi tamamlayabilirler.
Diğer senaryolarda, bu teknik daha büyük faydalar sağlayabilir. Washington DC'de Ulusal İnsan Genom Enstitüsü, doktorların DiGeorge sendromu (DGS) veya 22q11.2 delesyon sendromu adı verilen bir hastalığı teşhis etmelerine yardımcı olmak için yüz tanıma teknolojisini kullanıyor. Bu, Afrika, Asya veya Latin Amerika popülasyonlarında sıklıkla görülen bir hastalıktır. Kalp ve böbrek hasarı dahil olmak üzere çeşitli ciddi sağlık sorunlarına neden olabilir. Bu hastalığa sahip kişiler, genellikle doktorların ihtiyacı olan hastaları teşhis etmesine yardımcı olmak için yüz tanıma sistemi kullanan bir bilgisayar tarafından tanınabilen belirli yüz özelliklerine sahiptir.
Bu senaryolar, yüz tanımanın topluma fayda sağlamak için kullanılabilmesi için bazı önemli ve özel yöntemleri göstermektedir. Bu 21. yüzyılın yeni aracıdır.
İzleme için kullanılabilecek çeşitli elektronik cihazlar.
Bununla birlikte, diğer birçok araç gibi, tehlikeli bir silah da olabilir. Yüz tanıma, daha geniş sosyal meselelerle kolayca iç içe geçebilir ve çok önemli bir soruyu gündeme getirir: Bu tür yapay zekanın toplumumuzda nasıl bir rol oynayacağını umuyoruz?
2018 yazında, Virginia'da "özgür yazılım yamalı" olduğunu iddia eden bir kişi, Microsoft ile ABD Göçmenlik ve Gümrük Muhafaza (ICE) arasında bir sözleşmenin imzalanmasıyla ilgili bir dizi haber yayınladı. Bu haberler o yılın Ocak ayında ortaya çıktı. Microsoft tarafından şirketin resmi pazarlama blogunda yayınlanan bir makale. Açıkçası, şirketteki herkes bu blog yazısını unuttu. Ancak makale, Microsoft'un ICE'ye sağladığı teknolojinin çok yüksek bir güvenlik eşiğini geçtiğini ve ICE tarafından devreye alınacağını belirtti. Makale ayrıca Microsoft'un departmanın çalışmalarını desteklemekten gurur duyduğunu ve ICE'nin yüz tanıma teknolojisini kullanma potansiyelinden bahseden bir cümle olduğunu söyledi.
Haziran 2018'de, Trump yönetiminin ABD'nin güneyindeki Meksika sınırında yasadışı göçmenlerin çocuklarını ailelerinden ayırma kararı kısa sürede patlayıcı bir konu haline geldi. Şirket tarafından birkaç ay önce yayınlanan bir pazarlama taslağı artık çok farklı görünüyor ve yüz tanıma teknolojisinin kullanımı tamamen farklı görünüyor. İnsanlar, ICE ve diğer göçmenlik kurumlarının çalışmak için yüz tanıma gibi teknolojileri uygulayabileceğinden endişeleniyor. Bu, göçmenler şehrin sokaklarında yürürken, buluta bağlı kameraların onları tanımlamak için kullanılabileceği anlamına mı geliyor? Bu, teknolojinin mevcut durumu ve önyargı riski göz önüne alındığında, birisini yanlış tanımlayabileceği ve yanlış gözaltına alınmasına neden olabileceği anlamına mı geliyor? Bunlar birçok sorundan sadece ikisi.
Her zaman olduğu gibi, önce şirketin ICE ile olan sözleşmesine nelerin dahil olduğunu bulmalıyız.
Derinlemesine araştırmanın ardından, bu sözleşmenin yüz tanıma için hiç kullanılmadığını gördük. Neyse ki Microsoft, sınırda çocukları ailelerinden ayıran hiçbir projeye katılmadı. Bunun yerine, bu sözleşme aslında ICE'nin e-posta, takvim, mesajlaşma ve belge yönetimi görevlerini buluta aktarmasına yardımcı oluyor. Bu, Amerika Birleşik Devletleri ve dünyadaki müşterilerle (diğer devlet kurumları dahil) birlikte çalıştığımız projelere benzer.
Yine de bu mesele hala yeni bir tartışma yarattı.
3 Sorumluluğun en önemli kısmı
Bazı insanlar, teknoloji şirketlerinin, karşı çıktığımız hükümet politikaları için devlet kurumlarına sağlanan tüm hizmetleri sonlandırmak için inisiyatif alması gerektiğini şiddetle savunuyor. Teknoloji artık hayatımızda kritik bir altyapı haline geldi ve eğer teknoloji zamanında güncellenemezse - veya daha kötüsü, teknik hizmetleri sonlandırmak için basit bir karar - çeşitli beklenmedik sonuçlar doğurabilir. Satya'nın iç konuşmalarımızda birçok kez işaret ettiği gibi, hükümet e-postayı yasadışı göçmen ailelerin yeniden bir araya gelmesine yardımcı olacak bir araç olarak kullanıyor. Posta sistemini kapatırsak ne olacağını kim bilebilir?
Bu bizi ABD hükümet kurumlarını boykot etmenin yanlış olduğu sonucuna götürüyor. Ancak kendi çalışanlarımızdan bazıları da dahil olmak üzere bu tür bir eylemi savunanlar doğru soruları sordular. Örneğin, yüz tanıma teknolojisinin getirdiği zorluklar daha fazla dikkat gerektirir.
Dikkatli bir değerlendirmeden sonra, bu yeni teknolojinin yeni yasa ve düzenlemelere tabi olması gerektiği sonucuna vardık. Halkın mahremiyet ihtiyaçlarını korumanın, önyargı ve ayrımcılık risklerini çözmenin ve yeniliğin devam etmesini sağlamanın tek yolu budur.
Bu, kamu güvenliği ile insan hakları arasında uzun süredir devam eden çelişki arasındaki zor değiş tokuşun altını çiziyor. Aynı zamanda yapay zeka ile ilgili birçok yeni etik ve ahlaki kararın öznel doğasını da gösterir. Elbette, ekip liderinin ve diğerlerinin de belirttiği gibi, bu hizmeti vermeyi reddedersek, diğer şirketlerin bundan yararlanabileceğinden endişeleniyoruz. Bu durumda, sadece iş kaybetmiyoruz, aynı zamanda başkaları da karşı olduğumuz zararlı amaçlar için teknolojiyi kullanmaya yardımcı olurken, beklememiz gerekiyor. Bununla birlikte, tüm bu faktörleri tarttık ve sonunda bu yeni teknolojinin geliştirilmesi için belirli bir tür ahlaki temel atmaya çalışmamız gerektiği sonucuna vardık. Bunu yapmanın tek yolu, onu belirli amaçlar için kullanmayı reddetmek ve daha geniş bir kamuoyu tartışmasını teşvik etmektir.
Bu ilkeli yaklaşım, Kaliforniya'daki yerel bir polis departmanı bizimle iletişime geçtiğinde test edildi ve tüm arabalarını ve el kameralarını durdurulan insanların fotoğraflarını çekebilecek şekilde donatmak istediklerini söylediler. Hatta rutin teftişler sırasında durdurulan ve diğer suçlarla ilgili şüphelilerin veri tabanıyla eşleşip eşleşmediklerini görmek için insanları da içerir. Mantıklarını anlıyoruz, ancak onlara, yüz tanıma teknolojisi henüz olgunlaşmadığı için bu durumda kullanılamayacağını önerdik. En azından 2018'de, bu teknolojinin bu şekilde kullanılması çok fazla yanlış eşleşmeye yol açacak ve yanlış tanımlanmış kişileri uyaracaktır, özellikle beyaz olmayan insanlar veya kadınlarsa, çünkü bu iki grup insan için hata oranı hala yüksek. . İşlemi reddettik ve polis departmanını bu amaçla yüz tanıma kullanımından vazgeçmeye ikna ettik.
Bu deneyimler, tanıma ile yüzleşmek için uygulanabilecek ilkeler hakkında düşünmemize yardımcı olacak bazı ilhamlar sağlar. Ancak, ister Seattle'ın diğer tarafında ister Pasifik Okyanusu'nun diğer tarafında olsun, bu etik yola giriyorsak, ancak herhangi bir önleyici veya kısıtlayıcı önlem uygulamayan şirketler tarafından zayıflatılırsak endişeleniyoruz. Uygulamanın herhangi bir pratik etkisi olmayacaktır. Birçok yapay zeka tabanlı teknoloji gibi, yüz tanıma, büyük miktarlarda veri birikimi ile gelişecektir. Bu, şirketlere mümkün olduğunca çok sayıda erken işlem yapma teşvikini vererek ticari rekabet riskine yol açar ve teknoloji şirketleri sosyal sorumluluk ve pazar başarısı arasında seçim yapmak zorunda kalacak.
Birleşik Krallık'ta Channel 4 ve Amerika Birleşik Devletleri'nde NetFlix tarafından üretilen "Black Mirror Season 3" (2016), kişisel derecelendirmelerin hesaplanması ve sıralanması için bir dünya tasarlıyor. Puan, ne tür bir yaşam sürdürebileceklerini belirler.
Böylesine kısır bir rekabeti önlemenin tek yolu, sağlıklı pazar rekabetini desteklemek için bir temel sorumluluk oluşturmaktır ve sağlam bir sonuç temeli, bu teknolojinin ve onu geliştiren ve kullanan kuruluşların hukukun üstünlüğüne bağlı olmasını sağlamamızı gerektirir.
Diğer teknolojilerin önceki denetiminden öğrendik. Pek çok pazarda, tüm tarafların çıkarlarını dikkate alan dengeli bir düzenleme yaklaşımı, tüketiciler ve üreticiler arasında daha sağlıklı ve dinamik bir ilişki yaratır. 20. yüzyılda, otomobil endüstrisi on yıllarını düzenleyici gerekliliklere direnerek geçirdi, ancak bugün, yasanın zorunlu emniyet kemerleri ve hava yastıkları ile daha yüksek yakıt verimliliğinin sağlanmasında önemli bir rol oynadığı kabul ediliyor. Aynı durum havacılık güvenliği ile gıda ve ilaç yönetimi için de geçerlidir.
Elbette, denetimin gerekliliğinden bahsetmek bir şey, ancak ne tür denetimin en makul olduğunu tanımlamak başka bir şeydir. Temmuz 2018'de, dikkate alınması gerektiğini düşündüğümüz soruların bir listesini yayınladık ve insanlara olası cevaplarla ilgili fikirlerini sorduk. Tartışma ilk olarak çalışanlar ve teknik uzmanlar arasında başladı, ancak kısa süre sonra bu konudaki tartışmalara aktif olarak katılan Amerikan Sivil Özgürlükler Birliği gibi sivil özgürlük örgütleri de dahil olmak üzere tüm ülkeye ve dünyaya yayıldı.
Artık çoğu teknoloji şirketi gibi devlet müdahalesine direnme geleneğine bağlı kalmıyoruz. Daha önce de böyle savaştık. Aksine, zihnimizde düzenlemeye yönelik daha proaktif ancak dengeli bir yaklaşımı onayladık ve destekledik. ABD federal gizlilik koruma yasasını 2005 gibi erken bir tarihte talep etmemizin nedenlerinden biri de budur. Bu yaklaşımın, ister teknoloji endüstrisi ister toplum için olsun, tüm sorunları kendi başına çözmek için yalnızca teknoloji endüstrisine güvenmekten genellikle daha iyi olduğuna inanıyoruz.
4 Eylemden önce: ne yapabiliriz?
Daha hızlı hareket etmeye başlarken dikkatlice düşünmek ve ilk adımların doğru atılmasını sağlamak da önemlidir. Bu noktada, yüz tanıma teknolojisi ile ilgilenmek için bir dizi fikrimiz olduğuna inanıyoruz. Washington, DC'deki Brookings Enstitüsü'nde yeni mevzuat hakkındaki görüşlerimizi duyurdum ve teklifimizin daha fazla detayını kamuoyuna açıkladım. Ardından, bu öneriyi bir turda tanıtmaya başladık ve önümüzdeki 6 ay içinde, bunu Amerika Birleşik Devletleri ve dünyanın diğer 8 ülkesindeki halka açık etkinliklerde ve yasama oturumlarında tanıttık.
"Unfriend 2: Dark Web" (2018) fotoğrafları.
Mevzuatın önyargı riski, mahremiyet ve demokratik özgürlüğün korunması olmak üzere üç temel sorunu çözebileceğine inanıyoruz. İyi işleyen bir pazarın önyargıyı daha hızlı azaltmaya yardımcı olduğuna inanıyoruz. Tanıştığımız hiçbir müşteri, hata oranı yüksek ve ayrımcılığa neden olan yüz tanıma hizmetlerini satın almakla ilgilenmiyordu. Ancak müşterilerin bilgi eksikliği varsa, piyasa düzgün işlemeyecektir.
Ayrımcılık riskini azaltmaya yardımcı olmak için, yeni yasanın ayrıca, karar verme yetkisini bilgisayarlara devretmek yerine, yüz tanımayı uygulayan kuruluşların önce çalışanları sonuçları gözden geçirmeleri için eğitmesi ve ardından önemli kararlar alması gerektiğine inanıyoruz. Ek olarak, bir kuruluş, teknolojinin öngörmek için tasarlandığı yolu izlemeyen bir yüz tanıma uygularsa, sapma riskinin artabileceğinden endişe ediyoruz. İyi eğitimli personel bu sorunu çözmeye yardımcı olabilir.
Bir dereceye kadar, daha zor bir soru, kolluk kuvvetlerinin belirli kişileri sürekli olarak izlemek için yüz tanıma teknolojisini kullanmalarına ne zaman izin verileceğidir.
Demokrasi her zaman insanların bir araya gelip birbirleriyle konuşma ve görüşlerini özel ve kamusal alanda tartışma yeteneklerine bağlı olmuştur. Bu, insanların sürekli hükümet gözetimi olmaksızın özgürce hareket edebilmelerine bağlıdır.
Yüz tanıma teknolojisinin birçok hükümet kullanımı, kamu güvenliğini korumak ve daha iyi kamu hizmetlerini teşvik etmek içindir ve yukarıda bahsedilen endişelere neden olmaz. Bununla birlikte, her yerde bulunan kameralar, büyük bilgi işlem gücü ve bulut depolama bir araya gelirse, hükümet belirli kişileri sürekli olarak izlemek için yüz tanıma teknolojisini kullanabilir. Bunu herhangi bir zamanda, hatta sürekli olarak yapabilir. Bu teknolojinin bu şekilde kullanılması, eşi görülmemiş büyük ölçekli gözetimlere yol açabilir.
Bu nedenle, kanunun yalnızca kolluk kuvvetlerinin aşağıdaki durumlarda belirli kişileri sürekli olarak izlemek için yüz tanımayı kullanmasına izin verebileceğine inanıyoruz, yani kolluk kuvvetleri mahkeme emirleri (bu tür bir gözetim için arama emri gibi) almış veya İnsan hayatı gibi acil durumlarda yakın tehlike ile karşı karşıyadır. Bu, bireyleri cep telefonları tarafından oluşturulan GPS konumlarından izlemek için geçerli ABD kurallarına benzer yüz tanıma hizmetleri için kurallar oluşturacaktır. ABD Yüksek Mahkemesinin 2018'de karar verdiği gibi, herhangi bir arama emri yoksa, polis cep telefonunun yerini gösteren bir cep telefonu kaydı talep edemeyecek ve bu nedenle birinin gerçek yörüngesini elde edemeyecek. Dediğimiz gibi, "Yüzlerimiz de cep telefonları kadar korunmalı mı? Bize göre cevap elbette yankılanan bir 'evet'."
Beijing News Comic / Chen Dong
Son olarak, yüz tanıma denetiminin iş ortamında tüketici mahremiyetini de koruması gerektiği açıktır. Her mağazanın kamera kurabileceği ve gerçek zamanlı yüz tanıma hizmetleri aracılığıyla buluta bağlanabileceği bir çağa hızla giriyoruz. Alışveriş merkezine girdiğiniz andan itibaren, nereye giderseniz gidin, yalnızca fotoğrafınız çekilmeyebilir, aynı zamanda bilgisayar tarafından da tanınabilirsiniz. Alışveriş merkezinin sahibi bu bilgileri her mağaza ile paylaşabilir. Bu verilerle mağaza sahipleri, mağazaya en son ne zaman girdiğinizi ve ne gördüğünüzü veya ne satın aldığınızı anlayabilir. Bu verileri diğer mağazalarla paylaşarak, daha sonra ne almayı planladığınızı tahmin edebilirler.
Demek istediğimiz, yeni yasanın tüm bu teknolojileri yasaklaması gerektiği değil. Bunun yerine, mağazaların alışveriş deneyimini iyileştirmek için yeni teknolojileri sorumlu bir şekilde kullanmalarına yardımcı olmaya kendini adamış şirketlerden biriyiz. Birçok tüketicinin ortaya çıkan müşteri hizmetlerini memnuniyetle karşılayacağına inanıyoruz. Ama aynı zamanda insanların yüz tanımanın ne zaman kullanıldığını bilme, soru sorma ve gerçek seçimler yapma hakkına sahip olduğuna da inanıyoruz.
Yeni yasanın, insanların bu hizmeti öğrenmesini kolaylaştırmak için yüz tanımayı kullanan kuruluşların "parlak bildirimler" yayınlamasını şart koşması gerektiğini öneriyoruz. Ayrıca, insanların bu tür koşullar altında ne zaman ve nasıl anlamlı kontrol ve onay kullanabileceklerini belirlemek için yeni düzenlemeler yapılması çağrısında bulunuyoruz. İkinci mesele, özellikle gizlilik yasalarının Avrupa kadar sağlam olmadığı Amerika Birleşik Devletleri'nde, uygun yasal yaklaşımı belirlemek için önümüzdeki birkaç yıl içinde daha fazla çalışma gerektiriyor.
Yaratıcı resim / Beijing News muhabiri Wang Yuanzheng
Bir başka yardımcı nokta da yeni yasanın kapsamını göz önünde bulundurmaktır. Bazı açılardan, tüm dünyayı yasaları geçirmeye teşvik etmemize gerek yok. Örneğin, önemli bir eyalet veya ülke, şirketlerin kamusal ve akademik testler için yüz tanıma hizmetleri sağlamasını gerektiriyorsa, bu karar duyurulacak ve geniş çapta yaygınlaştırılarak lider bir rol oynayacaktır. Bu inanca dayanarak, Amerika Birleşik Devletleri'ndeki her eyaletteki milletvekillerini 2019'un başlarında ülke çapındaki toplantılara hazırlanırken yeni mevzuatı ayrı ayrı değerlendirmeye teşvik ediyoruz.
Ancak tüketici mahremiyetinin korunması ve demokrasi ve özgürlüğün korunması açısından, tüm yargı alanlarının yeni yasalara ihtiyacı vardır. Dünya genelindeki hükümetlerin farklı görüşleri düşünüldüğünde bunun gerçekçi olmayabileceğinin farkındayız. Bu nedenle, sadece hükümeti harekete geçmeye çağırmak yeterli değildir. ABD hükümeti harekete geçse bile, dışarıda daha büyük bir dünya var. İnsanlar, dünyanın dört bir yanındaki hükümetlerin bu teknolojiyi insan haklarının korunmasına uygun bir şekilde kullanacağına asla inanamaz.
Devletin önderlik ettiği ihtiyaçlar, teknoloji şirketlerini kendi ahlaki sorumluluklarından muaf tutamaz. Yüz tanıma teknolojisinin geliştirilmesi ve kullanımı, genel olarak sahip olunan sosyal değerlerle tutarlı olmalıdır. Yasal önerilerimizi yansıtan altı kılavuz yayınladık ve bunları yüz tanıma teknolojimize uyguladık Ayrıca bu ilkeleri uygulamak için sistemler ve araçlar yarattık. Diğer teknoloji şirketleri ve savunuculuk grupları da benzer yaklaşımları benimsemeye başladı.
Yüz tanıma sorunu, yapay zekanın diğer etik ve ahlaki zorluklarının nasıl gelişebileceğine dair bize bir fikir veriyor. Yaptığımız gibi, önce geniş çapta uygulanabilir ilkeleri formüle edebilir ve ardından bu ilkeleri belirli uygulamalarda ve yapay zeka teknolojisinin belirli senaryolarında test edebiliriz. Bu yöntem, potansiyel olarak tartışmalı AI uygulamalarının ortaya çıkma olasılığının daha yüksek olduğu durumlarda da geçerlidir.
Daha fazla sorun kesinlikle ortaya çıkacaktır. Ve yüz tanıma gibi, her problemle karşılaşıldığında, teknolojinin olası uygulaması için çok fazla titiz çalışma yapılması gerekiyor. Bu sorunların çoğunu çözmek için, nihayetinde yeni düzenleyici politikaların ve teknoloji şirketlerinin aktif öz denetimlerinin bir kombinasyonunu gerektirecektir. Bu tür pek çok sorunla karşılaşıldığında farklı ülke ve kültürlerin de farklı görüşleri vardır. Ülkelerin bu sorunları düzenli olarak ele almak için daha hızlı ve işbirliği içinde hareket etmelerini sağlamak için daha güçlü bir kapasite geliştirmemiz gerekiyor. Makinenin her zaman insanlar tarafından kontrol edilmesini sağlamanın tek yolu budur.
Yazarlar | Brad Smith, Carol Ann Brown
Entegrasyon | Li Yongbo
Düzenle | Sisi
Redaksiyon | Chen Diyan
İzleme için kullanılabilecek çeşitli elektronik cihazlar.
