ABD Senatosu, AI algoritması önyargısının değerlendirmesini yasama gündemine koyuyor: "Algoritma kara kutusu" ışık saçıyor mu?
Yapay zeka makine öğrenimi ile alınan otomatik kararlar hedef mi? Algoritma taraflıysa, yüz özellikleri gibi kişisel bilgileri kullandıktan sonra, algoritması tarafından üretilen karar verme sonuçlarından bir teknoloji şirketi veya başka bir kuruluş sorumlu olmalı mı?
10 Nisan'da yerel saatte, iki ABD Demokratik Senatörü Booker (Cory Booker) ve Wyden (Ron Wyden) ortaklaşa "2019 Algoritmik Hesap Verebilirlik Yasası" nı (2019 Algoritmik Hesap Verebilirlik Yasası) önerdi. Öğrenmede önyargı ve hassas kişisel bilgilerin kullanımı düzenlenir.
Tasarı, Federal Ticaret Komisyonu'nun (Federal Ticaret Komisyonu) "yüksek riskli otomatik karar sistemleri" için değerlendirme kurallarını mümkün olan en kısa sürede formüle etmesi gerektiğini öne sürüyor.Teknoloji şirketleri, algoritmaların ayrımcı önyargıları olup olmadığını ve tüketicilere karşı olup olmadığını değerlendirmelidir. Kişi mahremiyet veya güvenlik riski oluşturur.
Teknoloji medyası The Verge'e göre yasa tasarısı, esas olarak veri alanında büyük miktarda kişisel bilgi edinmiş teknoloji devlerini hedefliyor. Yıllık geliri 50 milyon ABD dolarından fazla olan ve en az 1 milyon kişisel veya cihaz bilgisine sahip şirketler veya ana işi kişisel verileri satın almak ve satmak olan teknoloji şirketleri bu faturanın ana düzenleyici hedefleri olacaktır.
2020 ABD başkan adayı Booker, yaptığı açıklamada, bazen bu teknoloji platformlarının kasıtsız olmasına rağmen, teknoloji platformlarında "kötü huylu" ayrımcılığın kullanımına yönelik daha güçlü tedbirlerin alınması gerektiğini söyledi.
Tasarının bir başka başlatıcısı Wyden, The Associated Press'e şunları söyledi: "Bilgisayarlar, Amerikalıların günlük yaşamlarında önemli kararlara giderek daha fazla dahil oluyor. Örneğin, başvuru sahiplerinin bir ev satın alıp alamayacağı, hangi işleri aradıkları veya hatta birini göndermeleri gerekip gerekmediği Hapishaneye gönderildi. Bu şirketler (Kanuna göre) değerlendirmeye ve soruşturmaya başladıklarında, sistemde birçok önyargılı karar verme görüşü bulacaklar. "Yapay zeka şirketlerinin şeffaflık ve açıklık konusundaki çabaları ile ilgili olarak, Wyden Dedi: "Burada öz düzenlemenin başarısız olduğu açıktır."
Bu tasarıda, "yüksek riskli otomatik karar verme sistemleri" esas olarak ırk, renk, etnik köken, siyasi görüş, din, sendika üyeliği, genetik veriler, biyometrik veriler, sağlık, cinsiyet kimliği, cinsel yönelim, ceza mahkumiyeti veya tutuklamayı içerenleri ifade eder. Kişisel bilgi sistemi. Bu sistemler bir bireyin iş performansını, ekonomik durumunu, sağlığını, kişisel tercihlerini, ilgi alanlarını, davranışını, konumunu veya eylemlerini analiz etmeye veya tahmin etmeye çalıştığında, böylece bireyin yasal haklarını değiştirdiğinde veya bu sistemler geniş bir halkı izlemek için kullanıldığında İlgili mevzuat tarafından değerlendirilmeli ve izlenmelidir.
Buna yanıt olarak, teknoloji şirketleri tarafından desteklenen bir düşünce kuruluşu olan Bilgi Teknolojileri ve İnovasyon Vakfı'nın müdür yardımcısı Daniel Castro, tasarıdan memnun olmadığını ifade etti. Şöyle dedi: "Bir kararın tüketicilerin çıkarlarına zarar verme riski yüksekse, o zaman bu ister bir algoritma ister bir kişi olsun, aynıdır. Algoritmaları zorunlu kılmak için daha yüksek standartların kullanılması, otomatik karar vermenin, insan kararlarından doğal olarak daha az önemli olduğu anlamına gelir. Daha tehlikeli ama değil. "
Castro ayrıca tasarının büyük şirketlere haksızlık olduğunu söyledi. Şirketin her yazılım güncellemesini değerlendirmesi gerekiyorsa kesinlikle ürün geliştirme sürecine zarar verecektir.
Associated Press, bu tasarının sunulmasının, veri ekonomisinin yönetiminin güçlendirilmesinin kademeli olarak her iki taraf tarafından desteklenen önemli bir sorun haline geldiğini gösterdiğine inanıyor. Tasarı Kongre'de geçtikten sonra, sosyal medyadan, çevrimiçi veri aracılık şirketlerinden, finansal algoritmalardan otonom sürüş yazılımına kadar her şey etkilenecek.
Ayrıca, "yüksek riskli otomatik karar verme sistemi" tarafından kullanılan tüm bilgiler arasında biyolojik özellikler en hassas ve risk faktörlerinden biridir. Ticari sektörde yüz tanıma teknolojisinin giderek yaygınlaşan kullanımı, Amerikalı milletvekilleri için büyük endişe yarattı. Daha geçen ay, Demokrat Senatör Brian Schatz ve Cumhuriyetçi Senatör Roy Blunt, 2019 Ticari Yüz Tanıma Gizlilik Yasasını (2019 Ticari Yüz Tanıma Gizlilik Yasası) önerdi. Bu tasarıya göre, şirketler halka açık yerlerde yüz tanıma teknolojisini kullanmadan ve herhangi bir veriyi üçüncü şahıslarla paylaşmadan önce kişilerin onayını almalıdır.
Ayrıca inceleme kurumlarının ürünleri kullanılmadan önce test etmelerini, algoritmik önyargı ve doğruluk sorunlarını ortadan kaldırmaya çalışmalarını ve yüz tanıma teknolojisi hizmet sağlayıcılarının Federal Ticaret Komisyonu ve Ulusal Standartlar ve Teknoloji Enstitüsü tarafından belirlenen güvenlik standartlarını karşılamalarını gerektirecektir. .
Peki, algoritmik önyargı pratikte nasıl ortaya çıkıyor?
Bir yandan, makine öğrenimi algoritmalarının ayrıntıları genellikle patent koruması kapsamına girer ve bu nedenle teknoloji şirketleri tarafından kesinlikle gizlidir. Öte yandan, algoritmaların kendisi o kadar karmaşık olabilir ki, kodu oluşturan kişi bile nasıl çalıştığını bilmez. Bu sözde "kara kutu" sorunudur.
Bilim ve teknoloji dergisi "Futurism" yazarı Bahar Gholipour, geçen yıl, algoritmaların "kara kutusu" nun bilgisayar bilimcileri arasında uzun yıllardır dolaştığına dair endişelerin olduğunu yazdı.Son iki yıldır yapay zekanın adaletine dair endişeler var. Makale sayısındaki keskin artış, insanların bu konuya artan ilgisini ve endişesini yansıtıyor.
Hunan Normal Üniversitesi Yapay Zeka Etik Karar Verme Enstitüsü'nden Ph.D. Hu Xiaomeng ve Shanghai Mana Veri Teknolojisi Geliştirme Vakfı Araştırmacısı Hu Xiaomeng, Interface News'e şunları söyledi: "(algoritma) teknisyenleri genellikle otomatik karar verme sistemlerinin tasarımı, geliştirilmesi ve işletilmesinden sorumludur. Alt kümede, çok az kişi teknolojinin tam resmini anlayabilir. Kimse anlamaz, bu da hiç kimsenin teknolojiyi (kullanım ve geliştirme) sıkı veya etkili bir şekilde kontrol edemeyeceği anlamına gelir. "
Makine öğrenimi algoritmaları tarihsel verilere dayandığından Hu Xiaomeng, "algoritmaların ürün ve hizmetlerin tasarım sürecine kaçınılmaz olarak değer ve etik getireceğine ve iş kararlarına değer katacağına inanıyor. Şirketler için. Başka bir deyişle, değerleri ve etiğin dikkate alınmasının amacı sadece mevcut sorunları çözmek ve büyük faydalar sağlamak değil, aynı zamanda kararın kendisinin kurum ve kullanıcılar tarafından kabul edilip edilmeyeceği ve algoritma çıktısının sonuçlarına kullanıcılar tarafından güvenilip güvenilmeyeceğidir. "
Algoritmik önyargının toplum üzerindeki genel etkisine gelince, Golipper makalesinde şunları söyledi: "Bu sorun çözülemezse toplumumuzu yok eder. Çünkü bu algoritmalar, kırmak için çabaladığımız tüm ayrımcılığın kalıcı olarak olmasını sağlayacaktır. Geleceğimizle kodlandı. "
Teknoloji dergisi Wired, 2017'de, makine öğreniminin otomatik karar verme mekanizmasının ABD Anayasası tarafından garanti edilen "yasal süreç" için bir tehdit oluşturduğu bir makale yayınladı.
Makale, New York Üniversitesi'nin tanınmış yapay zeka araştırma enstitüsü AI'dan bir rapordan alıntı yaptı Artık ceza adaleti, sağlık ve refahtan sorumlu kamu kurumları, kefalet ve hapis gibi önemli olaylara rehberlik etmek veya kararlar vermek için giderek daha fazla puanlama sistemleri ve yazılım kullanıyor , Kolluk kuvvetleri vb. Ancak hükümet bu algoritmaları kullanırken dikkatli olmalıdır.
AI Now'ın kurucusu Kate Crawford, "Algoritmalar tarafından alınan otomatik kararlarda, insanlara insan kararlarıyla aynı yasal süreç korumasını sağlamalıyız" dedi.
Booker ve Wyden tarafından 10 Nisan'da ortaya konan yasa tasarısı, yasa koyucuların algoritmaların "kara kutusunu" düzenlemeye çalıştığı ilk şey değil. 25 Mayıs 2018'de, "AB Genel Veri Koruma Yönetmeliği" (GDPR) yürürlüğe girdi. En tartışmalı hükümlerden biri, tüketicilerin otomatik karar vermeyi "yorumlama hakkına" sahip olması ve belirli koşullar altında tüketicilerin bu hakka sahip olmasıdır. Tamamen (yapay zeka) otomatik sistemler tarafından alınan büyük kararlar kabul edilmez. Bu yasa tasarısı yürürlüğe girmeden önce, dünyanın dört bir yanındaki tüketicilerin yapay zeka algoritmaları tarafından alınan otomatik kararlara meydan okuyacak veya bunlara meydan okuyacak yasal araçları yoktu.
Öyleyse, "kara kutu" algoritmasının açıklanamazlığı teknik olarak çözülemez mi?
Duke Üniversitesi'nde bilgisayar bilimi, elektrik ve bilgisayar mühendisliği doçenti olan Cynthia Rudin, bir keresinde Fütürizm'e bilgisayar bilimcilerinin "kara kutu" olmayan algoritma modelleri oluşturma yeteneğine sahip olduklarını söylemişti. Dedi ki: "Ancak, insanların bu işi fark etmeleri zor. Devlet kurumları 'kara kutu' algoritması için ödeme yapmayı bırakırsa, yardımcı olacaktır. Yargıç karar vermek için 'kara kutu' algoritmasını kullanmayı reddederse, o da Yardımcı olacaktır."
Bu bağlamda Hu Xiaomeng, algoritmalar çağında sosyal iktidarın işleyişinin kara kutuda olduğuna inanıyor ve bu nedenle, "algoritmalar üzerinde hukukun üstünlüğünün amacı, sosyal gücün işleyişini güneşli kılmaktır."
Toplum Her Şeyin İnterneti ile yaygın bilgi işlem çağına ulaştığında, her şey dijitalleşir ve tüm sosyal işlemler algoritmalar (otomatik karar verme sistemleri) tarafından yönetilebilir. O zamana kadar algoritmalar (otomatik karar verme sistemleri) haline gelecektir. Sosyal altyapının bir parçası Bu yüzden algoritmanın güneşli olması ve şeffaflığın anlamak için gerekli bir yol olması zorunludur.
