AI etiğinin ardındaki Game of Thrones
Papa, geçtiğimiz günlerde Vatikan Şehrinde düzenlenen "Dijital Çağ Bilim ve Teknoloji Yardım Konferansı" nda Facebook yöneticilerini, risk sermayedarlarını ve hükümet düzenleyicilerini yapay zeka ve diğer teknolojilerin etkisine karşı tetikte olmaya çağırdı. "İnsanlığın sözde teknolojik ilerlemesi ortak çıkarların düşmanı haline gelirse, talihsiz bir dönüşe yol açacak ve insanlık, en güçlülerin yasası tarafından yönetilen barbar bir devlete geri dönecektir." Dedi.
Bu yaz, Joy Buolamwini ve Demokrat Temsilcisi Alexandria Ocasio-Cortez Kongre'de ifade verdiler.Çok sayıda denetim, yüz tanıma teknolojisinin beyaz erkekler için en iyi, siyahi kadınlar için ise en kötüsü olduğunu buldu.
Bu iki olayın ortak noktası, her ikisinin de yapay zeka etiğindeki güç dinamikleri arasındaki ilişkiyi tartışmalarıdır.
Yapay zeka etiği konusundaki tartışma, "güç" kelimesinden söz edilmeden yürütülebilir, ancak "güç" genellikle sorunun altında gizlidir. Aslında, nadiren doğrudan odak noktasıdır, ancak öyle olmalıdır. Yapay zekadaki güç yerçekimi gibidir, yapay zekada tüm etik düşünceyi etkileyen görünmez bir kuvvet vardır.
Güç, bu kullanım durumlarıyla ilgili yöntemleri, önceliklendirilmesi gereken konuları ve araçların, ürünlerin ve hizmetlerin kime hizmet ettiğini etkiler.
Şirketlerin ve ülkelerin teknoloji kullanımını yönetmek için nasıl politikalar yaptıkları konusundaki tartışmanın temelini oluşturur.
Demokratikleşme, adalet ve sorumlu yapay zeka hakkındaki konuşmalarda var - Google CEO'su Sundar Pichai yapay zeka araştırmacılarını ofisine davet etti; en iyi makine öğrenimi uygulayıcıları modern filozoflar olarak görülüyor Kral; Elon Musk ve diğerleri, yapay zeka teknolojisinin önümüzdeki birkaç on yıl içinde insanlar üzerinde yaratabileceği korkunç etkiyi anlatıyor ...
Tüketiciler veri korumanın umutsuz olduğunu hissedebilir veya mühendisler bir şeyin ahlaki açıdan sorunlu olduğunu bilir, ancak çare bulamazlar.
Genel olarak, yeni başlayanlar etik standartları güzel bir ek koşul olarak ele alabilir, ancak bunlar gerekli değildir. Pazara ilk giren ve ürün çıkışını son teslim tarihinden önce tamamlamak isteyen mühendisler, kıymetli zamanın etik kurallarını dikkate alma fikrine gülebilirler. CEO'lar ve politikacılar yalnızca ahlak hakkında konuşabilirler, ancak sonunda sadece sempati sinyalleri veya ahlaki temizlik göndereceklerdir.
Yapay zeka, 21. yüzyılın en büyük insan hakları sorunlarından biri olarak biliniyor. Bu sadece doğru şeyi yapmak veya mümkün olan en iyi yapay zeka sistemini yapmak değil, gücü kimin elinde tuttuğuyla ve yapay zekanın ilgili tüm güçlerin dengesini nasıl etkilediğiyle ilgili.
Bu güç dinamikleri işletmeyi, toplumu, hükümeti, dünyadaki bireylerin yaşamlarını, mahremiyetin geleceğini ve hatta gelecekteki haklarımızı tanımlayacaktır. Hemen hemen her yapay zeka ürün yöneticisi, işlerin daha yeni başladığını söylemeyi sever ama yapay zeka çağında dengesiz güç dinamikleri çözülemezse tehlikeli sonuçlar ortaya çıkabilir.
İşgücü piyasası ve yeni altın çağ
Derin öğrenme, bulut bilişim, GPU'lar gibi işlemciler ve sinir ağlarını daha hızlı eğitmek için gereken bilgi işlem gücü - bu teknolojiler büyük teknoloji şirketlerinin temel taşları haline geldi - günümüzün rönesansını besliyor.
Dördüncü sanayi devrimi, tarihi gelir eşitsizliği ve yeni yaldızlı bir çağla çakışıyor. Tıpkı 19. yüzyılda demiryolunun kralı çiftçilerin zihniyetini pazara ürün getirmek için kullandığı gibi, tescilli veri setlerine sahip teknoloji şirketleri de pazar konumlarını ve tekellerini daha da güçlendirmek için yapay zeka kullandılar.
Veriler petrolden daha değerli olduğunda, değerli verilere sahip şirketlerin büyük bir avantajı var , Zenginlik veya endüstri lideri konumunu pekiştirme olasılığı yüksektir. Bu elbette Apple, Facebook, Google, IBM ve Microsoft gibi büyük şirketler için geçerlidir, ancak geleneksel işletmeler için de geçerlidir.
Aynı zamanda, teknoloji devlerinin birleşme ve satın almalarının hızı, güçlerini hızlandırdı ve daha da pekiştirdi, böylece diğer eğilimleri pekiştirdi, çünkü Ar-Ge neredeyse tamamen büyük şirketlere ait.
Stanford Üniversitesi'ndeki İnsan Merkezi'ndeki Yapay Zeka Enstitüsü'nün (HAI) yakın tarihli bir raporuna göre, yapay zekanın sürekli büyümesi büyük sosyal dengesizliklere neden olabilir.
ABD hükümetine bir HAI önerisi, "Yapay zekanın potansiyel mali avantajı çok büyük ve yapay zekanın zenginleri ile fakirleri arasındaki uçurum çok derin. Bildiğimiz kadarıyla küresel ekonomik denge, bir dizi felaket yapısıyla değiştirilebilir." Önümüzdeki 10 yılda eğitime, araştırmaya ve girişimciliğe 120 milyar ABD doları yatırım yapın.
Teklifin ortak yazarı, Google Cloud'un eski baş yapay zeka bilimcisi Dr. Feifei Li'dir. diyor: "Doğru yönlendirilirse, yapay zeka çağı herkes için müreffeh bir dönem getirebilir."
PricewaterhouseCoopers, 2030 yılına kadar yapay zekanın küresel ekonomiye 15,7 trilyon dolar katkıda bulunacağını tahmin ediyor. Ancak, bunu sorumsuzca kullanırsak, servet ve güç bu yeni çağı kucaklayan birkaç elit üzerinde daha fazla yoğunlaşacak ve dünyadaki çoğu insan yoksulluğa düşecek ve misyon duygusunu kaybedecek. "
Massachusetts Institute of Technology'de (MIT) Dijital Ekonomi Girişimi direktörü Erik Brynjolfsson, yapay zekanın gelecekteki işler üzerindeki etkisini inceledi. Brynjolfsson, önümüzdeki birkaç yıl içinde değiştirilebilecek makine öğrenimi için uygun işlerin sayısı hakkında konuşurken şunları söyledi: "Genel ekonomiye bakarsanız, bir eğilimin geldiğini göreceksiniz. Makine zekası işyerindeki görevleri yeniden tasarlamak ve artırmak için kullanılabilir, ancak çoğunlukla işin yerini almak için kullanılır."
Brookings Enstitüsü tarafından yapılan analiz ve Carnegie Mellon Üniversitesi'nden Brynjolfsson ve Tom Mitchell tarafından yapılan araştırmalar, otomasyonun işsizlik üzerindeki etkisinin şehir ve eyalete göre değişmesinin beklendiğini, ayrıca istikrarsız istihdam veya işsizliğin düşük gelirleri etkilemesi beklendiğini gösteriyor. Aileler ve beyaz olmayan insanlar orantısız bir etkiye sahiptir. Yakın tarihli bir McKinsey raporu, otomasyonun Afrikalı Amerikalı erkekler arasında en yüksek işsizliğe neden olacağını belirtti.
Önceden, Amerika Birleşik Devletleri'ndeki medyan gelir 2000'den beri durmuştu. Brynjolfsson, medyan gelir artışı ile üretkenlik artışı arasındaki ilişkiye "büyük ayrışma" adını verdi.
Dedi ki: "20. yüzyılın çoğu için, bu roller birbiriyle ilişkiliydi - daha fazla üretim, daha fazla zenginlik, daha yüksek üretkenlik - sıradan insanların zenginliğiyle yakından ilişkiliydi, ancak son zamanlarda bu roller Farklılıklar var. Pasta büyüyor ve büyüyor ve daha fazla zenginlik yarattık, ancak bu servet birkaç kişinin elinde toplanıyor. "
Brynjolfsson, yapay zeka topluluğunun karşılaştığı zorlukların, ABD Savunma Bakanlığı İleri Araştırma Projeleri Ajansı'nın (DARPA) otonom araç mücadelesinin (otonom araç meydan okuması) ve bilgisayar vizyonunun ImageNet'inin yapay zekanın en gelişmiş alanlarında bir sıçrama gerçekleştirmesini sağladığına inanıyor. Yapay zeka topluluğu dikkatini paylaşılan refaha çevirmeye başlamalı.
"Pek çok insan geride kalmış olabilir. Aslında pek çok insan geride kaldı. Bu yüzden bence şu anda en acil zorluğun, onu tam olarak desteklememe rağmen, sadece daha iyi teknoloji değil, ortak refah yaratmak olduğunu düşünüyorum."
Teknoloji devleri ve güce giden yol
Yapay zekanın popülaritesiyle birlikte, Amerikan tarihinde ilk kez, işgücünün çoğunun renkli insanlar olması bir başka önemli eğilimdir. ABD Sayım Bürosu'nun tahminine göre, 2030 yılına kadar ABD'deki çoğu şehir ve hatta tüm ülke artık çoğunluk yarışına sahip olmayacak.
Bu demografik değişiklikler, yapay zeka şirketlerinde çeşitlilik eksikliğini daha belirgin hale getirdi. AI Now Enstitüsü müdürü Kate Crawford, karar verme sisteminin yaratılmasında ırksal ve cinsiyet çeşitliliğinin olmaması, bunu "beyaz sorun" olarak adlandırıyor.
Resim kaynağı: Google Çeşitlilik Raporu 2019-Teknik İş Gücü Temsilcilerinin Cinsiyet ve Irk İstatistikleri
Wired ve Element AI tarafından 2018 yılında yapılan bir analize göre, Büyük yapay zeka konferanslarında yayınlanan araştırmada, kadınlar yalnızca% 18, Facebook ve Google araştırmacıları ise yalnızca% 15 ve% 10'unu oluşturdu. . İki şirketin sözcüleri, Google ve Facebook'un yapay zeka araştırmalarının çeşitliliği hakkında veri sağlamadığını söyledi.
AI Now Research Institute tarafından bu yıl Nisan ayında yayınlanan bir rapor, "teknik araştırmadan sorumlu mühendislik uzmanları ile yapay zeka sistemlerini kullanan son derece çeşitli popülasyonlar arasındaki belirgin kültürel farklılıkları" ayrıntılı olarak açıkladı. Örgüt buna "yapay zeka hesap verebilirlik açığı" adını verdi.
Raporda ayrıca, Facebook veya YouTube içeriği için gerekli on binlerce moderatör gibi yapay zeka sisteminde gizli insan kaynakları ya da Kiwibot dağıtım robotunu San Francisco Körfez Bölgesi'ndeki California Üniversitesi, Berkeley yakınlarında uzaktan kullanan Kiwibot sürücüleri de kabul etti. .
Resim kaynağı: Facebook 2019 Çeşitlilik Verileri-Facebook Teknik İş Gücü Irklara Göre
Rapor şunları belirtti: "Yapay zekadan gelişen ve kâr elde eden şirketler ile olumsuz etkilenme olasılığı en yüksek olanlar arasındaki uçurum daralmak yerine genişliyor." Rapor, yapay zeka endüstrisinin hükümet denetiminden yoksun olduğuna ve gücün birkaç kişide yoğunlaştığına işaret etti. Birkaç şirketin elinde.
Bu yılın Ağustos ayında Los Angeles, Kaliforniya Üniversitesi'nde Dr. Safiya Noble ve Sarah Roberts tarafından yayınlanan bir makalede, teknoloji endüstrisindeki çeşitlilik eksikliğinin etkisi belgelendi. Aslında kaynakları depolamak için bir güç sistemi olan "dijital teknoloji kuralının yükselişine" tanık olduğumuza inanıyorlar. Bir kişinin değerini ırk kimliği, cinsiyet veya sınıfa göre yargılayabilir.
"Federal yasalar altında bile, ABD şirketleri ırk ayrımcılığını sona erdirmek için" ve "yenileyemez". Modern dijital teknoloji seçkinleri arasında, elitizm ve entelektüel üstünlük efsanesi orantısız bir şekilde ırk ve cinsiyet sembolü olarak kullanılmaktadır. Beyaz olmayan insanlardan, özellikle de Afrikalı Amerikalılardan, Latinlerden ve Kızılderililerden gelen kaynakları entegre edin. " "Elit efsanesine yapılan yatırım, dijital elitin ürünleri ırk, sınıf ve cinsiyet belirteçleriyle dolu olsa bile ırkçılık ve ayrımcılık hakkındaki soruları bastırıyor."
İnsanlar teknoloji endüstrisinin çeşitlendirme probleminin nasıl çözüleceğinden bahsediyor olsalar da, teknoloji endüstrisinin pek çok yönü sadece kademeli bir ilerleme kaydetti ve Latin veya siyah girişimciler için finansman hala beyaz girişimcilerin gerisinde kalıyor. Teknoloji endüstrisindeki çeşitlilik ve katılım girişimlerinde genel ilerleme eksikliğini gidermek için, bir çift veri ve toplum araştırmacısı, teknoloji şirketlerinin ve yapay zeka şirketlerinin ırk okuryazarlığını benimsemelerini önerdi.
Bunlardan biri, Mutale Nkonde, bu yılın başlarında Kongre'nin her iki meclisinde de uygulamaya konulan ve Federal Ticaret Komisyonu'nun (FTC) algoritmik önyargıyı değerlendirmesini ve ajansın bunu yapmasına izin vermesini gerektiren Algoritmik Hesap Verebilirlik Yasası'nın ortak yazarıdır. Ölçek para cezası verdi.
Aynı zamanda yapay zeka yönetici direktörü ve Harvard Üniversitesi Berkman Klein İnternet ve Toplum Merkezi'nde araştırmacıdır. Şimdi 2020 seçimlerinde Afrikalı Amerikalıları hedef almak için yapay zeka ve yanlış bilginin nasıl kullanılabileceğini değerlendiriyor. Senato İstihbarat komitesi tarafından Ekim ayında yayınlanan bir anket, 2016 seçimlerine yapılan müdahalelerin yalnızca Facebook, Twitter ve Instagram'daki Afrikalı Amerikalıları hedef aldığını ortaya koydu.
Bundan önce, o ve küçük bir ekip ırk okuryazarlığı kavramını ilerletmeye kararlıydı.
Nkonde ve ortak yazarları, yıllık çeşitlilik raporları yayınlayan teknoloji devleri tarafından desteklenen örtük önyargı eğitimi ve çeşitlilik girişimlerinin, kullanıcılara benzeyen bir teknoloji işgücü yaratmada rol oynamadığına inanıyor. Anlamlı bir ilerleme kaydetmek için şirketler belirsiz isteklerini bir kenara bırakmalı ve insanları ırk okuryazarlığı konusunda eğitmek için somut adımlar atmaya başlamalıdır.
Irk okuryazarlığının çerçevesini açıklayan bir makale şöyle yazıyordu: "Bilimsel ve teknolojik alanda ırk okuryazarlığı kurmanın asıl amacı, farklı bir dünya, eski modeli kırabileceğimiz bir dünya hayal etmektir. Teknik alandaki ırk sorunu kasıtlı olarak çözülmezse, yeni Teknoloji kaçınılmaz olarak eski farklılıkları yeniden üretecek. Ama durum böyle değil. "
Ortak yazarlar, ırksal okuryazarlığın bilgisayar bilimi öğrenci müfredatının ve teknoloji şirketi çalışanlarının eğitiminin bir parçası olacağını umuyorlar. Yöntemleri, Howard Stevenson'un okullar için ırksal okuryazarlık eğitiminden ödünç aldı ve insanlar tarafından tutulan klişeleri belirlemek için örtük ilişkilendirme testleri içeriyordu.
Irk okuryazarlığı, insanlara işyerindeki ırksal stresi çözmek için eğitim sağlamayı ve duygusal zekalarını geliştirmeyi amaçlamaktadır. Bu, bilgisayar bilimcileri ve tasarımcılarının yanı sıra makine öğrenimi mühendislerini içerebilir ve bir ürün veya hizmetin yapısal ırkçılığı nasıl sürdürebileceği veya farklı kullanıcı gruplarını nasıl olumsuz etkileyebileceği hakkında açıkça konuşmalarına izin verebilir.
Bunun amacı, insanların olası ürün veya hizmet sorunlarını açık ve çatışmasız bir şekilde tartışmalarına izin vermektir. Araştırmacılar, büyük ve orta ölçekli teknoloji şirketlerinin çalışanları ile yapılan görüşmelerde, birçok teknoloji şirketinde ırkla ilgili konuların tabu olduğunu buldu.
Nkonde, "İnsanlar bunun önemi yokmuş gibi davranmak istiyor ve bu aslında ırkçı kalıpları ve davranışları pekiştiriyor." Dedi. "Bu, şirketlerin değerlerini ifade etmekten kaçınarak herkese hitap etmeye çalışmak yerine, değerleri konusunda net olmaları gerektiği anlamına gelecektir."
Nkonde, Alphabet gibi şirketler, hükümete satılan tıbbi hizmetler veya yüz tanıma yazılımları gibi insanların yaşamları için hayati önem taşıyan ürünler geliştirdikçe, etnik okuryazarlığın giderek daha önemli hale geleceğine inanıyor.
Etnik okuryazarlık eğitiminin beklenen bir diğer sonucu, şirket içinde farklı bir iş gücünde değeri görebilecek bir kültür oluşturmaktır. Boston Consulting Group tarafından geçen yıl yayınlanan bir araştırma raporu, daha çeşitli kuruluşların daha yüksek gelirlere ve yenilikçi yeteneklere sahip olduğunu buldu. Ancak işe alma ve elde tutma verileri bir şey gösteriyorsa, Silikon Vadisi'nin teknoloji devleri bunu henüz fark etmemiş gibi görünüyor.
LinkedIn'de kıdemli bir yazılım mühendisi olan Guillaume Saint-Jacques, AI etiğinin sadece doğru şey olmadığına ve ticari olarak makul olduğuna inanıyor. Önyargının karı engelleyeceğine inanıyor.
"Çok fazla önyargınız varsa, yalnızca tek bir gruba hitap edebilirsiniz, bu da nihai olarak kullanıcı tabanınızın büyümesini sınırlar, bu nedenle iş açısından herkesin katılmasını istersiniz ... Uzun vadede, bu Aslında bu iyi bir iş kararı. "
Kişisel özerklik ve otomasyon
Güçlü şirketler güçlerini farklı şekillerde gösterebilir, ancak iş planlarının bireyler üzerinde etkisi olacaktır.
Bu yeni güç yapısının belki de en iyi özeti Harvard Business School'da emekli bir profesör olan Shoshana Zuboff'un "Gözetim Kapitalizmi Çağı" kitabından geliyor. Kitap, yaşamlarımızda bir fark yaratmak için yapay zeka sistemlerine veri girişi toplamak için kameralar, akıllı ev cihazları ve akıllı telefonlar gibi sensörleri birleştiren yeni bir kapitalizm biçiminin yaratılışını detaylandırıyor. "Davranışımızı geniş ölçekte anlamak ve şekillendirmek" için tahminlerde bulunun (tüketiciler olarak nasıl davranacağımız gibi).
"Gözetim kapitalizmi tek taraflı olarak insan deneyiminin davranışsal verilere dönüştürülebilen ücretsiz bir ham kaynak olduğunu iddia ediyor. Verilerin (içgörüler) bazıları ürün veya hizmetleri iyileştirmek için kullanılsa da, geri kalanı tescilli olarak ilan edildi. Davranışsal fazlalık, 'makine zekası' adı verilen gelişmiş bir üretim sürecine besleniyor ve öngörücü ürünler haline getirilerek şimdi, yakın gelecekte ve gelecekte ne yapacağınızı tahmin ediyor, "diye yazdı Zuboff.
Bu ekonomik düzenin Silikon Vadisi'nde Google tarafından yaratıldığına inanıyor, ancak daha sonra Amazon, Facebook ve Microsoft gibi Çinli meslektaşları ile Baidu ve Tencent tarafından benimsendi.
Zuboff, gözetim kapitalizmini, neredeyse hiç kimsenin tam olarak anlayamadığı, benzeri görülmemiş bir güç biçimi olarak tanımladı ve şu anda ona karşı koyacak etkili kolektif veya politik eylem araçlarının olmadığını belirtti.
Piyasa "tamamen belirli bir projeye dönüştüğünde" düzenleyici kapitalizmin insan doğasına ciddi zararlar verebileceğini sorguladı. Zuboff, bu görece yeni piyasa gücünün kontrolsüz bırakılırsa halkın egemenliğini devirebileceğini ve Batı liberal demokrasileri için bir tehdit haline gelebileceğini ve "hayal gücü, irade, vaat ve geleceği inşa etme" kavramına dönüşebileceğini söyledi.
Bu büyük şirketler "bizden pek çok yeni bilgi biriktiriyor, ama bizim için değil. Geleceğimizin başkalarının yararına olacağını öngörüyorlar. Düzenleyici kapitalizm ve onun davranışsal gelecek piyasası gelişebildiği sürece, yeni davranış değiştirme yöntemleri Mülkiyet, 21. yüzyılda üretim araçlarının mülkiyetini gölgede bırakacak ve kapitalizm için zenginlik ve güç kaynağı haline gelecektir. "
Zuboff, gözetim kapitalizminin önemli bir yan ürününün ezici bir çaresizlik duygusu olduğuna inanıyor. İnsanların omuz silktiğini ve hiçbir şeyin büyük kaynaklara ve servete sahip büyük teknoloji şirketlerini durduramayacağını söylediklerini görüyorsunuz.
Bilgi sızdıran Edward Snowden, Zuboff'un yargısına katılıyor gibiydi.
Şirketler ve hükümetler, kullanıcı etkinliklerini izlemek için mobil cihazlardan Çin'in "sosyal kredi puanına" kadar insan hayatını etkileyen kararlar almak için meta veri toplamayı giderek daha fazla kullanıyor. Snowden'e geçtiğimiz günlerde National Broadcasting Corporation (NBC) ile yaptığı bir röportajda suç işlemeyen kişilerin neden gözetim teknolojisine dikkat etmesi gerektiği sorulmuş ve bu verilerin amacının genellikle kişisel gözetimi ortadan kaldırmak olduğunu söyledi.
"Bu faaliyet kayıtları, şirketler ve hükümetler tarafından sürekli olarak oluşturulur, paylaşılır, toplanır ve ele geçirilir. Sonuç olarak, bu, bunları sattıklarında, ticaret yaptıklarında, bu kayıtlara dayanarak iş yaptıklarında, bilgi satmadıkları anlamına gelir. Bizi satıyorlar. Geleceğimizi satıyorlar. Geçmişimizi satıyorlar. Tarihimizi, kimliğimizi satıyorlar ve sonunda gücümüzü çaldılar ve hikayelerimizin onlara hizmet etmesine izin verdiler. "
Princeton Üniversitesi'nde doçent olan ve "Race After Technology" kitabının yazarı Ruha Benjamin, ajans sorunlarına da dikkat ediyor, çünkü insanlar ister dünyanın sonunu getirmek için yapay zekayı desteklesinler, ister ütopya vizyonunu destekliyorlar, makinelere güç vermekten bahsediyorlar. .
Benjamin, Nairobi'deki Kenyatta Üniversitesi'nde düzenlenen Derin Öğrenme Konferansı'nda şunları söyledi: "Teknoloji ister bizi kurtaracak, ister öldürecek, güçten vazgeçiyorlar."
Büyük şirketlerde kişisel gücün çok farklı bir tezahürü ortaya çıktı. Örneğin, yaklaşık bir yıl önce, dünya çapında 20.000'den fazla Google çalışanı, çeşitli etik sorunlar nedeniyle grev yaptı. Etkinliğin organizatörlerine göre, aralarında Android'in kurucusu Andy Rubin'in cinsel taciz iddialarının ardından 90 milyon dolarlık tazminat, zorunlu tahkimin sona ermesi ve Google'ın Pentagon'un Maven projesine katılımı.
Birkaç ay önce, binlerce Google çalışanı, şirketin drone hedef tespiti için AI projesine katılımını protesto eden bir açık mektup imzaladı. Birkaç ay sonra Google, Maven sözleşmesini 2019'da feshetme sözü verdi ve otomatik silah üretmeme sözü de dahil olmak üzere bir dizi yapay zeka ilkesi yayınladı.
Benzer şekilde, Facebook çalışanları, gerçekleri doğrulamak veya siyasi reklamları yasaklamak için CEO Mark Zuckerberg'i çağırırken, Microsoft ve GitHub çalışanları ICE ile sözleşmenin feshi çağrısında bulundu.
Büyük teknoloji şirketlerine meydan okumak, özellikle bu şirketler tarafından istihdam edilenler için cesaret ve organizasyon gerektirir, ancak bu protestolar, bireylerin devlerin karşısında bile bir miktar güç kazanabileceklerini göstermektedir.
Hükümet ve toplum
Bugün yapay zekanın yeniden canlanmasıyla Elon Musk, katil robotlar ve yapay genel zeka (AGI) hakkında alarm veren çağdaş Paul Revere (Paul Revere) oldu. Rusya Devlet Başkanı Vladimir Putin, yapay zekayı kontrol eden ülkelerin dünyayı kontrol edeceğini söylediğinde, Musk, yapay zeka silahlanma yarışının III.Dünya Savaşı'na yol açacağına inandığını söyledi.
Musk, 4.500'den fazla yapay zeka ve robotik araştırmacısının saflarına katıldı ve insansız otomatik silahlara karşı gelecek için savaşmak için açık bir mektup imzaladı. Ülke, insan yaşamını ya da ölümünü seçme gücüne sahip özerk katil robotları piyasaya sürerse ya da çıkarsa, bu gerçekten gücün nihai ifadesi haline gelebilir.
Bununla birlikte, Musk gibi insanların hipotezlere çok dikkat etmelerine rağmen, yüz tanıma zaten gerçek zamanlı yüz tanımayı test eden Detroit Polis Departmanı gibi bazı şehirlerde kullanılıyor. Aynı zamanda, algoritmanın döndürdüğü sonuçların milyonlarca Afrikalı Amerikalının hayatını olumsuz etkilediğine ve ikili olmayan cinsiyetlerin ve beyaz olmayan insanların performansının zayıf olduğuna inanılıyor.
"Terminatör: Skynet" gibi AGI sahneleri henüz ortaya çıkmamış olabilir, ancak ordu zaten yapay zekanın etik uygulamasını düşünüyor.
Yapay zeka, güç ve sivil toplum
Çevrimiçi siyasi konuşmayı kontrol etmek için yapay zeka kullanımını çevreleyen mücadele devam etse de, aracıların ve savunuculuk organizasyonlarının teknoloji devlerinin ön yargıçların kefalet değerlendirmelerinde yargıçların yerini alması için algoritmaların kullanılmasını yasaklamasına neden olan önyargı gibi yeni sorunlar ortaya çıkmaya devam ediyor.
Apple, Facebook ve Google gibi şirketlerin yapay zeka araştırmacıları tarafından oluşturulan yapay zeka ortaklıkları, Uluslararası Af Örgütü ve İnsan Hakları İzleme gibi kuruluşları dünyanın en büyük yapay zeka şirketleriyle birbirine bağlar. İcra Direktörü Terah Lyons, yapay zekanın toplumu nasıl etkileyeceğine dair STK'lar ile teknoloji devleri arasındaki yapay zeka etiği tartışmasının merkezinde gücün yer aldığını söyledi.
Yapay zeka endüstrisinin çeşitlilikten yoksun olduğuna, sistem ve araçların inşası ve konuşlandırılması üzerinde ve teknoloji şirketlerinin ve bireylerin kurumlar içindeki gücü ve etkisinden yoksun olduğuna inanıyor. Bunların hepsi iş başında.
"Bu büyük ve kaynak zengini teknoloji şirketleriyle karşılaştırıldığında, sivil toplum ve kar amacı gütmeyen kuruluşların güç ve kaynak tahsisinde az miktarda kaynakla birçok farklılık var. Bu nedenle onları daha etkin bir şekilde güçlendirmek için başlangıç noktanızın bu olduğunu düşünüyorum. İşbirliği ve adil rekabet için önemli bir faktör. "Dedi.
Aynı seyahat kısıtlamaları, uluslararası konferanslara katılmakla ilgilenen yapay zeka araştırmacılarını da etkileyecek. Geçtiğimiz yıl NeurIPS tarafından Kanada'nın Montreal kentinde düzenlenen Yapay Zeka Semineri'nde katılımcıların yaklaşık yarısı göçmenlik yetkilileri tarafından reddedildi ve bu yıl başvuranlar aynı durumu tekrar bildirdi.
Bu tür olaylar, yapay zeka alanındaki ortakları, tıpkı dünyanın belirli yerlerindeki tıp uzmanları, sporcular ve girişimciler için vize gibi, yapay zeka araştırma konferanslarına seyahat için özel vize sağlamaya teşvik etmeye teşvik etti.
Devlet ile teknoloji devleri arasındaki güç ilişkileri
Casper Klynge, Danimarka'nın Silikon Vadisi Büyükelçisidir. Bazı ülkelerin San Francisco Körfez Bölgesi'nde iş ve yenilik merkezleri vardır, ancak Klynge, bir ülkenin diplomatik çıkarlarını temsil etmek üzere Silikon Vadisi'ne gönderilen ilk büyükelçidir.
Danimarka hükümeti, onu dünyada çok sayıda yapay zeka yeteneğini bir araya getiren Apple, Amazon, Google ve Facebook gibi şirketlerle ilgilenmesi için küresel bir süper güç olarak gönderdi. Klynge, ortak bir amaç için birlikte çalışabilmeleri için daha küçük ülkelerin de aynısını yapması gerektiğine inanıyor. Klynge, NATO genel sekreteri olarak geçirdiği iki yılda, diğer küçük ülkelerle çok taraflı ittifaklar kurmanın işinin bir parçası olduğunu öğrendiğini söyledi.
Tekeller hükümet için yeni değil, ancak Klynge, otonom sürüş ve arama gibi yapay zekanın oyunun kurallarını değiştirdiğini, bu tür bir teknoloji şirketini ulusal çıkarlar için diğer birçok ülkeden daha önemli hale getirdiğini ve Danimarka için bir tehdit oluşturduğunu söyledi. Teknolojik diplomasi için sözde talep.
Klynge, teknoloji devlerinin uluslararası ilişkilerin doğasını bozduğuna ve yeni bir gerçeklik yarattığına, yani ülkelerin teknoloji devlerine küresel süper güçler gibi davranması gerektiğine işaret etti.
"Artık onları tarafsız platformlar olarak göremiyoruz, onlar sadece insanların yapmak istediklerinin tarafsız sağlayıcıları. Bence onlara daha olgun ve sorumlu bir şekilde davranmalıyız, bu da artık saf olmadığımız anlamına geliyor. Daha dengeliyiz ve ayrıca onları sorumlu tutmak için talepte bulunuyoruz. Benim işim sadece bir semptom ve teknoloji şirketlerine ve teknolojinin kendisine daha dengeli ve dengeli bir yaklaşıma sahip olmak için daha sistematik bir şeyler yapmaya çalışıyoruz. Daha gerçekçi bir görüş. "
Gelecek nedir?
Yapay zeka etiği tartışmalarında güç her yerdedir, ancak bu aktif kalmamamız gerektiği anlamına gelmez. Etnik okuryazarlık projesinin gösterdiği gibi, başka bir yol var.
Ruha Benjamin teknolojinin "sosyal hayal gücüne" ihtiyacı olduğunu söylediğinde, onu çağırdı. Cathy O'Neil "Matematik Yıkım Silahları" kitabında da bundan bahsetmiştir.
"Büyük veri süreçleri geçmişi kodladı. Geleceği yaratmadılar. Bunu yapmak ahlaki hayal gücü gerektirir ve bu sadece insanların sağlayabileceği bir şey" diye yazdı.
Çarpık bir güç yapısı, demokratikleşme gibi kelimeleri aslında anlamsız hale getirir, ancak yapay zekayı büyük sorunları çözen daha fazla kişinin eline bırakmak, insanların yapay zeka algılarını önemli ölçüde değiştirebilir ve insanlar için daha önemli hale getirebilir. Hayatta olumlu bir etki yaratın.
Elbette, insan hayatını iyileştirmek için kullanılan birçok yapay zeka örneği var. Massachusetts Institute of Technology'deki araştırmacılar, çocukların okula daha hızlı gitmelerine olanak tanıyan bir algoritma icat ederek Boston Okul Bölgesi'ne her yıl ulaşım maliyetlerinden 5 milyon dolar tasarruf ettirdiler. New York İtfaiye Departmanı ve New York Üniversitesi, yerinde en etkili yolu anlayarak acil müdahale süresini iyileştirmek için yapay zeka kullanıyor. Bu, Google.org'da fayda için yapay zeka oluşturmak için veriye dayalı bir yaklaşım kullanan düzinelerce projeden biridir. İnsanlık. İnsanoğlu, daha verimli seralar inşa etmek ve mahsul verimini artırmak için yapay zeka kullanıyor.Bu ilerlemeler, önümüzdeki birkaç on yılda açlığın önlenmesine yardımcı olabilir ve küresel nüfus 10 milyara yükselirken dünyayı besleyebilir. Liste devam ediyor.
Ancak geleceği öngörebilen, ekonomik ve sosyal düzeni altüst edebilen, insanları hapse atabilen veya sağlığımızla ilgili kararlar alabilen teknoloji, her zaman etkileyici teknolojik ilerlemenin yüzeyinin altında, Güç mücadelesi.
Yapay zeka sistemlerinde renkli insanları kefalet değerlendirmelerinde, milyonlarca insanı etkileyen sağlık hizmetlerinde, evsizlere yönelik hizmetlerde ve yüz tanımada daha kötü performans gösterecek bir güç dinamiği var.
Bu aynı zamanda, AB'nin yapay zeka uzmanlarının ülkeleri büyük ölçekli gözetimden kaçınmaya ve bunun yerine insanların yeteneklerini geliştirmek için yapay zekayı kullanmaya çağırdığı durumlarda da geçerlidir. Hem Samsung hem de Birleşmiş Milletler, sürdürülebilir kalkınma hedeflerine ulaşmak için yapay zekanın kullanılmasını önerdi.
Danimarka Dijital Merkez CEO'su Camilla Rygaard-Hjalsted'in dediği gibi, agresif iklim değişikliği hedefleri, yapay zeka yeteneklerini işe almaya yardımcı oluyor veya iklim değişikliğine uygulanan makine öğrenimi, yapay zeka için harika bir aya iniş planı olabilir.
Pakistan'daki askeri personelin çocuklarını korumak, bir çete çatışmasının ne zaman meydana gelebileceğini tespit etmek veya kızlar için cinsel sağlık danışmanlığı hizmetleri sağlamak için yeni ortaya çıkan yapay zeka diyalog projesinde var.
2000'den fazla Afrika dili için makine çevirisi oluşturmaya adanmış Masakhane gibi açık kaynaklı projelerde mevcuttur. Projenin şu anda Afrika kıtasının her köşesinden bu dilleri koruyabilen ve çevirebilen yapay zeka geliştirmeye kararlı 60 katılımcısı var. Birleşmiş Milletler tahminlerine göre, Afrika dünyadaki en genç nüfusa sahip ve Afrika, bugünden 2050'ye kadar küresel nüfus artışının yarısından fazlasını oluşturacak. Afrika'daki makine çevirisi, çevrimiçi ve gerçek dünyada yapay zeka diyaloğunu, iletişimi ve ticareti geliştirmek için önemli olabilir.
Kathleen Siminyu, son üç yıldır Kenya, Nairobi'deki Makine Öğrenimi ve Veri Bilimi Kadın Bölümü'nde çalışıyor. Dedi ki: "Dilin bir engel olduğunu düşünüyorum. Bu engel kaldırılırsa, birçok Afrikalı dijital ekonomiye katılabilecek ve sonunda yapay zeka ekonomisine girebilecek. Yani evet, burada oturan insanlar yerel dile katkıda bulunmak için, Dijital çağda olmayanları yapay zeka çağına sokma sorumluluğumuz olduğunu düşünüyorum. "
Yapay zeka etiği tartışmasının sadece bir kısmına dikkat ederseniz, yapay zeka etiğini mühendislik ve tasarım sürecinin bir parçası haline getirmenin politik olarak doğru olduğu ve kurumsal sosyal sorumluluğun bir gereği olduğu sonucuna varmanız kolaydır. ilerleme.
Aslında değil. Yapay zeka etiği, modelleri mümkün olan en iyi şekilde inşa etmek, insanları dikkate almak ve modelleri bir döngü içinde tutmak anlamına gelir.Bu, geleceğin teknolojisi ve insanların dünyayı yönetmek için seçtikleri sistem için vazgeçilmezdir.
Bu güç dinamikleri, küresel gözetim altında olan ve III.Dünya Savaşı'na giden işsiz bir gezegen dışında, gelecek için başka bir vizyonumuz olmadığında en çok göz korkutucu görünüyor.
Daha iyi bir dünyaya giden yolu tasvir ederken, onun içindeki güç dinamiklerini tanımak gerekir, çünkü yapay zekanın kendisi bir araç veya silah olabileceği gibi, bireyleri ve tüm toplumu olumlu veya olumsuz bir duruma sokabilir. Daha iyi bir dünya isteyen girişimler, teknoloji devleri ve topluluklar bu istekleri hayal etme ve paylaşma sorumluluğuna sahiptir.
Yapay zeka toplumu değiştiriyor, bunun nasıl olacağına veya dünyanın nasıl görüneceğine karar vermek sadece birkaç ayrıcalıklı insan olamaz.
