Algoritmik hegemonya ile yüzleşmek: kitlesel fayda araçları mı yoksa kitle imha silahları mı?
Bir "algoritma" çağına giriyoruz. Yaşamlarımız üzerinde artan bir etkisi var - okula gittiğimiz yer, araba almak için kredi almalı mıyım, sağlık sigortasına ne kadar harcamalıyız, bunlar insanlar tarafından değil, algoritmalarla ve Model belirlenir.
Bize söylendi: Büyük verinin doğru portresiyle, algoritmalar şirketlerin tercihlerimizi daha iyi belirlemelerine ve böylece bize mal ve hizmetleri daha iyi sunmalarına izin verebilir. Algoritma herkes için aynı şeyi ölçtüğü için birçok gereksiz önyargıyı ortadan kaldırabilir. Sonuç olarak, algoritmalar tüm toplumun işleyişini daha verimli, daha adil ve daha iyi hale getirebilir.
Ama Kathy O'Neillin yeni kitabında "Algoritma Hegemonyası" Ancak bize tamamen farklı bir hikaye anlatıyor. O'Neill'ın hikayesinde, algoritma insanlara vaat ettiği güzelliği getirmedi. Aksine, bu toplumun iyi işlemesi için dayandığı temeli zayıflatabilir, bu da onu ne adil ne de verimli kılar.
1. Algoritma nasıl acımasız?
Algoritma eleştirmenlerinin çoğunun aksine, Casey ONeill aslında "içeride" bir algoritmadır. Çocukluğundan beri matematiğe çok düşkündü ve kolejde matematik okudu. Doktora derecesini Harvard Üniversitesi'nden aldıktan sonra, Barnard College'da ders verdi ve daha sonra, birçok tanınmış şirket için algoritma ve veri danışmanlığı sağlayan bir veri bilimcisi olarak finans çevresine ve sektöre geçti.
Zengin deneyim, O'Neill'in çeşitli algoritmaların özüne aşina olmasını ve ayrıca ilgili tehlikeleri anlamasını sağladı. Bu nedenle, diğer benzer çalışmalarla karşılaştırıldığında, "Algoritma Hegemonyası" nın algoritma eleştirisi daha doğru, güvenilir ve anlayışlı.
Peki, algoritma ile ilgili sorunlar nelerdir?
Her şeyden önce Algoritma, insanların genellikle düşündüğü kadar doğru olmayabilir. Büyük veriye dayalı birçok algoritma, başlangıçta bütünün özelliklerini analiz etmek için kullanılır, bu koşul altında daha iyi çalışabilirler. O'Neill'ın kitabın başında bir beyzbol takımı örneğini verdiği gibi, takım büyük veri algoritmaları aracılığıyla performansını büyük ölçüde artırabilir.
Ancak, bireyleri değerlendirmek için böyle bir algoritma uygulandığında, sorunlar hemen ortaya çıkacaktır. Örneğin kitap, öğretmenlerin kalitesini değerlendirmek için algoritmaların kullanımından bahsediyor. Her öğretmen her yıl sınırlı sayıda öğrenciye ders verdiğinden, çok az sayıda anormallik değerlendirme sonuçlarında büyük değişikliklere neden olabilir ve bu da bazı mükemmel öğretmenlerin vasıfsız olarak yanlış değerlendirilmesine neden olur. Daha da önemlisi, yargılanan öğretmen yargılama standartlarını anladığında, bu standartları bilinçli olarak tahrif edebilir ve bu da başlangıçta etkili olan algoritmanın etkinliğini hızla kaybetmesine neden olur.
İkincisi Algoritmanın kendisi ayrımcı olabilir. Pek çok algoritma nedensellik değil, yalnızca uygunluk düşünülerek tasarlanmıştır, bu da onları yüzeydeki adaletin arkasında bazı insanlara karşı ayrımcılık yapmalarına neden olur. Örneğin, siyahların suç işleme olasılığının daha yüksek olduğunu gösteren istatistikler var.Bu istatistiksel sonuç, Amerikan adaletini onlarca yıldır etkilemiş ve siyahların yargılamalarda beyazlarla aynı hakları elde etmesini zorlaştırmıştır.
Bununla birlikte, bu yargının kendisi aslında gerçek nedenselliği gizler. Aslında siyahlar pek çok açıdan beyazlarla aynı muameleden pek zevk alamıyorlar, Beyazlarla aynı eğitimi alamıyorlar ve beyazlar gibi iş bulmakta zorlanıyorlar ... Büyük ölçüde siyahların yüksek suç oranı tam da bu. Eşitsizliğin sonucu. Bu nedenle, yüksek suç oranı siyahlara karşı ayrımcılık yapmak için kullanılırsa, sonuç yalnızca suç oranlarını artıracaktır.
Algoritmaların ayrımcı doğasını çürütmenin zordur çünkü kendi kendini gerçekleştirme eğilimindedirler. Örneğin, yukarıdaki örnekte, siyahlara karşı ayrımcılık suç oranlarını yükseltiyor, bu da sinir bozucu, ancak yüzeyde, bu sadece algoritmanın tahminini doğruluyor. Bu tür gerçekler karşısında algoritmayı sorgulamak bizim için zor görünüyor.
bir kere daha Algoritmanın doğruluğu aynı zamanda refaha zarar veren ve adaletsizlik yaratan bir araç olabilir. Bir örnek hedefli reklamcılıktır. Teoride, doğru reklam, insanların özelliklerinin tanınması yoluyla insanların refahını iyileştirmeye yardımcı olabilir, algoritmalar bireysel tercihlerini daha iyi belirleyebilir ve bu temele dayanmak onların zevklerine daha uygun ve daha tatmin edici olabilir. Gereksinimleri.
Ancak burada önemli bir sorun var, yani çoğu durumda insanlar gerçekten ne istediklerini veya kendileri için neyin gerçekten yararlı olduğunu bilmiyorlar. Hedefli reklamcılık ile karşı karşıya kaldıklarında, karar verme süreçleri kolayca teşvik edilir.
Kitapta, O'Neill koleje kabullere bir örnek verdi. Amerika Birleşik Devletleri'nde birçok "sülün üniversitesi" var, diploma vermenin yanı sıra, insanlara gerçekten iyi bir eğitim sağlayamıyorlar. Ancak, bu "Sülün Üniversiteleri" pazarlama ustalarıdır.Algoritmalar yardımıyla, müşteri tabanlarını geliri ve sosyal durumu görece düşük olan, ancak statükoyu değiştirmek için son derece acil olanlara doğru bir şekilde odaklıyorlar. Bu insan grubundan yüksek öğrenim ücreti aldılar. Ancak aynı zamanda harcı ödeyen öğrenciler bekledikleri değişiklikleri alamadılar.
Yukarıdaki analize dayanarak, O'Neill, algoritmalar ve veriler konusunda körü körüne iyimser olmamamız gerektiğine, ancak tetikte kalmamız gerektiğine inanıyor.
2. Algoritma hegemonyasıyla nasıl başa çıkılır?
"Algoritma Hegemonyası" kitabının oldukça düşündürücü olduğu söylenmelidir. Kitapta bahsedilen örneklerin çoğu aslında her gün yaşanıyor. Algoritmaların getirdiği rahatlığın tadını çıkarırken, aynı zamanda bilinçsizce algoritmaların hegemonyasına dayanıyoruz.
Öyleyse, algoritmalar için ne tür bir tutum sergilemeliyiz? "Yıldız Savaşları" nda bir hikaye hatırladım: Luke Skywalker, Güç'ün karanlık tarafının güçlü ve yıkıcı gücünden derinden korkuyordu ve bu gücün kötüye kullanılmasını önlemek için inzivaya çekilmeyi seçti. Ancak Güç'ün neden olduğu yıkım bu yüzden durmadı, Luke'un temsil ettiği adaletli taraf kullanımdan vazgeçse de kötü güçler değerini geliştiriyor. Luke daha sonra bunu Rey'in ikna ederek anladı ve Güç ile adaleti savunmak için öne çıktı ve sonunda cömertçe öldü.
Pek çok açıdan, algoritma "Yıldız Savaşları" dünyasındaki orijinal güce benzer - çok güçlüdür ve insanların başlangıçta ulaşılması zor olan birçok hedefe ulaşmalarına yardımcı olabilir, ancak aynı zamanda başlangıçta hayal edilemeyen çok fazla zarar da getirebilir. Her şey nasıl kullanıldığına bağlı. Korkuyorsanız ve uygulamadan vazgeçiyorsanız, çocuğu banyo suyunu dökerken dökmek gibidir.Sorunu çözmenin faydası olmadığı gibi nihai çözüm olasılığını da ortadan kaldıracaktır. Bu anlamda, algoritmalarla ilgili olarak, Luke'un "Yıldız Savaşları" ndaki Güç'e yaklaşımına benzer bir tutum benimsemeliyiz - yıkıcılığını kabul ederken, onu kontrol etmeye çalışmalı ve gücünü en üst düzeye çıkarmak, zayıflıklardan kaçınmak ve zayıflıklardan kaçınmak için elimizden gelenin en iyisini yapmalıyız. zarar.
Şu anda algoritmayı nasıl kontrol edeceğimiz ve denetleyeceğimiz hakkında hala çok az şey bildiğimiz kabul edilmelidir. Örneğin, O'Neill kitapta algoritmanın halka açık hale getirilmesi ve hükümetin denetimine tabi olması gerektiğini öne sürdü. Sektör açısından algoritmanın "şeffaf" ve "yorumlanabilir" olması gerektiği vurgulanmaktadır. Ama aslında bu iki noktayı yapmak kolay değil.
"Şeffaflık", algoritma yazarlarının, doğrulanabildiğinden emin olmak için kaynak kodunu açıklamasını gerektirir. Bu teorik olarak mümkündür, ancak pratikte birçok algoritma çok karmaşıktır ve halka açıklansa bile test edilmesi zordur. Ek olarak, birçok orijinal algoritma fikri mülkiyet sorunları içerir, bu nedenle algoritmayı doğrudan açmak daha zordur. Bu koşullar altında, "şeffaflığın" nasıl sağlanacağı çetrefilli bir konu olmaya devam ediyor.
"Yorumlanabilirlik", algoritma yazarlarının kullanıcılara algoritmanın nasıl kararlar aldığını açıklamasını gerektirir. Ancak bunu çalıştırmak aslında zor. Genel olarak, algoritma ne kadar karmaşık ve doğru olursa, karmaşıklığı o kadar yüksek ve yorumlanması da o kadar zor olur. Bu nedenle, algoritmanın yazarları yorumlanabilirliği çok fazla takip ederse, algoritmanın yaratıcılığından ve doğruluğundan kaçınılmaz olarak feda edeceklerdir ki bu bazen kazanmaya değmez.
Elbette sorunun ciddiyeti, çok çalışmayı bırakabileceğimiz anlamına gelmez. Aslında, birçok kişi algoritma denetimi araştırmalarına yatırım yapmaya başladı ve birçok fikir birliği ve sonuç elde etti. Sözde "Güven kaymadığı sürece, her zaman zorluklardan çok çözüm vardır." İnsanların çabalarıyla, algoritmaların kesinlikle "kitle imha silahları" yerine "kitlesel fayda araçları" olacağına inanıyorum.
