"Derin" makinelerin yükselişi: Algoritmalar kontrolümüz dışında mı olacak?
Xinzhiyuan Derlemesi
Önümüzdeki birkaç yıl içinde büyük işsizliğe neden olacak yapay zeka ve makine öğreniminin uygulanması hakkında kötümser tahminler var. Ama aslında bu yeni teknolojiler yeni ürün ve hizmetlerin ortaya çıkmasına neden olacak ve dolayısıyla yeni istihdam fırsatları yaratacaktır. Elbette, bilgisayar biliminin derinlemesine uygulamaları hayatımıza müdahale etmeye başladı. Bundan yararlanmak istiyor ancak olası zararı en aza indirmek istiyorsak, bu teknolojilerin uygulamasını ve denetimini düşünmeye başlamalıyız.
Yaygın algoritma
18. yüzyılda buhar motorlarının kullanılması, geleneksel tarım işçilerinin hayatlarını altüst etti, şehirlerin yükselişini teşvik etti ve yeni endüstriler ve yeni istihdam fırsatları yarattı, ancak tıbbi bakım ve adalet gibi geleneksel endüstriler pek değişmedi. En son sanayi devrimi, neredeyse yaşamın her alanında değişiklikleri tetikledi.
Şimdiye kadar, makine öğreniminin çoğu uygulaması temelde zararsız görünüyor, ancak çoğumuz önemli bir etkiye sahip olduklarının farkında değiliz. Kredi veya banka kartınız ne kadar süredir kredi sorgulamaları için kabul edilmiyor? Geçmişte sık sık yaşanan bu tür şeyler artık daha seyrek hale geliyor. Bu, tüketici davranışlarımız ve kalıplarımız hakkında makine öğreniminin uygulanmasının sonucudur. Bankalar ve kredi derecelendirme kuruluşları mali durumumuzu iyi biliyor. Bu hem kullanışlıdır hem de kredi hırsızlığı riskini büyük ölçüde azaltır. Bu aynı zamanda bankaların yaşam tarzımız hakkında sevdiklerimizden daha fazla şey bildiği anlamına gelir.
Pazarlama ve tüketici hizmetleri danışmanlığı şirketleri, çevrimiçi alışverişimiz hakkında (ister tek bir satın alma ister bir grup satın alma olsun) sürekli bir anlayışa sahiptir. Mağaza üyelik kartları tarafından üretilen satın alma davranışına ilişkin büyük miktardaki veri, ürün tasarımı ve konumlandırmasının hemen hemen her yönünü etkiler. Google arama sonuçlarımız ve aldığımız pazarlama e-postalarının tümü önceki çevrimiçi davranışlarımızdan etkilenmiştir. Netflix veya Amazon, izlemek istediğimiz filmleri otomatik olarak tavsiye edecek. Kendimizi yardımcı hissetmeli miyiz yoksa mahremiyetimiz ihlal mi edilecek? Bu video önerilerini kim yapıyor? Önemsemeli miyiz?
Online alışveriş yaptığımızda "kaliteli" müşteri olarak nasıl tanımlanırız? Satıcılar psikolojik özelliklerimizi bile bizden daha iyi biliyorlar, onlar tarafından görünmez bir şekilde ödüllendirilecek miyiz yoksa cezalandırılacak mıyız? Kaliteli müşterilerin daha uygun fiyatlardan yararlanacağını düşünüyoruz. Ancak satıcılar için, yüksek kaliteli müşteriler, satın alma arzusu güçlü olan ve bu nedenle ürünleri için daha yüksek fiyatlar ödemeye istekli olan müşterileri ifade eder. Bu nedenle, makine öğrenimi, satıcıların belirli ürünleri bu tür ürünleri sıklıkla satın alan müşterilere daha yüksek fiyatlarla satmasına yardımcı olacaktır. Makine, sevdiğimiz ürünler için daha yüksek fiyatlar ödemeye istekli olup olmadığımıza karar verecek ve satıcıların zayıflığımızdan tam olarak yararlanmasına yardımcı olacak.
Fiyat dalgalanmaları yeni bir şey değil.Tatillerde ve tatil dışında tur gruplarının fiyatları çok belirgindir. Ürünler ve hizmetler için fiyat dalgalanmalarını ayarlamak için algoritmaları kullanmanın birçok yararı vardır. Enerji talebi arttığında, ücretleri artırarak gereksiz gaz, elektrik ve ek elektrik üretim kapasitesi kullanımını sınırlamak mümkündür. Arabalara olan talep yüksek olduğunda Uber fiyatları artıracak, ancak daha az sayıda araç mevcut olacak ve bu da daha fazla sürücüyü otomobillere yüksek talep olan bölgelere eklemeye teşvik edecek. Ancak aşırı hava, toplu taşıma sisteminin felç olmasının arabalara olan talebi artırmasına neden olursa, Uber'in fiyat artışı şantaj olarak kabul edilecektir. Yapay zeka ve makine öğreniminin bazı geleneksel endüstriler üzerinde büyük etkisi vardır. Tıbbi tedavi ve hukuk, yüksek derecede bağışıklık gösterir. Son 20 yılda, çoğu hizmet sektörünün çehresi BT tarafından büyük ölçüde değiştirilirken, tıbbi ve adli hizmetler temelde değişmeden kalmıştır.
Tıp ve hukuki alanlar da değişikliklerle karşı karşıya
Neden? Bu meslekler genellikle uzun süreli eğitim ve staj gerektirir. Uygulayıcılar, dayanaklarının temeli olan mesleki becerilerin ve profesyonel muhakemenin uygulanmasına güvenirler. Ancak önemli bir soru, profesyonelliklerini nasıl değerlendireceğidir? Kim yargılayacak? Geleneksel cevap, aynı profesyonel kaliteye sahip bir pratisyenin meslektaşlarının profesyonelliğini yargılayacağıdır. Bu biraz mantıklı ama yine de sorunlar var. Bu, profesyonel düzenleyici kurumların kendi kendilerini denetlemesini sağlayacaktır. Bu kurumlar aynı zamanda kısıtlayıcı endüstri uygulamalarını formüle edecek ve böylece elitizm ve muhafazakarlığa dayalı bir kültür yaratacaktır.
Profesyonellik genellikle belirli bir değerler kümesiyle ilişkilendirilir. Doktorlar, mühendisler, avukatlar, devlet memurları veya din adamları olsunlar, sahip olmaları beklenen nitelikler, deneyim, profesyonellik, güven, bilgelik ve yargıdır. Bu niteliklerin arkasında, tıp pratiği yapan doktorların sürecinde "yanlış tanı koyulmaması" gibi endüstriyle ilgili bilgi ve değerler vardır. Doktorların uygulamaları tıbbi kanıtlara dayanırken, avukatların uygulamaları yasalar ve davaların bir kombinasyonuna dayanmaktadır.
Ancak tıp ve hukukçular için zorluk, işlerinin çoğunun büyük ölçüde iyileştirilebilmesi veya hatta yapay zekayı öğrenen ve uygulayan bilgisayarlarla tamamen değiştirilebilmesidir. Bu tür bir mesleğin en temel niteliği profesyonel muhakeme ise, bilgisayarların aynı işi yapması mümkün müdür? Farklı yargılar ayırt edilebilir mi? Bu yargıların insanlar tarafından mı yoksa makineler tarafından mı yapıldığını görebilir miyiz?
Tıp alanında, profesyonel muhakemeye dayanan en önemli becerilerden biri, çok sayıda belirsiz faktör ve eksik tıbbi kanıtlar karşısında teşhis ve tedavi yapabilme becerisidir. Ancak kanser durumunda, bilgisayarlar devasa bilimsel veritabanları oluşturmaya başladı ve bu verileri kanser fonu verileri ve klinik tedavi etkilerini içeren büyük vakalarla birleştirdi. Hangi hasta tedavi planının en iyi tıbbi kanıta dayalı olmasını istemez? Bu anlamda onkologların işi bitti mi?
Tıp saf bir bilim değildir. Tıbbın "sanatı ve gizemi" nin özü, doktorun yargı-konsültasyonunun ikinci savaş alanını yaratır. Örneğin, ne zaman tedavi edilmeyeceğine dair tavsiyeler, tedavinin ne zaman hastalıktan daha kötü olabileceğine dair tavsiyeler ve hastalara çeşitli tedaviler arasından seçim yapma konusunda rehberlik. Bazıları, hastalığın ilerlemesine gerçek bir etkisi olmasa bile, hastaları daha iyi hissettirebilir. AI bunu yapabilir mi? Bunu yapmasını istiyor muyuz?
Ya kanun? Bir yargıç, jüri veya bilgisayar tarafından suçlu veya masum bulunmayı mı tercih edersiniz? Ceza mahkemesi tarafından uygulanan suçluluk testi "makul şüphenin ötesinde" dir. Ancak bir kişi için makul olan bir şey bir başkası için mantıksız olabilir. Hukuk mahkemelerinde, "olasılıklar dengesi" daha incedir.
Bilgisayarlar olasılık dengesini hesaplamakta iyidir. Sabit diski, büyük bir suçlu veritabanını depolayabilir; işlemci, DNA dizisinin veya parmak izi eşleşmesinin olasılığını hesaplayabilir. Kapsamlı dijital kanıt izleri bırakmaya başladık çünkü eylemlerimiz kaydediliyor ve taşıdığımız kablosuz ve GPS cihazları dizisi konum bilgilerimizi işaretliyor. Pek çok kanıt parçasıyla ilişkili olasılıklar ilişkilendirilebilir. Prensip olarak, "makul şüpheyi ortadan kaldırmak" veya "olasılık ödünleşimi" gibi kavramlar nicelleştirilebilir - birincisinin% 99 ve ikincisinin% 51 olduğu söylenebilir. Bunların hepsi, bilgisayarların insan yargısı alanında yapabileceği katkılardır.
Sorumluluğu kim üstlenecek?
Hüküm vermekten bahsetmişken, bir yargıç mı yoksa bir bilgisayar tarafından mı gönderilmeyi tercih edersiniz? Çoğu insan kafasında düşünebilir, hangi ceza verme yöntemi en az acı verici? Cinsiyetinize, ırkınıza ve sosyal ve ekonomik durumunuza bağlı olarak sonuçlar farklı olabilir çünkü bu faktörler ve diğer faktörler insan cezalarında sistematik önyargılara neden olabilir.
Aslında, çoğu durumda insanlar sistematik önyargı gösterecektir. Bireysel hâkimlerin ve doktorların davranışlarında sistemik farklılıklar olduğuna dair kanıtlar vardır. Sizi veya sizi tedavi eden doktoru doğrulayan yargıç, onların kimlikleri önemli ölçüde farklı sonuçlara yol açabilir. Bununla birlikte, sistematik önyargılara sahip olanlar yalnızca yargıçlar ve doktorlar değildir - ceza adaleti sürecinin ve klinik bakımın sağlanmasının tüm aşamalarında önyargı mevcuttur. Bu nedenle durdurulma ve aranma olasılığı, kefaletle hapse atılma veya salıverilme olasılığı, avukatın müvekkiline olan sempatisi ve jüri üyesinin sanık karşısındaki tutumu çeşitli faktörlerden etkilenmektedir. Bazen sanığın suçluluğu veya masumiyetiyle bu ilişkiler zayıftır. Benzer şekilde, sosyal çevreniz, doktorunuz, hemşireniz ve diğer birçok faktör, tıbbi sonuçlarınızı sistematik olarak etkileyecektir.
Hüküm vermekten bahsetmişken, bilgisayar sabit diskleri tam ceza kayıtları içerebilir. Bununla birlikte, makine öğrenimi, ceza verme veya tıbbi kayıtlardaki örtük tüm önyargıları absorbe edebilir ve bunları algoritmalara yansıtabilir. Bir örnek olarak, Google'da "CEO" araması yaparsanız, beyaz erkeklerin neredeyse tüm resimleri görüntülenir ve yüksek gelirli yönetici pozisyonlarına sahip kadınlar için erkeklerden çok daha az reklam vardır.
Çözümlerden biri, bilgisayar tavsiyelerini asla insan yargısının üstüne koymamaktır. Bu, bilgisayarı bir danışman konumuna getirir. Ama sonuç iyi değilse ne olacak? Kanser tedavisi başarısızlığı durumunda, bilgisayar tedavi önerilerini reddetmek doktorların başını belaya sokacak mı ve tavsiyeye uyan doktorlar, sonuçlar iyi değilse ne olacak? Ve sonunda, paranoyak insanlar her zaman bilgisayarın tavsiyesini görmezden gelmeyi seçtikleri için bilgisayar en iyi fikri koruyacak mı?
Öznel yargılara gelince, profesyonel normların ve değerlerin bilgisayar algoritmalarına dahil edildiği bir dünya yaratacak mıyız? Yargı kararlarında kasıtlı olarak bir dizi önyargı inşa edeceğiz. Suçluların çocukluğunun içinde bulunduğu kötü durumu dikkate almak veya görmezden gelmek için ağırlık kuralları oluşturabiliriz. Cezalar, sanığın aile koşullarına göre ağırlaştırılabilir veya hafifletilebilir - bu durumları görmezden gelmek için de tasarlanabilir. Kısacası, önyargılı bir kişinin bakış açısından, faili ya da kurbanı cezalandırmak için bilgisayar kullanmak her zaman sempatik ya da acımasız görünmektedir.
Ardından, AI ve makine öğreniminden tam olarak yararlanmak istiyorsak, algoritmaların işleyişini anlamak için bazı mekanizmalar, özellikle de makine öğrenimi yoluyla bilgisayar sistemlerinde kendilerini geliştiren algoritmalar geliştirmemiz gerekir. AlphaGo'nun Go oyununda insan şampiyonu nasıl mağlup ettiğini gerçekten anlıyor muyuz?
İnsanları kendi yargılarından sorumlu tutmak aslında zordur, çünkü kısmen insan yargılarını yapan bilişsel mekanizmalara dair yalnızca en belirsiz anlayışa sahibiz. Bu "akıllı" insanların yargıç olarak hizmet etmesine izin vererek, doğru yargıya varmaya çalışıyoruz. En iyisini yap. Ancak makine öğrenimi söz konusu olduğunda cevap açık değil.
Bilgisayar hiçbir şeyden sorumlu olamaz çünkü güç kaynağını kapatmak veya donanımı yok etmek dışında onu sorumlu kılacak bir mekanizma yoktur. Yalnızca insanlar sorumlu olabilir. Bilgisayar kullanıldığında kim sorumlu tutulacak? Programcı, tedarikçi veya son kullanıcı? Makine öğrenimi sürecinde kendi kendine gelişen algoritmanın doğasını tam olarak anlamak zor olduğu için, işleyişini tam olarak açıklamak zor olabilir. Sonuç olarak, bu alıcı sorumluluğuna bir örnek olacak mı? Bu modelde bilgisayar tavsiyelerde bulunur ancak karar kullanıcıya bırakılır. Peki ya otonom bir sistemde? Örneğin, bir arabada, trende veya uçakta? Başka bir çözüm de, programlamalarının etkilerinden insan programcıları sorumlu kılmaktır. Ancak bu tür bir hesap verebilirlik o kadar şiddetlidir ki, hiç kimse halkın kullanımı için programlama riskini alamaz. Bu, makine öğreniminin avantajlarını gözden kaçırmamıza neden olabilir. İster havacılık, köprü inşaatı, ister kanser tedavisi olsun, insanlar yaşam ve ölüm kararlarını vermede tatmin edici değildir. Yaşam ve ölüm hakkında hiçbir şey bilmeyenlere nasıl güvenilebilir?
Kim denetleyecek? Makinenin makineyi denetlemesine izin verin?
Öyleyse makinenin makineyi yargılamasına izin verin, bu uygulanabilir mi? Bir bilgisayar arızalandığında, paralel sistem devreye girer ve güvenlikle yakından ilgili bilgisayar sistemleri zaten bu şekilde çalışır. Ekip olarak öğrenen Tesla, tüm ekibin standartlarını insanların başaramayacağı şekilde yükseltmiştir. Bazı durumlarda, makineleri kontrol etmek için makinelere ihtiyacımız olabilir. Algoritmalar tarafından gerçekleştirilen yüksek hızlı, çok sayıda finansal işlem, insanların kapsayamayacağı çok sayıda işlemi kontrol etmek ve düzenlemek için koda güvenmiştir. Büyük veri, yapay zeka ve makine öğrenimi dünyasında, insan düzenleyiciler yardım olarak sözde "düzenleyici teknolojiye" ihtiyaç duyuyor.
Bu acil bir konudur. Bir yandan sağlık hizmeti sağlayıcıları, çekirdek olarak makine öğrenimi algoritmaları ile tıbbi danışmanlık sistemleri geliştiren ve satan şirketlerdir, ikisi arasında işbirliğine dayalı bir ilişki kurulmaktadır. İlaçların, teşhislerin, tıbbi ekipmanların ve tedavilerin son derece düzenlendiği bir dünyada bu sistemler nasıl organize ediliyor? Dünyanın dört bir yanındaki ilaç düzenleme kurumları, ilaç lisansları vermek ve üreticilerin katı ürün sorumlulukları üstlenmesini sağlamak için benzer anlaşmaları izleyecektir. Ancak ilaçların kimyasal yapısını ve tıbbi cihazların kesin özelliklerini biliyoruz ve makine öğrenimi sürecinde sürekli gelişen algoritmaların kesin yapısını ve hesaplamalarını bilmiyoruz. Uluslararası düzenleme süreci, tıbbi algoritmaların tıbbi cihazlar gibi düzenlenmesini gerektirir - ancak bu gerçekte ne anlama geliyor?
Bu sorunların üstesinden gelinmesi gerekir. Tıbbi ilaçların kimyasal yapısını biliyor olabiliriz, ancak genellikle nasıl çalıştıklarını tam olarak anlayamayız. Yan etkiler pahasına ilaç etkinliğinin kanıtı, aynı zamanda hastalığın ciddiyeti ve ilacın yararları ile de ilgili olan ilaç düzenlemesi için bir kılavuzdur. Makine öğrenimi eğitimi ile tıp algoritması arasındaki fark, yapısının öğrenmeyle birlikte değişmesidir. Bu, etkilerini kontrol etmeye devam etmek için klinik uygulamada algoritmaların kullanılması ve geliştirilmesiyle denetimin daha sürekli olması gerektiği anlamına gelir.
Tıp ve hukuk, yıkıma karşı yüksek derecede bağışıklık göstermiştir, ancak yapay zeka ve makine öğreniminin en önemli etkilerinden bazıları hala bu en geleneksel endüstrilere yansıtılabilir.
Bununla birlikte, bazı insanlar, uyuşturucuların yaygın kullanımı ve etkileri ve yan etkileri hakkında giderek daha fazla bilgi verilmesi ile ilaç kontrolünün de aynı yönde ilerlemesi gerektiğini şiddetle savunmaktadır. Bu, elbette modern BT teknolojisinin tıbbi sisteme uygulanmasının yararıdır.
İnsanlara zarar verebilecek bazı algoritmalar uygulamak istiyorsak, onlara nasıl güveneceğimizi öğrenmemiz gerekir. Bilgisayar sistemi ile sürülen bir araba için, ne tür bir kaza oranı kabul edilebilir? Bir yandan, insansız araçların kaza oranındaki herhangi bir azalma, insan tahrikli araçlara kıyasla bir gelişmedir. Ancak insansız araçlar yayaların ölümüne neden olursa, bu son derece nadir bir olay olsa bile bir sansasyon yaratacaktır.
Algoritmalar için mükemmel olmayan insanlardan çok daha yüksek bir standarda sahip olmamız gerektiğini düşünebiliriz. Algoritmalar profesyonellerin muhakemesini etkilediğinden, sonuçta etik ve değerleri etkilerler. Bu faktörler düzenlemelere nasıl dahil edilmelidir? Yararlı bir benzetme kullanırsak, bu Birleşik Krallık'ta insan embriyo teknolojisinin geliştirilmesi ve kullanılması gibidir.Bilimin uygulanması, insanların değerini vurgular.
Warnock Komitesi'nin müzakeresi, İnsan Döllenme ve Embriyoloji Kurumu'nun kurulmasına yol açtı. Bu, ortaya çıkan bilim hakkında düşünmekten, kamuya açık tartışmalara katılmaktan ve yeni teknolojilerin uygulanmasına yönelik çerçeveyi belirleyen yasa koyucular ve politika yapıcılar ile tartışmalı konuları tartışmaktan sorumlu bir düzenleyici kurumdur. Makine öğrenimi ve AI'da benzer bir şeye ihtiyacımız var mı? Royal Society ve British Academy'nin ortak bir çalışma grubu, Birleşik Krallık'ta bu konuyu değerlendiriyor.
Hükümetin kilit rolü, vatandaşların sağlığını, mutluluğunu ve güvenliğini en üst düzeye çıkarmaktır. Bu nedenle, hükümetin bu teknolojilerin faydalarını nasıl en üst düzeye çıkaracağını ve olası zararları nasıl en aza indireceğini düşünmesi gerekiyor. Bu, akıllı bir denetim gerektirir ve aynı zamanda şirketlerin bu yeni teknolojileri nasıl uygulayacaklarını dikkatlice değerlendirmelerini gerektirir. Bu gerçekten ahlaki düşünme ve uygulama gerektiren bir alandır.
Orijinal adres:
27 Mart'ta Xinzhiyuan Açık Kaynak Ekolojik Yapay Zeka Teknolojisi Zirvesi ve Xinzhiyuan 2017 Girişimcilik Yarışması Ödül Töreni görkemli bir şekilde düzenlendi. "BAT" dahil olmak üzere Çin'in ana akım AI şirketleri ve 600'den fazla sektör eliti 2017 Çin'e ortak katkıda bulunmak için bir araya geldi Yapay zekanın gelişimi güçlü bir darbe aldı.
Orijinal metni okumak ve konferans kaydının metin versiyonunu görmek için tıklayın
