Selfish Ledger, "yeni siyah aynanın" endişe verici Google sürümü
Google son zamanlarda barış içinde değil.
Kısa bir süre önce, Google tarafından yalnızca iki yıl önce dahili dağıtım için hazırlanan bir video ortaya çıktı. Video "Ledger" kavramını ortaya koydu. Ledger, tüm kullanıcı verilerini toplar ve ardından kullanıcıları, kullanıcı davranışına ve alışkanlıklarına göre bir hedefi tamamlamaya yönlendirir. Videonun ortaya çıkması kamuoyunda büyük bir kargaşaya neden oldu ve aynı zamanda birçok kişinin bilgi güvenliği konusunda bir kez daha derin endişelere kapılmasına neden oldu.
"The SelfishLedger" adlı bu kısa film, Google X Labs'ın tasarım lideri ve Near Future Labortatory'nin kurucu ortağı Nick Foster tarafından kişisel olarak üretildi. 9 dakikalık videoda Foster, "Ledger (veri defteri)" ifadesini tanımlar ve bu veri dosyalarının davranışı değiştirmek ve kullanıcılar arasında transfer etmek için oluşturulabileceğini veya kullanılabileceğini varsayar.
Google, "sistem genelinde ayarlar" konseptini ortaya koyuyor
Ledger konseptine dayanan videodaki Google, kavramsal bir çözüm (Google sisteminden kavramsal Çözümler) önermektedir - kullanıcıyı hayatta bir hedef seçmeye teşvik eder ve kullanıcı cep telefonuyla her etkileşime girdiğinde, cep telefonu bunu başarması için kullanıcıyı yönlendirecektir. Bir hedef.
Google, kullanıcıların seyahat etmek için Uber'i aradıklarında, araç paylaşımını ve daha çevre dostu bir seyahat yöntemini kullanmalarını tavsiye edecek veya Safeway'den bazı yerel ürünleri satın almaları için kullanıcılara rehberlik edecek "organize bir değer" elde edebileceğine inanıyor.
Google çözümleri, kullanıcıları ürün satın almaya yönlendirir
Tüm bunların temeli, Ledger'in daha fazla veri için açgözlülüğünü gerçekleştirmektir. Büyük miktarda kullanıcı verilerine ve kararlarına erişerek verileri toplar ve öğrenir ve ardından önerilerde bulunur. Gelecekte, "hedef odaklı Ledger kavramı daha uygulanabilir hale gelecek ve yapılan öneriler kullanıcılar tarafından dönüştürülmeyebilir, Ledger'in kendisi tarafından yapılabilir."
"Yeni siyah ayna" nın Google sürümü için endişeleniyorum
Ledger kendi başına bir karar verebildiğinde, insanların bunun hakkında düşünmesini sağlar.
Foster bir gelecek tasavvur ediyor: "Hedef odaklı Ledger kavramı kolayca kabul edilir ve eylem önerileri kullanıcı tarafından değil, Defterin kendisi tarafından sağlanabilir." Bu "Black Mirror" da anlatılan sahnedir. Ve Ledger, aktif olarak verilerdeki boşlukları doldurmaya çalışıyor ve hatta veri toplamak için kullanıcıları çekebileceğini düşündüğü ürünleri satın almayı seçiyor.
Ardından video bir banyo tartısı örneği verdi. Ledger başlangıçta kullanıcının ağırlığını bilmiyordu. Daha sonra, video boyama tarzı bilim kurgu senaryolarına yönelmeye başladı ve Ledger'in çok anlayışlı olabileceğini ve kendi tasarımlarını 3D baskı teknolojisi ile basabileceğini hayal etti: "Eve hoş geldin Dave, senin için bir ölçek bastım."
Foster'in Ledger anlayışına dayanarak, eğer gerçeğe yansıtılması gerekiyorsa, aixdlun analisti Ke Ming hala göz ardı edilemeyecek birkaç sorun olduğuna inanıyor.
1. Halkı kontrol eden distopik bir vizyon olma korkusu
Foster'ın Ledger fikri sadece bir kendini geliştirme aracı değil. Bu sistem aynı zamanda "bilgi boşluklarını doldurabilir" ve "insan davranış modellerini iyileştirebilir". Bu, yalnızca belirli davranışlarınızı değil, aynı zamanda tüm insan grubu davranışlarını da içerir. Video, düşünce kontrol teknolojisi kullanarak yoksulluk ve küresel ısınma gibi sorunları çözme girişimlerine işaret etse de, videonun küresel ölçekte büyük ölçekli davranış değişikliklerini ciddi bir şekilde tartışması korkutucu.
Endüstriyel zekanın babası Marvin Minsky, "beynin etten yapılmış bir makineden başka bir şey olmadığına" ve insan düşüncesinin karmaşık bir süreç olduğuna inanıyor. Örneğin, 3 yaşındaki bir çocuk "Neden insanlar yağmur yağdığında ıslanmak istemiyorlar, ancak banyoda yıkanmak istiyorlar" sorusunu bilir ve bilgisayar şaşırır.
Kullanıcılar için, Ledger'in beklenen tasarımı herkesi endişelendiriyor. X'in bir sözcüsü şöyle açıkladı: Bu, tasarım ekibi tarafından yıllar önce gerçekleştirilen bir düşünce deneyidir. Rahatsız edici fikirleri ve kavramları keşfetmek için "spekülatif tasarım" adlı bir teknik kullandılar. Tartışma ve tartışma. Mevcut veya gelecekteki ürünlerle hiçbir ilgisi yoktur.
Ancak aslında 2015 gibi erken bir tarihte Google tarafından yapılan patent başvurusunda, Ledger'ın işlevine çok benzeyen "kullanıcı davranışındaki olası hataları tespit etme ve düzeltme" ye atıfta bulunuldu. İnsan hayatında gerçekten popüler olduğu zaman, hala korkutucu.
2. Bilgi etiği sorunları ön plandadır
"Ne kadar rahatlık istediğiniz, ne kadar bilgi gizliliğinden vazgeçmeye istekli olduğunuza bağlıdır", bu da birçok Google şirketi için ebedi bir ikilem haline gelmiş gibi görünüyor. Ledger ve Amazon Alexa, meslektaşlarıyla özel sohbetleri yeniden patlattığında bilgi etiği bir kez daha insanların dikkatini çeken bir nokta haline geldi.
Ve bu tür olaylar artık benzersiz değil. Daha önce Facebook, seçmenlerin siyasi eğilimlerini tahmin etmek ve etkilemek için kişisel bilgi sistemlerini kullanmakla suçlanmıştı.Zuckerberg, ciddi düzeltmeler yapacağına söz verdi ve bilgi güvenliği sorunlarını korumak için bir yapay zeka etik ekibi kuracağını söyledi.
Aslında, David Whitaker olayında, Google zaten bilgi sızıntısı sorunu yaşadı. Google, kullanıcının bilgi edinimine hakimdir ve bu tekel gücüne güvenerek, Google ayrıca ilk yıllarda bazı kötü ve yanlış bilgileri desteklemek için teklif sıralamalarını kullandı. 2009'da, ABD hükümetinin Google'da sahte ilaçlar sattığını iddia ettiği ve bunları tanıttığı bir skandal vardı.
O zamandan beri, "Prizma Kapısı" olayı, arama terimlerini manipüle etmek ve ABD seçimlerine müdahale etmek gibi konular, bilgi kaynaklarını ödünç alarak hala kötü davranışlardır.
"Artık kötülük yok" Google
Pek barışçıl olmayan bir şey daha var.
Son zamanlarda, son davranış kurallarında Google, "kötü olmayın" metnini neredeyse tamamen sildi. Google, 2015 yılında Alphabet'i ana şirket olarak yeniden düzenleyip ana şirket haline getirmesine rağmen, şirket "kötülük yapma" sloganını neredeyse tamamen terk etti ve "Doğru şeyi yapmak."
Revize edilmiş Google Yönergeleri
Aynı zamanda, bir düzineden fazla Google çalışanı, şirketin ordunun Maven projesine devam eden katılımını protesto etmek için resmi olarak istifa etti. Ayrıca akademideki 364 yapay zeka uzmanı da ortaklaşa Google aleyhine bir mektup imzaladı. Protesto etmek için, yaklaşık 4.000 Google çalışanı önce bir dilekçe imzaladı ve ardından yaklaşık 12 Google çalışanı şirketten istifa etti.
İstifa eden bu çalışanlar, drone operasyonlarında yapay zeka kullanımından endişe duyuyorlar ve ayrıca Google'ın siyasi kararlarından endişe duyuyorlar, bu da kullanıcıların Google'a olan güveninin zayıflamasına neden olabilir. Google, yapay zeka teknolojisinin öldürmek için kullanılmayacağını vurgulasa da Pentagon'un drone projelerinde yapay zeka kullanımının teknik çalışanlara ve araştırmacılara etik ve ahlaki sorunlar getireceğini de kabul ediyor.
Google'ın kendisinden bağımsız olarak, yapay zeka Genel AI'dan (Genel AI) "zihinsel bir topluma" dönüştükten sonra, aixdlun analisti Ke Ming hala birçok "dehşet" barındırdığına inanıyor.
1. Sosyal öncelikli konuların yerinden edilme korkusu
Şu anda, robotlar el emeğinin bir kısmının yerini aldı. Sadece insanlar tarafından yapılabilecek bir düzeyde bilişsel çalışmayı gerçekleştirebilmeleri çok uzun sürmeyecek. Kendi kendine giden arabalar taksi sürücülerinin yerini alacak; sürücüsüz uçaklar pilotların yerini alacak.
Belki bir gün tüm insan işleri makinelere bırakılır. Tüm çalışmalarımız, daha fazla ve daha hızlı içerik ürünleri üretebilen çok sayıda daha hızlı ve yorulmak bilmeyen makinelerle değiştirilebilir.
Modern toplumda otomasyon birçok insanın işini kaybetmesine neden oldu. Makine sahipleri daha zengin ve daha zengin hale geldi, diğerleri daha yoksul hale geldi. Bu bilimsel bir konu değil, siyasi ve sosyo-ekonomik bir sorun.
Kötülük yapmak için yapay zekaya güvenmenin bilim adamlarının asıl niyetine aykırı olduğu doğrudur Sonuçta, teknik bilgi ve araçların gerçek kalitesi onu kullanan insanlarda yatmaktadır. Teknoloji ve insanlık karşısında, insanlığın kendisinin güvenliği ve istikrarı en önemli önceliktir ve önce makinenin ve zekanın sosyal olarak yerinden çıkması, insanların istikrarsızlık ve korku hissini derinleştirecektir.
2. Kötüye kullanım korkusu
1920 yapımı "R.U.R." dizisindeki kızgın robottan "2001: A Space Odyssey" deki cinayet bilgisayarı HAL9000'e kadar, yapay zekanın gelişimine her zaman karanlık efsaneler eşlik ediyor. Yapay zekanın insanlığa birçok faydası vardır. Arama motorları ve makine çevirisi gibi bazıları halihazırda uygulanmışken, diğerleri, örneğin sürücüsüz arabalar gibi uygulanmak üzere. Bununla birlikte, yapay zeka yeteneklerinin artmasıyla, kullanım rahatlığının kötüye kullanımı teşvik etme olasılığı daha yüksektir ve yapay zekanın kötüye kullanılması şüphesiz korkutucudur.
25 teknisyen ve kamu politikası araştırmacılarının ortaklaşa yayınladığı yakın tarihli bir rapor, yapay zekanın gelişmesiyle birlikte kötü niyetli kullanım riskinin de arttığına işaret etti. Raporda ayrıca, yapay zeka bilgisayar korsanları tarafından saldırıya uğradığında, ticari dronların insansız araba kazaları gibi hedefli silahlara dönüşme olasılığını artıracağını da belirtti.
Yapay zekanın kötü niyetli kullanımının, büyük ölçekli, yüksek hedefli ve verimli saldırılar gerçekleştirmek için kullanılabileceği için dijital, fiziksel ve politik güvenlik için yakın bir tehdit oluşturduğu doğrudur. Geçen yılın sonunda internette pornografik bir video dolaşıma girdi.Bazı ünlülerin yüzleri akıllı kesiklerle farklı vücutlara aşılanmıştı ve hatta bazı videolar sahte olabilirdi, bu da birçok ünlünün itibarını kaybetmesine neden oldu.
Günümüzde yapay zekanın gelişimi büyük bir hızla ilerliyor ve bir zamanlar imkansız görünen pek çok şey artık mümkün. Ancak insanlığa hizmet eden yapay zeka suçlular tarafından kullanılırsa felaket sonuçları doğuracaktır.
sonuç olarak
"TheSelfish Ledger" kısa filminin yayınlanmasından "kötü olma" kuralının kaldırılmasına kadar, Google'ın yapay zeka alanı gerçekten olaylarla dolu oldu. Ancak teknolojik ilerleme ve yeniliğin tüm endüstrinin gelişimini beraberinde getirdiği yadsınamaz. "The Selfish Ledger" ın Google'ın "yeni siyah aynası" haline gelip gelmeyeceği hala zamana ve pazarın test edilmesine ihtiyaç duyuyor ve Google'ın kendisinin gelişiminin diyalektik olarak incelenmesi gerekiyor.
Daha heyecan verici içerik için Titanium Media WeChat ID'yi (ID: taimeiti) takip edin veya Titanium Media Uygulamasını indirin
