Zuckerberg'in en karanlık haftası: Keras yazarı bombalandı: Facebook totaliter bir hapishaneye dönüşecek
Xinzhiyuan Raporu
Kaynak: venturebeat vb.
Yazar: Xiao Qin, Craig
Cambridge Analytica skandalı mayalanmaya devam ederken, Facebook kamuoyunun eleştirisinin hedefi haline geldi ve Google'dan bir şekilde beklenmedik bir kınama geliyor.
Google araştırmacısı François Chollet dün bir dizi tweet yayınlayarak Facebook'un sorununun sadece gizlilik sızıntısı veya güven eksikliği olmadığını, aynı zamanda yapay zeka odaklı Facebook'un yakında "totaliter döngüsel bir hapishane" haline geleceğini söyledi.
Araştırmacılara seslendi: "Lütfen biraz vicdan gösterin."
François Chollet: Vicdanlı bilim adamları Facebook için çalışmamalı
"Tanık olduğumuz şey, 2 milyardan fazla insanın ince psikolojik özelliklerini oluşturmuş ve büyük ölçekli davranışsal manipülasyon deneyleri yürüten güçlü bir varlıktır. Amacı, dünyadaki en iyi AI teknolojisini geliştirmektir. Kişisel olarak. , Bu beni gerçekten korkutuyor. Chollet dün tweet attı," Yapay zekaysanız lütfen onlara yardım etmeyin. Oyunlarını oynamayın. Araştırma ekosistemlerine katılmayın. Lütfen biraz vicdan gösterin. "
François Chollet
François Chollet'in LinkedIn profiline göre, Ağustos 2015'ten beri Chollet, Google'da derin öğrenme alanındaki araştırmalara odaklanan bir yazılım mühendisi ve yapay zeka araştırmacısı olarak çalışıyor. En ünlü ismi, dünya çapında yüz binlerce yapay zeka araştırmacısı tarafından kullanılan açık kaynaklı bir derin öğrenme kütüphanesi olan Keras'ın ana yazarıdır.
Chollet, Facebook olayında sorunun sadece "mahremiyetinizin kaybolması" olmadığına veya gizliliğinizin totaliter bir "dairesel hapishane" olarak kullanılabileceğine inanıyor. Kanımca daha endişe verici olan konu şu ki Dijital bilgi tüketimi bir zihinsel kontrol aracı olarak kullanılır .
Dünya iki uzun vadeli eğilimden büyük ölçüde etkileniyor: Birincisi, çevrimiçi bilgi tüketimi ve işte ve evde bilgi üretimi dahil olmak üzere hayatlarımız giderek daha fazla kaydi hale geliyor. İkincisi, AI gittikçe daha akıllı hale geliyor.
Dijital içeriği nasıl tükettiğimizi etkileyen algoritmalar düzeyinde, yukarıdaki iki eğilim örtüşüyor. Opak sosyal medya algoritmaları, hangi makaleleri okuduğumuzu, kiminle iletişim halinde olduğumuzu, kimin fikirlerini okuduğumuzu ve kimlerin geri bildirimlerini aldığımızı giderek daha fazla belirlemektedir.
Yıllarca süren eğitimden sonra, algoritmanın tükettiğimiz bilgileri işleyişi, bu sistemlerin hayatımızda önemli bir güç tutmasını ve nasıl bir insan olduğumuzu belirlemesini sağladı. Hayatlarımız büyük ölçüde dijital dünyaya kayarken, bu kurallara - AI algoritmalarına çok duyarlı hale geldik.
Uzun yıllar içinde, Facebook hangi haberleri (gerçek haberler veya sahte haberler) görmenize izin verebilirse, kimin siyasi statüsünün geliştiğini görmenizi ve dinamiklerinizi kimin görmesini sağlayın, o zaman Facebook aslında politik inançlarınızı ve dünya görüşünüzü kontrol eder.
Bu yeni bir şey değil. Facebook en azından 2013'ten beri bir dizi deney gerçekleştirdi. Haber beslemelerinin içeriğini ayarlayarak, şüphelenmeyen kullanıcıların duygu ve kararlarını başarılı bir şekilde kontrol ettiler ve Kullanıcının gelecekteki kararlarını tahmin edin.
Kısacası Facebook, hakkımızda her şeyi aynı anda gözetleyebilir ve tükettiğimiz bilgileri kontrol edebilir. Algılama ve eyleme aynı anda dokunabildiğinizde, bir AI problemi göreceksiniz. İnsan davranışı için bir optimizasyon döngüsü oluşturmaya başlayabilirsiniz. Bir RL döngüsü.
Bu döngüde, hedefin mevcut durumunu gözlemleyebilir ve istediğiniz sonuçları ve davranışı gözlemleyene kadar ona sağlanan bilgileri sürekli olarak ayarlayabilirsiniz.
Yapay zeka araştırması alanının büyük bir kısmı (özellikle Facebook'un araştırmaya yoğun bir şekilde yatırım yaptığı alan), bu tür optimizasyon problemlerini olabildiğince etkili bir şekilde çözmek için algoritmalar geliştirmek, böylece döngüyü kapatmak ve işlenmekte olan fenomen üzerinde tam kontrol sağlamaktır. .
Bu olayda tamamen kontrol altına alınan bizlerdik.
"Öncüller" de arkalarını döndüler: Facebook'u kaldırın, bu bir "sosyal doğrulama geri bildirim döngüsüdür"
François Chollet ile karşılaştırıldığında, WhatsApp'ın kurucu ortağı Brian Acton, Facebook'a karşı daha sert bir tavır sergiliyor. Cambridge Analytica olayından kısa bir süre sonra bir tweet attı: Zamanı geldi. # Deletefacebook (Facebook'u kaldırma zamanı).
WhatsApp'ın aylık 1,5 milyar aktif kullanıcısı var. Facebook tarafından Şubat 2014'te 16 milyar dolardan fazla bir fiyata satın alındı. Brian Acton, geçen yılın Eylül ayında WhatsApp'tan ayrıldı.
Aslında Brian Acton, dönen tek "selef" değil. Geçen yıl, giden iki Facebook yöneticisi eski sahibi hakkında endişelerini ve şüphelerini dile getirdi.
Birincisi, Facebook'ta kullanıcı büyütme ve girişim kapitalisti eski başkanı Chamath Palihapitiya. Facebook'ta altı yıllık tecrübesi var. Geçen yıl Kasım ayında Stanford Üniversitesi İşletme Fakültesi'nde yaptığı konuşmada, Facebook'un "sahte ve kırılgan popülerliği" teşvik ettiğini, kullanıcıları boş hissettirdiğini ve ilgiye ihtiyaç duyduğunu söyledi.İnsanlar, başkalarının onayını kazanacağını düşündükleri gönderileri paylaşmaya devam ediyor. Kısır döngü".
Chamath Palihapitiya
"Yarattığımız araçlar toplumun yapısını parçalıyor. Bunu gerçekten yapıyoruz."
Daha sonra, eski Facebook başkanı Sean Parker da başka bir vesileyle sosyal ağlarla ilgili endişelerini dile getirdi. Facebookun gelişiminin bağımlılık yaptığını söyledi ve Facebook'u, kullanıcıların dikkatini çekmek için insanların zayıflıklarını kullanan bir "sosyal doğrulama geri bildirim döngüsü" modeli olarak tanımladı.
Sean Parker
Facebook'un kurucularından Sean Parker, kendisini sosyal medyanın "vicdani rakibi" olarak nitelendirdi. Her ay dünya çapında 2 milyar kullanıcısı olan bir sosyal medya devi olan Facebook'un aslında kullanıcıları ve toplumu değiştirdiğine inanıyordu. Aralarındaki ilişki.
Sean Parker, Facebook'un insanların dikkatini çekmek için insani zayıflığını nasıl kullandığını belirtmedi. Ama François Chollet buna inanıyor İnsan düşünceleri basit sosyal manipülasyon tarzlarına aşırı derecede duyarlı olduğundan, bu davranışa "psikolojik saldırı modu" denir.
Bu saldırı modellerinden bazıları uzun süredir reklamcılıkta kullanılmaktadır (olumlu / olumsuz sosyal pekiştirme gibi), ancak çok zayıf ve hedeflenmemiş biçimlerdir. Bilgi güvenliği açısından, bu insan psikolojisi bir "güvenlik açığı" olarak kabul edilebilir: bir sistemi kontrol etmek için kullanıldığı bilinen bir güvenlik açığı.
François Chollet, insan aklı söz konusu olduğunda, bu boşluklar asla onarılamaz, çünkü bunlar insan aklının çalışma şeklidir. DNA'da varlar. Bireyler için onlara karşı savunmanın pratik bir yolu yok.
"İnsan zihni statik ve savunmasız bir sistemdir. Yaptığımız ve inandığımız her şeyi aynı anda gözlemleyen daha akıllı AI algoritmalarının saldırısına giderek daha fazla maruz kalacaktır ve Temasa geçtiğimiz bilgileri tamamen kontrol edin. "
Teknoloji, Facebook'un uygulayıcısı olarak hareket etti. Xiao Zha'nın Çin'in kapısını çalmadan önce başka seçeneği yok gibi görünüyor
Chamath Palihapitiya ve Sean Parkerın eski kulüple ilgili endişeleri ve şüpheleri, Facebookun ABD başkanlık seçimleri sırasında çok sayıda Rus siyasi reklamını yayınlamasını hedefliyordu, ancak o sırada Facebookun dikkatini çekmedi.
2018'in başında Zuckerberg, Facebook'un düzeltmesini 2018 kişisel zorluklarına nadiren dahil etmişti.Önceki yıllarda, kişisel zorluklar okumak, seyahat etmek, seyahat etmek, arkadaş edinmek vb. Zuckerberg şunları yazdı: Tüm dünya endişe ve bölünme içinde ve Facebook'un 2018'de bu durumu değiştirmesini umuyor.
Görünüşe göre "öncüllerin" sesi Zuckerberg'in kulaklarına girdi.
Cambridge Analytica olayının aniden açığa çıkması olmasaydı, Facebook boşlukları kapatmak için yavaş önlemler almalıydı.Örneğin, sahte haberlere yanıt olarak, Facebook son zamanlarda bilgi akışı görüntüleme yöntemini değiştirdi ve haber bilgileri yerine arkadaşlarının bilgilerini önermeye öncelik verdi.
Ancak Cambridge Analytica olayının bu kadar şiddetli olacağını kimse düşünmezdi ve Facebook'un sonuçlarının bu kadar ciddi olacağını düşünmeyeceği tahmin ediliyor. Zuckerberg, olaydan sadece beş gün sonra halkla ilişkilerde göründü. Bu beş günde Facebook'un hisse senedi fiyatı% 10'dan fazla düştü ve piyasa değeri 50 milyar dolar buharlaştı.
Recode ile yaptığı röportajda Zuckerberg, Facebook'un on binlerce uygulamayı analiz etmek için milyonlarca dolar harcayacağını söyledi.
Bununla birlikte, kendi içinde zaten farklılıklar var: Facebook bu programları analiz etmek için dünya çapında yeterince insan bulabilir mi?
Cambridge Analytica olayıyla ilgili olarak, Zuckerberg'in ifadesiyle, "Facebook'un bu konuda yaptığı en büyük hata", kullanıcı gizliliğinin önemini küçümsemekti. Facebook bunu birkaç yıl önce biliyordu, ancak bilmiyordu Ciddi bir şekilde araştırın. Genel olarak, Cambridge Analytica daha çok bir yasal yaptırım sorunu gibi görünüyor.
Facebook'un karşı karşıya olduğu daha derin sorun, Teknolojinin tarafsız kalırken şirketin büyümesini sağlayıp sağlamayacağı.
Chamath Palihapitiya ve Sean Parker gibi "selefler" eski sahipleriyle ilgili endişelerinde mantıksız değiller. Bir yandan Facebook sahte haberler ve terörist ve şiddet içeren içerik sorunuyla karşı karşıya, diğer yandan Facebook insanların dikkatini çekmek için insani zayıflığını kullanıyor. Giderek daha az popüler hale geliyor.
İlki ile ilgili olarak, Zuckerberg bir içerik polisi olmak istemese de, Facebook'un bilgi akışındaki ayarlamaları, bir medya derecelendirme sisteminin başlatılması ve ICO reklamlarının yasaklanması, teknolojiyi açıkça bir uygulayıcı yapıyor. Bu, bazı sahte haberleri yasaklayabilse de, Google ve Amazon gibi platformlara da trafik çekiyor.
Kuzey Amerika'daki Facebook kullanıcılarının günlük aktivitesi düştü
İkincisi için, kullanıcıların büyümesi bir darboğaza ulaştığında, Facebook, kullanıcıların kalma süresini daha derin ve daha derin hale getirmek için beyinlerini harap ediyor ve yalnızca daha fazla teknolojiyi kullanabilir ve daha fazla sosyal şirket elde edebilir. Çin'in kapısını çalmadan önce Xiao Zha'nın başka yolu yok gibiydi.
Referans bağlantısı:
https://venturebeat.com/2018/03/22/googles-francois-chollet-ai-researchers-with-a-conscience-shouldnt-work-at-facebook/
https://www.youtube.com/watch?v=PMotykw0SIkfeature=youtu.bet=21m21s
https://venturebeat.com/2018/03/20/whatsapp-cofounder-its-time-to-delete-facebook/
