Notre Dame de Paris'teki yangın 11 Eylül komplosu mu? YouTube'un algoritması sorun yaşadı
Yazar | Xiaozhi
Görüntü | Assassin's Creed Revolution
YouTube algoritması, Notre-Dame Katedrali'ndeki yangını 11 Eylül komplosu olarak işaretledi, Amazon'un yüz tanıma sistemi ABD'li kongre üyelerini suçlu olarak işaretledi ve Google'ın AI silah projesi geniş çapta eleştirildi. AI gelişti, sonuçları nelerdir?
Notre Dame de Paris ateşleniyor, YouTube algoritması yağ döküyor
Yerel saatle 15 Nisan'da Fransa'nın Paris kentindeki Notre Dame Katedrali'nde yangın çıktı ve tüm bina ciddi şekilde hasar gördü. Yangının yeri Notre Dame Katedrali'nin en üst kulesindeydi.Yangın Notre Dame Katedrali'nin kulesini hızla yuttu ve kısa süre sonra kule belden kırılmış gibi düştü. Kazadan sonra Western medyası kısa süre sonra yangın videosunu YouTube'da yayınladı.
Bununla birlikte, birkaç videonun altında garip bir metin kutusu belirdi: "Britannica Ansiklopedisi" nden 911 terörist saldırıları hakkında bir bölüm.
YouTube, 11 Eylül terör saldırılarını sorgulayanlar da dahil olmak üzere komplo teorilerinin yayılmasıyla mücadele etmek için geçen yıl bu metin özelliğini başlattı. Bu sorunun nedeninin, YouTubeun algoritmasının yanlışlıkla Notre Dame Katedrali yangınından çıkan dumanı 2011 atışı olarak işaretleyerek 911 terörist saldırısı ile işaretlenen paneli tetiklediği anlaşılıyor.
Bir YouTube sözcüsü, önce Notre Dame de Paris'te çıkan yangının üzüntüsünü dile getirdi ve ardından algoritmalarının bazen yanlış çağrıldığını ve ilgili videonun altındaki özelliği kapattığını söyledi. YouTube, aşırı ve yanıltıcı videolar, özellikle de son dakika haber konularındaki videolar nedeniyle eleştirildi. Dünyanın en büyük video sitesi haline gelmesine rağmen, her gün yüklenen milyonlarca saatlik videoyu izlemek için yazılım ve manuel incelemeyi kullanmak zor oldu.
Geçen yıl, YouTube bu metin işlevini yayınladı. Metin kutusunun içeriği, yanlış videoları kesin gerçeklerle dengelemek için Wikipedia da dahil olmak üzere güvenilir web sitelerinden alındı. YouTube, her hafta sitenin videolarının altında "on milyonlarca" metin paneli görüntülediğini söyledi.
Ancak bu küresel haber altında, YouTube'un algoritması tamamen tersine döndü ve dış dünyadan daha fazla eleştiriye neden oldu. Algoritma söylentileri ortadan kaldırmak için icat edildiğinde, başka bir fiili söylenti mi olur?
Üç örnek, yapay zeka hakkında konuşun
İlk vaka: Amazon yapay zeka tanıma, 28 Amerikalı konferans üyesini suçlu olarak mahkum etti
Temmuz 2018'de, Kuzey Kaliforniya Amerikan Sivil Özgürlükler Birliği, Amazon'un yüz tanıma sistemi Rekognition'ı test ettiğini açıkladı, ancak sistemin doğru olmadığını tespit etti. Koalisyon yüz tanıma testleri için Kongre üyelerinin resimlerini kullandığında, Rekognition 28 Kongre üyesini tutuklanan suçlu olarak tanımladı. Koalisyon, polis tarafından "kamuya açık kaynaklardan" alınan 25.000 suçlu yüzünü indirdi ve ardından 535 Kongre üyesinin resmi fotoğraflarını işlenmek üzere Rekognition'a teslim etti ve 25.000 fotoğraftan herhangi birinin Kongre üyeleriyle eşleşip eşleşmediğini sordu. Rekognition "28 maç var" sonucunu verdi.
Rekognition, Amazon'un en tartışmalı ürünlerinden biridir. Bu, Amazon sunucularında çalışan bir görüntü tanıma AI yazılımıdır.Kullanıcıların, yazılım tarafından işlenen her resim için Amazon'a ödeme yapması gerekir. Metinleri, nesneleri, sahneleri, etkinlikleri ve resimlerdeki veya videolardaki insanları tanıyabilir.
Bu olaydan önce ürün, Amazon kullanıcıları, sivil kuruluşlar, hissedarlar ve hatta Amazon çalışanları dahil olmak üzere 150.000'den fazla kişi tarafından ortaklaşa protesto edildi. Yüz tanıma yalnızca yardımcı bir yöntem ve yanlış pozitifler kaçınılmaz olsa da, yine de sıradan insanların güvenliği ve mahremiyeti konusunda büyük şüpheleri olmasına neden oluyor. Hatta komplo teorileri var: Ya Amazon'un yüz tanıma sistemi doğruysa?
İkinci örnek: Google'ın AI silah anlaşmazlığı
Google, Google çalışanlarının, yöneticilerinin ve teknik uzmanlarının güçlü direnişiyle karşılaşan askeri drone projesi Maven'i geliştirmek için bir zamanlar ABD Savunma Bakanlığı ile işbirliği yaptı. Projenin Pentagon tarafından insanları öldürmek için kullanılabileceğine inandılar. Güçlü protestolar yaptılar ve Google'ı geri çekilmeye çağırdılar. bu proje.
Proje, Google'da yaklaşık bir yıldır direniyor. Google Cloud'un eski baş bilim adamı Li Feifei de dahil olmak üzere bir dizi teknik uzman ve yönetici direnişi dile getirdi. Li Feifei, "İnsan merkezli yapay zekanın olumlu ve hayırsever bir şekilde kullanılabileceğine inanıyorum. İnsanlığa fayda sağlamak için, herhangi bir AI silah projesi ilkelerime aykırıdır. "
Li Feifei'ye ek olarak, DeepMind yöneticileri, Jeff Dean ve diğer tanınmış sektör oyuncuları da açık bir tavırla buna karşı oy kullandı. Sonunda, uzun süren bir savaşın ardından Google, AI teknolojisinin silah geliştirmeye uygulanmaması, bilgi izlemek ve toplamak için AI kullanarak insan hakları normlarını ihlal etmemek ve AI'nın amacından kaçınmak dahil olmak üzere AI kullanımı için yedi ilke ve dört alt satır yayınladı Veya sosyal adaletsizliği şiddetlendirir.
Ancak Google, yapay zeka konusunda hükümet ve ordu ile siber güvenlik, eğitim ve zorunlu askerlik gibi işbirliğine devam edeceğini de söyledi. AI silahlarıyla ilgili endişeler geçici olarak giderildi, ancak Google ile askeri AI arasındaki işbirliğine ilişkin endişeler ortadan kalkmadı. Ve başka endişeler uzun süredir filme yansıdı:
Üçüncü örnek: bir araba kazasıyla karşılaşıldığında otonom sürüş ikilemi
Otonom bir araba bir engele çarpmak, üç kadın yolcuyu öldürmek veya sokakta bir çocuğun üzerinden geçmek arasında seçim yapmak zorunda ise, hangisini seçmelidir?
İnsanlar için bile bu tür etik kararlar son derece zordur. Genellikle, bir araba kazasından önce, insanlar genellikle yalnızca sezgi yoluyla seçim yaparlar. Otonom sürüş teknolojisinin gelişmesiyle, yakın gelecekte benzer senaryolar kesinlikle ortaya çıkacak.Böyle bir ikilemle yapay zeka ne yapacak?
Önceki bir ankette, insanların genellikle otonom arabaların, otomobildeki yolcuları feda etmek anlamına gelse bile daha fazla insanı koruması gerektiğine inandıkları bulundu. Ancak bu prosedüre göre tasarlanmış sürücüsüz bir aracı da almayacaklarını belirttiler. Bu bize ne anlatıyor?
Son dönemlerde manşetlere çıkan Mercedes-Benz, daha önce sadece bir kişiyi kurtarabilirlerse yaya yerine sürücüyü kurtaracaklarını belirtmişti. Halkın öfkesi bu açıklamayı geri çekmelerine neden oldu.
Google'ın sürücüsüz otomobil projesine katılan bir mühendis, bu tür bulguların önemli olmadığını, çünkü bu durumlarda gerçek yanıtın neredeyse her zaman "frene basmak" olduğunu söyledi. Ancak otonom sürüş teknolojisinin gelişmesiyle birlikte yol koşullarının giderek daha karmaşık hale geldiğini söyledi.Bu tür ikilem çoktan seçmeli soruların her zaman insanların önünde ortaya çıkacağını söyledi.Böyle bir senaryoda, AI tarafından yapılan seçimler her zaman insan tasarımına dayalıdır, ancak eğer Program yanlışsa, bir tarafı diğerini kurtarmak için feda etme trajedisiyle değil, her iki tarafı da inciten insanlık trajedisiyle karşılaşabilirsiniz.
Yapay zeka, seni seviyorum demek kolay değil
Tarihsel olarak, her teknolojik devrim belirli bir panik yarattı. 18. yüzyıldaki sanayi devriminden elektriğin ortaya çıkmasının neden olduğu bir dizi sosyal değişime, elektrikli aletlerin sürekli ortaya çıkmasına kadar, insanlar her zaman işsizlik ve kişisel güvenlik konusunda endişelenecekler.
Ve en başından beri, yapay zekadan herkes tarafından fazlasıyla şüphe ediliyordu. 1958'de ilk sinir ağı sistemi olan Perceptron'un ortaya çıkmasından sonra gazeteler makinelerin yakında kendi bilincine sahip olacağına inanıyordu. "Yapay zekanın babası" John McCarthy 1960'larda bir yapay zeka sisteminin 10 yıl içinde hayata geçirileceğini önermişti. Ancak on yıl sonra yapay zeka alanı sözde "donma dönemi" ne girmiştir.
Yakın zamana kadar yapay zeka yeniden kızıştı. Bir yandan, bilgisayar performansının hızlı iyileştirilmesi, yapay zeka algoritmaları için temel destek sağlar. Öte yandan, büyük verinin ortaya çıkmasıdır. Büyük verinin sağladığı muazzam miktardaki veri, makine öğreniminin verimliliğini ikiye katladı. DeepMind ekibinin AlphaGo in Go başarısı, çok sayıda erken eğitiminden kaynaklanıyor.
Yapay zeka teknolojisinin üçüncü salgını ile yapay zeka tehdit teorisi bir kez daha gürültülü. Wu Enda, makine zekasının kısa sürede insanları geçmesinin gerçekçi olmadığına inanırken, MIT fizikçisi Tegmark makinelerin insanlara tehdit oluşturması için kötü olması gerekmediğine inanıyor. 40 yıl bu seviyeye ulaşmak için yeterli.
Facebook'ta bir yapay zeka uzmanı olan Yann Lecun, bunun (AI tehdit teorisi) hala çok uzak bir konu olduğunu söyledi. İnsan varlığını tehdit edebilecek makine zekasının temelde bilim kurguda hala var olduğuna inanıyor. Dahası, makinenin davranışı, insanlar tarafından tasarlanan algoritmalar tarafından kontrol edilir. Gelecek ne olursa olsun, bu bizim kendi eserimizdir.
Bu aşamada endişelenmeye değer olan şey, AI tehdit teorisi değil, sosyal meslekler üzerindeki etkisidir. Örnek olarak Boeing'i ele alalım: 1990'larla karşılaştırıldığında, şirketin çalışan sayısı üçte bir azalırken, üretim verimliliği% 20 arttı. 2000'den 2015'e kadar, yalnızca Amerika Birleşik Devletleri'nde yaklaşık 5 milyon iş ortadan kayboldu ve bunların çoğu makinelerle değiştirildi. Yapay zekanın etkisi, bir buhar makinesinin etkisi ile karşılaştırılabilir olacak ve makine zekasının etkisi bundan daha fazlası olacak.
Google'ın geçen yıl yayınlanan Cloud AutoML'si, araştırmacıların kendisinden bile daha verimli bir dizi makine öğrenimi kodu üretti. Sistem tasarımının amacı, yapay zekanın yapay zekayı kendi başına tasarlamasına izin vermektir. Mevcut AI yalnızca kendi başına kod yazmakla kalmayacak, aynı zamanda hataları da kendi kendine düzeltecektir. Belki de programcıların yapay zeka ile değiştirilip değiştirilmeyeceği konusunda endişelenmeye değer.
Küçük yumurta
Notre Dame Katedrali'ndeki yangın nedeniyle, Ubisofts Assassins Creed Revolution sınırlı bir süre için ücretsizdir. Oyun Kasım 2014'te piyasaya sürüldü ve Fransa'nın başkenti Paris'i doğru bir şekilde tasvir ettiği biliniyor. Notre-Dame Katedrali'ndeki yangının ardından, Notre-Dame Katedrali'ni doğru bir şekilde restore eden bu oyun, beklenmedik bir şekilde Steam gibi oyun mağazalarında satışların ön saflarında yer aldı. Şimdi geliştirici Ubisoft, Twitter hesabı üzerinden oyunun sınırlı bir süre için ücretsiz olduğunu duyurdu ve Notre Dame Katedrali'nin yenilenmesine yardımcı olmak için para bağışlayacağını duyurdu. Oyuncular oyunu Ubisoft'un resmi web sitesi veya istemcisi aracılığıyla alabilirler ve teslim alma süresi 17 Nisan - 25 Nisan arasındadır.
Notre Dame de Paris'e hiç gitmemiş öğrenciler şimdi başlayabilir. (Ubisoft, lütfen bunun bedelini ödeyin.)
