g u t x .com.tr İpek yolu - Çin'i anlamaya götürürüm

Princeton bilgisayar profesörü "sözde AI" bombardımanına tuttu: özenle hazırlanmış bir rastgele sayı üreteci

Aufei Tapınağı'ndan Balık ve Koyun Qubit Raporu | Genel Hesap QbitAI

Yapay zeka çağında, yapay zeka adına aldatılan "sözde yapay zeka" ürünleri nadir değildir ve etkileri daha da yaygındır.

Birinin adı Arvind Narayanan (Arvind Narayanan) Princeton'dan Doçent CS hala oturamadı. Bombardımanı yaptı:

Bazı şirketler mal satmak için ne sattıklarına bakılmaksızın halkın cehaletinden yararlanıyor ve onları "AI" olarak etiketliyor.

Daha da korkutucu olan, AlphaGo gibi mükemmel AI'ların çok sayıda yatırımcıyı çekmiş olmasıdır. Halo altında, "sözde AI" ürünleri ayrıca büyük miktarlarda fon toplayabilir ve hatta sermayenin ivmesi altında bile, giderek daha fazla insanı etkileyen bir trend haline geldi.

Arvind, örnek olarak AI röportajını kullanıyor. Şimdi, dünyanın her yerinden milyonlarca iş arayan, yapay zeka mülakatçılarının "bakışlarını" deneyimlemiş veya deneyimlemektedir.

Bu tür ürünleri sağlayan tek bir şirket yok En tanınmış HireVue, dünya çapında ürünlerini kullanan 700'den fazla şirketin olduğunu iddia ediyor, bunların çoğu Fortune 500 şirketi. Şu anda, bu şirket 93 milyon ABD doları (yaklaşık 655 milyon yuan) tutarında fon topladı.

Cornell Üniversitesi anket sonuçları

Arvind şunları söyledi:

Bunların iş performansını gerçekten tahmin edebileceğini gösteren hakemli bir kanıt yoktur. Milyonlarca iş arayan, dikkatle tasarlanmış rastgele sayı üreticilerinden başka bir şeyle karşı karşıya değil.

Şüpheli, bu sadece bu üründen çok daha fazlası.

Arvind, herkesin en son "IQ vergisi" tarafından toplanmasını önlemek için, AI endüstrisindeki herkese bu dolandırıcıları nasıl belirleyeceğini öğretmeye kararlı.

"Dolandırıcılığı Önleme Rehberi" birkaç saatliğine yayınlandı ve Twitter'da şimdiden 1.500 beğeni aldı.

Yapay zeka yalancı neye benziyor

Her şeyden önce Arvind, mevcut AI uygulamalarının üç kategoriye ayrılabileceğine inanıyor:

Gerçekten verimli bir proje
Belirgin ilerleme ile kusurlu projeler
Hiç güvenilir olmayan projeler

Özetle, AI'nın performansı, yüz tanıma ve öneri algoritmaları gibi otomatik değerlendirme görevleri gibi algılama görevlerinde nispeten güvenilirdir.

"Sözde AI" şüphelisinin yaptığı şey, insanlarla ilgili "geleceği" tahmin etmekti.

İnsanlar sağduyu olması gereken geleceği tahmin edemezler, ancak söz konusu AI olduğunda sağduyu her zaman unutulur.

Elbette kanıt yok Arvind, Preston Üniversitesi'nde Kırılgan Ailelerin ve Çocukların Refahı üzerine yapılan bir araştırmanın sonuçlarına atıfta bulundu (adrese makalenin sonundaki bakınız).

Bu çalışma, çocukların performansının tahmin edilebilir olup olmadığını ortaya çıkarmayı amaçlamaktadır.

Süreç şu şekildedir: önce derinlemesine görüşmeler ve aile gözlemleri yoluyla çocuklar ve aileleri hakkında çok sayıda veri toplayın. Ardından, tahmine dayalı bir model eğitmek için bu verileri kullanın. Yaklaşık 13.000 giriş değişkeni vardır ve çıktı, 15 yaşındaki bu çocukların 6 davranışını tahmin edecektir.

Model sonucu mükemmel bir şekilde tahmin edebiliyorsa, R ^ 2 = 1, model hiçbir şey öğrenmezse, R ^ 2 = 0.

Ancak, eğitimin sonuçları çalışmaya katılan araştırmacıları şaşırttı.

En iyi performans gösteren model bile ikna edici tahmin sonuçlarına sahip değildir ve 4 değişkenli bir doğrusal regresyon modeline uydurmak kadar güvenilir bile değildir.

Yeşil çizgi: 4 değişkenli doğrusal regresyon sonuçları

Bu sonuç yalnız değil. Tekrar suçlama oranının tahminiyle ilgili bir çalışmada (makale bağlantısının sonuna bakın), AI'nın tahmin doğruluğu rastgele sonuçtan yalnızca biraz daha iyidir veya lojistik regresyon sonucundan% 2 daha düşüktür.

Dahası, yalnızca tahmin sonucu güvenilmez olmakla kalmaz, aynı zamanda böyle bir tahmin yapay zekası daha fazla risk anlamına da gelir.

İlk olarak, böyle bir AI eğitimi, büyük miktarda kişisel gizlilik verisinin toplanmasını gerektirir. Hiç kimse bu verilerin tamamen güvenli olacağını garanti edemez.

İkincisi, insanların bu tür YZ'ye duyduğu kör güven, alan uzmanlarından ve uygulayıcılardan yapay zeka konusunda uzman teknoloji şirketlerine kadar bir alanda konuşma hakkının büyük ölçekli bir aktarımını sağlayacaktır.

Daha da önemlisi, yapay zekanın kara kutu doğası, yorumlanabilirlik eksikliği verdiği sonuçları ortaya çıkarır.

Başlangıçtaki yapay zeka görüşmesi örneğinde olduğu gibi, yapay zeka görüşmecisi size düşük bir puan verdi ve bunun nedeninin yeterince emin olmadığınızdan mı yoksa çevrenizdeki gürültünün kararını etkilediğinden mi kaynaklandığını kimse açıklayamaz.

Her AI AlphaGo olarak adlandırılmaz. Arvind, yapay zekanın belirli görevlerde çok iyi performans gösterdiğini kabul ediyor, ancak eğer birisi yapay zekayı her derde deva olarak görürse, yapay zekanın bir parçasını almak için gözlerini açık tutmalı ve ona karşı çıkmalıdır. Boykot boykot.

Bir taş dalgaları karıştırdı

Dünya uzun süredir "sözde AI" den muzdarip. Arvind'in "Dolandırıcılığı Önleme Rehberi" yayınlanır yayınlanmaz, sosyal ağlarda hararetli tartışmalara yol açtı.

Bazı insanlar "yapay zeka" yı bir zamanlar pazarlama rengine sahip olmakla suçluyor ve eğer teknolojiyi tartışmak istiyorsanız, kelimeyi değiştirmelisiniz.

Birisi, Facebook ve Google gibi teknoloji devlerinin bile yapay zeka konusunda sahte şeyler yaptığından bahsetti.

Not: Otomatik olarak arama yapabilen ve Turing testini geçtiği için övülen Google'ın AI Duplex'i New York Times tarafından başarıyla tamamlanan 4 görevden 3'ünün manuel olarak yapıldığını ortaya çıkardı.

Bazı insanlar, gerçek yapay zekanın oyunun kurallarını değiştireceğini, böylece insanların bunu görmezden gelemeyeceğini ve fazla tanıtıma ihtiyaç duymayacağını düşünüyor.

Bazı kişiler "Dolandırıcılıkla Mücadele Kılavuzu" nu ekledi:

Bir keresinde böyle bir AI girişimiyle röportaj yapmıştım. LinkedIn, geliştiricileri önemsemediklerini, ancak "eğitmenler" konusunda oldukça endişeli olduklarını gösteriyor.

Gerçekten AI yapıyorlar mı merak ediyorum.

AlphaGo bir gişe rekorları kırdığından ve dünyayı şok ettiğinden beri, yapay zeka kademeli olarak yüksek seviyelere çıkarak çok sayıda fon, yetenek ve halkın dikkatini çekti. Tuyere'de gerçek hard-core teknolojisi ışıldıyor ve bu ışıltıda spekülatörler de gizli.

Ancak ayrım gözetmeyenler sonunda ayaklarını gösterecekler. Ne düşünüyorsun?

Ve "sözde AI" olduğunu düşündüğünüz herhangi bir AI projesi var mı?