g u t x .com.tr İpek yolu - Çin'i anlamaya götürürüm

OpenAI Açık Değil: Kapalı kapılar ardında çalışıyor, finansman devam ediyor, kurucu Musk: daha açık olmalı

Aufei Tapınağı'ndan Balık ve Koyun Qubit Raporu | Genel Hesap QbitAI

OpenAI bir kez daha hararetli tartışmalara yol açtı. Bu sefer neden derinlemesine bir özelliktir.

Daha önce Aralık 2015'te kurulan OpenAI, sadece dört yıl içinde dünyanın en prestijli yapay zeka araştırma kurumu haline geldi. Ancak prestij altında, buna şüpheler de eşlik ediyor: CloseAI? Çok fazla tanıtım mı?

Şimdi, 30'dan fazla röportajın ardından, MIT Technology Review'dan bir muhabir olan Karen Hao, OpenAI'nin gizeminin bir köşesini halka açıkladı.

AGI'nin (Genel Yapay Zeka) insanlara hizmet etmesini isteyen OpenAI, artık gizliliği korumaya, imajını korumaya ve çalışan sadakatini sürdürmeye kararlı.

Açıkçası, OpenAI'nin kamuoyunda desteklediği konsept ile kapalı kapılar ardındaki yaklaşımı arasında bir sapma var.

OpenAI'nin kurucularından Musk, rapor çıkar çıkmaz "OpenAI daha açık olmalı" diye tweet attı.

Tüm yapay zeka daha iyi düzenlenmelidir ve Tesla bir istisna değildir.

Kar ihtiyacı olan kar amacı gütmeyen kuruluşlar

OpenAI'nin amacı, insanlığa bir bütün olarak fayda sağlayacak dost yapay zekayı teşvik etmek ve geliştirmektir. Ve çabaları nihayetinde AGI'ye (Genel Amaçlı Yapay Zeka) işaret ediyor.

Elon Musk ve Sam Altman OpenAI'yi kurduklarında, bu kar amacı gütmeyen kuruluş bir hedef belirledi: halka diğer kurumlar ve araştırmacılarla ücretsiz işbirliği sağlamak. açık Patentler ve araştırma sonuçları.

Ancak Karen Hao, OpenAI'ye girdiğinde ve 30'dan fazla röportaj gerçekleştirdiğinde şunu belirtti: OpenAI, misyonunu yapay zeka teknolojisini güvenli ve adil bir şekilde geliştirip dağıtmaktan sürekli finansmanı olan gizli bir şirkete dönüştürdü.

Açıkçası, bu şirketin halka açık olarak desteklediği konsept ile kapalı kapılar ardındaki yaklaşımı arasında bir sapma var.

Tüm değişikliklerin başlangıcı muhtemelen "kar" kelimesinden kaynaklanmıştır.

OpenAI'nin yeni CEO'su Sam Altman bunu açıkça ortaya koydu:

OpenAI'nin araştırma yapmak için para kazanması gerekiyor.

Sonuçta, AGI araştırmasına giden yolda, çığır açan sonuçlar elde etmek istiyorsanız, bilgi işlem kaynaklarının gereksinimleri her 3 veya 4 ayda iki katına çıkar. Ve bunun arkasında büyük fonlar yanıyor.

Üst düzey araştırmacıların maaşları da var. "New York Times" raporuna göre, 2016'da OpenAI'nin yalnızca 50'den fazla çalışanı vardı, ancak yalnızca maaş ve sosyal haklar için 7 milyon ABD dolarından fazla harcandı.

Mali baskı altında, Mart 2019'da insanlar OpenAI'nin yapısının değiştiğini fark ettiler.

İnsanlığın refahı için olduğunu iddia eden kar amacı gütmeyen AI kuruluşu, bir "kar sınırı" şirketi kurduğunu açıkladı OpenAI LP .

Diğer bir deyişle, getiri yatırım üst sınırına ulaştıktan sonra (ilk sınırın 100 katı), OpenAI LP yatırımından elde edilen karlar kar amacı gütmeyen kuruluş OpenAI Nonprofit'e aktarılacak ve şirket bu karları uygun gördüğü şekilde dağıtacaktır.

Temmuz ayında OpenAI, Microsoft'tan 1 milyar dolarlık yatırım daha aldı. Bu bağlamda, Keras yazarı François Chollet bir keresinde açıkça şöyle demişti:

Kar amacı gütmeyen kuruluşların pankartını haykırmak, ancak kâr amacı güden kurumların kollarına atmak ... Bu aptalca bir konuşma ...

Ve OpenAI içinde hayal edildiği gibi "açık" yoktur.

Karen Hao röportajda, OpenAI'nin atılımlarının çoğunun çok fazla bilgi işlem kaynağına yatırım yaptığını öğrendi ve YGZ'ye giden en iyi yolun bilişim odaklı stratejiler olduğuna inanıyorlar.

Bu sonuçlar "özgürce işbirliği yapmadı ve halka açık değildi." Aksine, OpenAI çalışanlara ve stajyerlerine ilgili bilgileri ifşa etmemeleri talimatını verdi ve ayrılanlar bir gizlilik sözleşmesi imzaladı.

Şimdi, OpenAI yönetimi orijinal fikirden kurtulmuş gibi görünüyor ve artık düşünmüyor açık Faydalı bir AGI oluşturmanın en iyi yolu budur.

Yanıt olarak, bir OpenAI sözcüsü şunları söyledi:

Güvenlik ve güvenlik sorunları, ortak güvenlik, politika ve standart araştırmalarının önemini güçlendirirken, bizi gelecekte geleneksel yayıncılığı azaltmaya zorlayacaktır.

Olası riskleri ve etkileri anlamak için sonuçları yavaşça yayınlamayı umuyoruz.

GPT-2: Bir hile mi yoksa iyi düşünülmüş bir şey mi

Bu, açık kaynaklı GPT-2 diş macunu sıkıştırmasını anımsatmıyor.

İlk çarpıcı çıkışından sonra, GPT-2 aşamalı bir açık kaynak yaklaşımı benimsedi. OpenAI'nin nedeni şudur: GPT-2 çok tehlikeli ve vicdansız insanlar tarafından silah haline getirileceğinden endişe ediliyor.

Bu, akademik dünyada kızgınlık uyandırdı. Rutgers Üniversitesi'nden Yardımcı Doçent Britt Paris (Britt Paris): "OpenAI, AI hakkındaki panikten yararlanmaya çalışıyor." Dedi.

OpenAI'nin giderek daha karmaşık hale gelen tanıtım çalışması, GPT-2 için bir "hile" değerlendirmesini cezbetti.

Şirketin imajını yönetmek, gizliliği korumak ve çalışanların sadakatini sağlamak için çok çalışıyorlar. O halde OpenAI hala öyle. açık , Şeffaf OpenAI?

Bununla birlikte, Karen Hao, OpenAI'nin hala bir yetenek ve son teknoloji araştırma kalesi olduğuna işaret etti.

OpenAI, yalnızca finansal sorunlar nedeniyle değil, aynı zamanda OpenAI'nin AGI stratejisini seçmesi nedeniyle de bir değiş tokuşla karşı karşıya.

Baskı, OpenAI'yi asıl amacından daha uzak görünen kararlar almaya zorladı. Sermayeyi ve yeteneği cezbetmek, avantajlarını korumak için araştırmasını savunmak ve büyük bilgi işlem kaynaklarına yatırım yapan stratejiler peşinde koşmak için hevesli - bunu YÜZ'ye giden tek yol olarak gördükleri için değil, kısayol gibi göründüğü için.

Netizenler tartışıyor

Bu uzun rapor, sosyal medyada canlı bir tartışmayı tetikledi.

Netizenler muhtemelen bir yıldız AI araştırma kurumu olan OpenAI'yi seviyor ve nefret ediyor.

Bazı netizenler şunları söyledi: AGI gerçekten gerçekleştirilebilirse, yine de Google, Amazon ve Facebook gibi şirketler yerine OpenAI gibi kuruluşlar tarafından yapılabileceği umulmaktadır.

Ancak, bazı netizenler OpenAI'nin çok fazla PR tekniği kullandığına inanıyor.

(Röportajdan) GPT-2 bir hile.

Bazı insanlar AGI'nin, OpenAI'nin teknolojik liderliğini göstermek için kullandığı bir araç olduğunu düşünüyor.

Yapay zeka liderleri olacaklarını sanmıyorum ve OpenAI'nin sonunda kazanılacağını tahmin edebilirim.

Beijing Post'tan Bay Chen Guang, François Chollet'ten bir pasaj alıntıladı ve şunları söyledi: OpenAI'yi analiz eden makaleyi okuduktan sonra, bu kelimeleri daha derin bir anlayışa sahibim - orijinal niyetle karşılaştırıldığında, sürekli ve doğru teşviklerin olup olmadığına gerçekten karar verildi. Laboratuvar nereye gidecek ve ne kadar ileri gidebilir.