Açıktan kapalıya finansal baskı OpenAI'yi aşındırıyor
Bugün, MIT Technology Review'den bir makale bir kez daha OpenAI'yi kamuoyunun ön saflarına taşıdı.
Heteroseksüel bir çelik adam olan Elon Musk ve YC'nin kurucusu Sam Altman tarafından ortaklaşa kurulan bir proje olan OpenAI, yalnızca 4 yıldır kuruldu, ancak Google, Facebook, Amazon ve DeepMind gibi yapay zeka araştırmaları alanındaki en iyi araştırmalarla karşılaştırılabilir hale geldi. Kurumların varlığı.
Ancak geçtiğimiz yıl OpenAI eleştirildi.Önce, açık kaynak yerine en güçlü "evrensel" NLP modeli GPT-2'yi piyasaya sürdü; sonra Microsoft'un 1 milyar dolarlık yatırımını kabul ederek, onu asıl amacını ihlal eden "sınırlı kârlı" bir şirkete dönüştürdü ... .... OpenAI'nin Musk'ın 4 yıl önce ilan ettiği "yapay zeka kar amacı gütmeyen organizasyondan" farklı olduğuna dair göstergeler var.
(Lei Feng Ağı)
Peki OpenAI'nin şu anki durumu nedir? Bu soruna yanıt olarak, MIT Technology Review muhabiri Karen Hao, altı ay geçirdi ve 36 röportaj gerçekleştirerek OpenAI'nin gerçek yüzünü ortaya çıkardı. Karen, OpenAI'nin önceki açıklık ve şeffaflık vaadinden vazgeçmiş gibi göründüğünü, başka bir deyişle rekabetin baskısının "idealizmi" aşındırdığını gördü.
1. Açıktan kapalıya, çelişkiler OpenAI'yi aşındırıyor
OpenAI, halkın gözlerini en son parlattığında, 2019'da piyasaya sürülen en güçlü "evrensel" NLP modeli GPT-2'ydi. O zamandan beri, yaklaşık bir yıldır "sınırlı kârlı" bir işletmeye dönüştürüldü. Çığır açan araştırmalar getirebilecek "hale" yavaş yavaş OpenAI'den çekildi.
(Lei Feng Ağı)
O zamanlar kar amacı gütmeyen bir kuruluş olan OpenAI tüzüğünün ilk maddesi hâlâ "insanlığa karşı birincil emanet görevi" idi. Bu kutsal inanç, onu diğer en iyi AI araştırma kurumlarından da ayırıyor.
"Hissedarlar için değil, herkes için değer yaratın" hükmü, OpenAI'nin, orijinal ödeme şirketi Stripe'den Greg Brockman (Greg Brockman), araştırma direktörü Ilya Sutskever ve de dahil olmak üzere dünyanın en iyi araştırmacılarını bir araya getirmesine izin verdi. OpenAI'nin çekirdek teknik ekibini oluşturan, en iyi yetenekler arasından seçilmiş en iyi yedi yetenek var.
Ancak Musk ve diğerlerinin 1 milyar dolarlık ilk sermaye enjeksiyonuna rağmen, AI araştırması çok fazla kaynak tüketen bir alandır. OpenAI'nin CTO'su Brockman'a göre, her 3 ila 4 ayda bir, araştırma için gereken bilgi işlem kaynakları ikiye katlanacak. Araştırmanın etkili bir şekilde yürütülmesini sağlamak için, bu üstel büyümeyi karşılayacak yeterli fon olması gerekir; bu, misyona sadık kalırken hızla fon biriktirebilen yeni bir organizasyon modelini gerektirir.
Dolayısıyla geçen yıl, OpenAI "sınırlı kârlı" bir işletmeye dönüştü. Bundan sonra OpenAI üst yönetimi maaş yapısını yeniden kurdu ve göreve göre maaş ödedi. OpenAI, çalışanları için şiddetli rekabet ve artan baskı tasarladı.
Bu yaklaşım ona daha fazla fon sağladı, ancak aynı zamanda orijinal açıklık, şeffaflık ve işbirliği ruhunu da baltaladı. Aslında, 2018 Nisan ayı başlarında, OpenAI şirket tüzüğünü yeniden yayınladığında, şirket modelini değiştirmenin bir işareti vardı.Laboratuvarın temel değerini yeniden açıklamanın yanı sıra, tüzük yeni şeyler anlatmak için akıllıca bir dil kullandı. Talep - fon talebi.
OpenAI konferans odası, resim kaynağı: MIT Technology Review
Dönüşümden sonra, çalışanlar ve liderler bir geçiş dönemine girerler.Çalışanlar, dış dünyadan gelen sürekli eleştirilerden hüsrana uğrarlar ve liderliğin endişesi, OpenAI'nin etkisini ve mükemmel yetenekleri işe alma becerisini yavaş yavaş zayıflatmaktadır.
Aslında laboratuvarın etkisini zayıflatan unsur sadece "karlı işletme" değildir.
Diğer şirketler gibi, OpenAI da çeşitlilik eksikliğinden muzdariptir Bir laboratuvar sözcüsüne göre, kadın çalışanların dörtte birinden azı ve yaklaşık 120 çalışanın büyük çoğunluğu beyaz veya Asyalı. Çeşitlilik ve kapsayıcılık, bir takımın ilerlemesini etkileyen uzun vadeli faktörlerdir.OpenAI bu alanda pek çok çaba sarf etse de, açıkça yeterli olmaktan uzaktır.
Genel operasyon stratejisinde de dikkate değer birçok nokta vardır.Örneğin, şu anki araştırma direktörü Amodei, laboratuvarın stratejisini iki kısma ayırır: İlk kısım, Highland AI'nın işlevinin nasıl gerçekleştirileceğidir.Farklı araştırma ekipleri bu strateji hakkında farklı anlayışlara sahiptir. Örneğin, dil ekibi, makinenin saf dil öğrenimi yoluyla dünya anlayışını yeniden şekillendirebileceğine inanıyor; robotik ekibi, zeka geliştirmenin fiziksel sınırlamaları aşması gerektiğine inanıyor.
Laboratuvar stratejisinin ikinci kısmı, yapay zeka sisteminin nasıl daha güvenli hale getirileceği ve insan değerlerini nasıl doğru şekilde yansıtacağıdır ...
Açıkçası, laboratuvarın iki stratejisi AGI'ye ulaşmak için çok çalışıyor gibi görünüyor.
Ama en büyük sorun, Amodei'nin dediği gibi: "AGI'nin neye benzediğini bilmiyoruz".
Bu, stratejilerin oluşturulmasında birçok kaotik yer olduğu anlamına gelir: stratejilerin oluşturulması mevcut teorilere daha az, daha çok sezgiye dayanır.
Araştırma atılımları açısından, OpenAI daha çok diğer laboratuvarlarda geliştirilen yenilikleri tekrarlamakla ilgilidir: en iyi sonuçları elde etmek için büyük miktarda bilgi işlem kaynağına güvenmek.
Diğer bir deyişle, mantıksız işletim stratejisi OpenAI'nin gelişimini engelliyor.
Ek olarak, şirketin demir kuralı vardır: Halkla ilişkiler departmanının açık izni olmadan, muhabirlere hiçbir şey veremezsiniz. Bu, mevcut OpenAI'nin ilk "tam güvenilen" etkisini kaybettiği ve halkın artık onu makine öğrenimi ve AGI araştırması için en güvenilir kurum olarak görmediği anlamına geliyor.
Gizlilik kapsamı sadece medya için değil, aynı zamanda şirket içinde buna uygun bir gizlilik seviyesine sahiptir. Örneğin, devam etmekte olan OpenAI araştırma projesi ile ilgili olarak, ilgili kaynaklar, bunun OpenAI'nin kuruluşundan bu yana geçen birkaç yıldaki en yüksek araştırma projesi olabileceğini iddia ediyor.
Ancak böyle bir proje için stajyerlerin katılmasına izin verilmiyor. Mevcut OpenAI, yüce hırslarına rağmen "gizliliğe" bağlı.
Zaman geçtikçe, OpenAI yöneticileri ilk fikirlerini kaybettiler. "Açıklık, AGI oluşturmanın en iyi yoludur" OpenAI içinde uygulanabilir görünmüyor. OpenAI'nin şu anda meşgul olduğu yutturmaca, para çekme ve yetenekleri doğru gibi görünüyor. En yararlı olanıdır. Belki de Brockman'ın dediği gibi, OpenAI'nin şu anki tutkusu "en iyisini yapmak".
2. Ödün vermenin temel nedeni parasızlıktır
MITReview muhabiri Karen Hao da twitterında bu raporun aslında sadece bir laboratuvar (OpenAI) sorunu değil, sistematik bir sorun olduğuna dikkat çekti: Rekabet ve finansal baskılar yeniliği nasıl teşvik eder?
OpenAI'nin bir analiz raporuna göre, 2012'den 2018'e kadar, en büyük AI eğitimi için gereken bilgi işlem gücü 300.000 kat arttı (bugün 2020'de bu sayı iki kattan fazla artmış olmalı), Ortalama 3,5 ayda bir ikiye katlanır.
(Lei Feng Ağı)
Bilgi işlem gücü arzusuna dayanarak, geçen yıl Temmuz ayında OpenAI, Microsoft'tan 1 milyar yatırım kabul etti. Microsoft, OpenAI'nin özel bulut sağlayıcısı oldu.Aynı zamanda, OpenAI, Azure AI süper hesaplama teknolojisini geliştirmek ve Microsoft'u yetkilendirmek için Microsoft ile de işbirliği yapacak. Teknolojisinin bir kısmını ticarileştirmek için kullanın.
Bu hareket, sektördeki birçok kişi tarafından da sorgulandı.İnsanlar, OpenAI'nin Microsoft'tan etkileneceğinden, finansal baskıya ve diğer faktörlere yenik düşeceğinden ve artık eskisi gibi açık ve eşit bir iletişim duruşu sağlayamayacağından endişe ediyorlar.
Aslında bu kaygı kanıtsız değildir.Geçen yıl Mart ayında, OpenAI zaten bir yeniden yapılanma turu gerçekleştirmiş ve fon toplamak ve yetenekleri çekmek amacıyla "OpenAI LP" adlı bir yan kuruluş kurmuştu. AI alanında Google ve Facebook gibi büyük firmalarla rekabet edebilecek. Yapay zeka araştırma ve geliştirme yalnızca büyük bir bilgi işlem gücü değil, aynı zamanda büyük fonlar da gerektirir.
Kar amacı gütmeyen bir kuruluşun kaynak yaratmada sınırları vardır ve maliyeti karşılamanın en etkili yolu mevcut yapıyı değiştirmektir. Ancak bazı insanlar da OpenAI'yi savundu: Parasız kalmanın yanı sıra, bu tür bir değiş tokuşla karşı karşıya kalması, yaptığı stratejik seçim nedeniyle daha önemli; kar amacı gütmeyen bir kuruluş olarak, Google ve Facebook gibi büyük şirketlerle rekabet etmek zorunda. AGI'yi kendilerinden önce elde edebilmelerini sağlayan bu baskı, onları orijinal amaçlarından sapmış gibi görünen kararlar almaya zorlayacaktır.Uzun vadeli avantajlarını sürdürmek için fon ve yetenek çekmeleri ve araştırmalarını korumaları gerekir.
OpenAI'ye benzer şekilde, aslında Amerika Birleşik Devletleri'nde, merkezi Seattle'da bulunan AI2 gibi yapay zekanın geleceğini aktif olarak araştıran başka kar amacı gütmeyen kuruluşlar da var. OpenAI'den farklı olan şey, AI2nin fonlarının Microsoft'un kurucu ortağı ve kendi kendine fon toplayan son milyarder Paul Allen'dan (Paul Allen) gelmesidir. Öngörülebilir gelecekte AI2 fon almayacaktır. basınç.
Kar amacı gütmeyen bir kuruluş olarak OpenAI, "zengin bir hayır kurumu bağışçısı" na sahip değildir. Bu nedenle, Karen Hao'nun makalenin sonunda söylediği gibi, OpenAI'nin araştırma yapmak için para kazanması gerekiyor, tersi değil. Parasızlık, OpenAI'nin gerçekliğe sürekli taviz vermesinin temel nedenidir; kar amacı gütmeyen herhangi bir kuruluş, büyük bir fon kaynağının ardında vazgeçilmezdir.
3. Açın veya para kazanın, bu bir sorudur
Fonların baskısı, OpenAI'yi yavaş yavaş orijinal garantisini ihlal etmeye zorladı. Ancak OpenAI'nin hala insanlığın yararına içtenlikle çok çalışan insanlarla dolu bir yetenek ve son teknoloji araştırma kalesi olduğu inkar edilemez.
Başka bir deyişle, orijinal niyeti değişmedi ve sapmayı düzeltmek için hala zaman var.
Öte yandan, tam da bilinmeyen bir alana girmeye çalıştıkları için, her türlü hata ortaya çıkıyor. Seyirciler olarak onlara doğru eleştiri sunmalıyız. Gelecekte AGI'nin OpenAI gibi kar amacı gütmeyen kuruluşlar yerine Google, Amazon, Facebook, Apple veya Alibaba gibi şirketler tarafından geliştirilmesini kim umabilir?
Ancak kontrolden vazgeçmek, ideal açık kaynağın mantıksal özüdür. AGI hedefini birlikte tamamlamak için en güçlü beyinlerden gerçekten yeterince toplarsanız, yapay zeka dünyasını kişisel güçle kontrol etme kötü fikrini yenmenin en iyi yolu, herkesin bu teknolojiye sahip olmasına izin vermektir.
Bu soruna yanıt olarak Musk da çok endişeli, Twitter'da şunları söyledi: OpenAI daha açık olmalı.
Ancak orijinal niyete bağlı kalmak ve tamamen açık olmak OpenAI için en iyi seçimdir, bu sadece bir laboratuvar mı? Belki de tıpkı Weibo büyük V "Love Coco-Love Life" ın François Chollet'ten bir pasajından alıntı yaptığı gibi: Asıl niyetle karşılaştırıldığında, sürekli ve doğru teşviklerin olup olmadığı, laboratuvarın nereye gideceğini ve ne kadar ileri gidebileceğini gerçekten belirler.
Referans: OpenAInin dünyayı kurtarma girişiminin arkasındaki dağınık, gizli gerçeklik,
https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
Microsoft'un 1 milyar dolarlık OpenAI'si ile ne yapmak istiyorsunuz? ,
https://baike.baidu.com/tashuo/browse/content?id=df6178d6a398cbbcb21dc4adlemmaId=19758408fromLemmaModule=pcRight
