Aufei Tapınağı'ndan Balık ve Koyun
Qubit Raporu | Genel Hesap QbitAI
Yapay zeka alanında, bilginin güncelleme hızı hayal gücünün ötesinde ... Geçen yıl BERT de büyük sıralamalara hakim oldu ve XLNet göz açıp kapayıncaya kadar tekrar geldi.
Yapay zeka şirketlerinin çalışanları için, teknoloji dalgasını kovalamazlarsa, yapay zeka çağındaki şiddetli rekabette giderek daha aciz hale gelmeleri muhtemeldir.
Teknolojiyi zamanında yinelemek, şirketin beklentileri ile uyumludur. Elbette, AI şirketinin kendisi çalışanların teknik darboğazlara sıkıştığını görmek istemiyor.
Peki, yapay zekanın ön saflarında yer alan bu büyük şirketler, çalışanlarını AI teknolojisi trendine ayak uydurmak için nasıl organize ediyor?
OpenAI, Perşembe gününü bir öğrenme günü olarak belirleyerek çalışanların günlük işlerinde öğrenemediklerini özgürce öğrenmelerine olanak tanıyan inisiyatif alır.
Her Perşembe, elinizdeki projeden bağımsız olarak, doğrusal cebirin bir incelemesi olsa bile, okumak istediğiniz herhangi bir makaleyi okuyabilirsiniz, bu harika.
Annemin artık tüm iş parçacığı oluşturma bilgisini öğretmene iade etmem konusunda endişelenmesine gerek yok.
Bazı netizenlerin şunu söylemesine şaşmamalı: OpenAI'ye gerçekten katılmak istiyorum.
Bu çalışma gününde neler oluyor?
OpenAI'nin açıklaması şu ki, çalışanlar bu yeni becerilerin iş seviyelerini geliştirmelerine yardımcı olabileceğini düşündükleri ve günlük işlerinde öğrenme şansları olmadığı sürece, çalışanlar öğrenmek istediklerini öğrenmekte özgürdürler.
Örnek olarak OpenAI robotik ekibini ele alalım. Bu gün genellikle şunları yapıyorlar:
Yukarıdakiler sadece bir öneri. "Ağırlıklı Bilinmeyen Sinir Ağları" hakkında bilgi edinmek elbette iyidir. "Karanlık Alanlar: Siber Savaşın Gizli Tarihi" gibi tarihi okumalar da sorun değildir. Şirket bile size geri verecektir. Bildiri! toplu iğne!
Qubit bir zamanlar "Ağırlıklı Bilinmeyen Sinir Ağı" nı yorumladı: https://mp.weixin.qq.com/s/mQ01MkRCWL0gZVtVWZmbJw
Matematiksel bilgiyi pekiştirmek mi istiyorsunuz? Bir kitap satın al! Lütfen öğretmen! Tereddüt etmeyin, OpenAI size yatırım yapıyor!
Dokunuyor.
OpenAI Perşembe Öğrenim Günü artık tüm şirkete yayıldı ve şirket kültürünün önemli bir parçası haline geldi.
Ancak başlangıçta robot ekibi yengeç yiyen ilk kişiyi yaptı.
Robotik ekibinin başkanı Woj (Wojciech Zaremba) şöyle düşünüyor:
Günlük işlerimde çok acil işler olduğu için birçok alan önünde durduğumu fark ettim. Bu işim için çok zararlı.Örneğin, her zaman ekibimin derin öğrenme çerçevesini değiştirip değiştirmeyeceğini değerlendirmek istedim, ancak her zaman çeşitli iş sorunları yüzünden kesintiye uğrayacağım.
Dağınık zaman okumak yardımcı olmaz.
En iyi çözüm her gün öğrenmektir. Sanırım iş verimliliğimi artırmak için böyle bir güne ihtiyacım olursa ekip üyelerimin de bu ihtiyacı var.
Kısa vadeli verimlilik etkilenecek, ancak bir ila iki yıl içinde ortaya çıkan büyüme ortaya çıkacaktır.
Öğrenme günü planını uyguladıktan sonra sadece bir ay geçti, ekipteki araştırmacılar ve mühendisler arasındaki iletişim görünüşte pürüzsüz hale geldi ve herkes terminolojiyi doğru kullanmaya başladı.
Yarım yıl içinde araştırmacılar, kod tabanını yeniden düzenlemek için ne tür bir tasarım olacağını tartışacaklar ve mühendisler araştırma projelerine daha fazla dahil olacaklar.
Kaz kızkardeşi .
Woj, OpenAI'nin her zaman kendi kendine çalışmayı teşvik ettiğinden bahsetti, ancak sadece cesaretlendirmeden bahsetmenin, emmm'nin hiçbir etkisi olmadığını söyledi.
Bir mühendis tuttunuz ve onun makine öğrenimi hakkında daha fazla bilgi sahibi olmasını istiyorsunuz. Bir ay sonra, makine öğrenimi konusunda hâlâ kararsız olabilir.
Bir çalışma günü olduğu için işler değişti.
Robotik ekibinde, bazı üyeler makine öğrenimi hakkında hiçbir şey bilmiyorlardı. Üç ay sonra, CV (bilgisayar görüşü) projesine kodla katkıda bulunabildiler.
Ayrıca yarım yıl boyunca sadece RL'yi (pekiştirmeli öğrenme) öğrenmiş büyük bir mühendis var ve yaptığı şey neredeyse RL Doktora seviyesinde.
Disiplinler arası yetenekler her yerde popülerdir ve OpenAI bir istisna değildir. Öğrenme günü etkinliklerini tüm şirketi kapsayacak şekilde genişletmeye ve şirket içinde uzmanlar geliştirmeye kararlılar.
Sonuçta, matematiği anlamayan yazılım mühendisleri iyi makine öğrenimi bilimcileri değildir.
Yani çalışma günü fazladan bir tatil günü mü?
Hayır hayır.
Bu boş bir gün değil, sadece çok çalışmanın farklı bir yolu.
Çalışma günü, ancak birçok ayrıntı var.
S1: Çalışma günü iş için kullanılıyorsa ne yapmalıyım?
Her şeyden önce, çalışma gününün sıradan bir iş günü haline gelmemesini sağlamak için beden eğitimi sınıfının ev ödevi sınıfına, ah, ah olmamasını sağlamak gerekir.
Lider acelesi olmasa bile, ekip üyeleri yine de elindeki projeyi daha hızlı tamamlamak isteyebilir.
OpenAI'nin çözümü, tüm takımların aynı gün öğrenme günü etkinlikleri düzenlemesidir. Tüm şirket çalışmıyor Okumak istediğiniz harika tez yerine yine de projeyi seçer misiniz?
S2: Çalışma günü boş bir gün olursa ne yapmalıyım?
Hafta sonları tüm gün yatarken Ge'nin operasyonunu tekrar etmek ister misin? Bunu düşünmeyin bile, her takım üyesi öğrenme ilerlemesini Geekbot'un Slack'inde paylaşmalıdır.
Başkaları beş kişiyi öldürdükten sonra nasıl evde çömelip kaynak suyu içebilirsin, arkadaşlarınla nasıl mutlu oynayabilirsin?
Her neyse, OpenAI'de programcılar heyecanla bastırıyorlar.
Gerçekten başka birinin şirketi.
Son olarak, OpenAI çalışanlarının neler öğrendiğine bir göz atalım.
Derin öğrenme kağıtları:
Nüfus Bazlı Arttırma: Arttırma Politikası Programlarının Etkin Öğrenimi:
https://arxiv.org/abs/1905.05393
Hareket Politikalarının Transferi için Etki Alanı Randomizasyon Dağılımlarını Öğrenmek:
https://arxiv.org/abs/1906.00410
Nöral Grafik Evrimi: Olasılıksal Görev Gömüleriyle Öğrenmeyi Etkin Otomatik Robot Tasarımını Öğrenmeye Doğru:
https://bair.berkeley.edu/blog/2019/06/10/pearl/
Orta Seviye Görsel Temsiller Görsel Motor Politikalarını Öğrenmek için Genellemeyi ve Örnek Verimliliği Artırır:
Olasılıksal Bağlam Değişkenleri aracılığıyla Etkin Politika Dışı Meta Takviyeli Öğrenme:
https://arxiv.org/abs/1903.08254
Bilgisayar görüşü eylem için önemli mi?
https://arxiv.org/pdf/1905.12887.pdf
WAIC, ama Neden? Sağlam Anomali Algılama için Üretken Topluluklar:
https://arxiv.org/abs/1810.01392
Ağırlık Agnostik Sinir Ağları:
https://arxiv.org/abs/1906.04358
Çözülmüş Temsillerin Denetimsiz Öğreniminde Zorlanan Ortak Varsayımlar:
https://arxiv.org/abs/1811.12359
Gözetimsiz derin öğrenme:
https://arxiv.org/abs/1811.12359
Derin RL Eğitim Kampı:
https://sites.google.com/view/deep-rl-bootcamp/lectures
Derin öğrenme kodu:
Sürüngen ve MAML
JAX'ta kodla oynayın
Seyrek Transformatörleri vizyon görevlerine uygulayın
LSTM'yi ve trafoyu sıfırdan uygulayın; onları Penn treebank'ta eğitin
Fiziksel bir motorun davranışını yeniden üretmek için bir sinir ağı eğitin
matematik:
Zaman serisi analizi
Neden Kitabı: Yeni Sebep ve Sonuç Bilimi
Tarih:
Dark Territory: Siber Savaşın Gizli Tarihi
Hacked Dünya Düzeni: Dijital Çağda Milletler Nasıl Savaşıyor, Ticaret Yapıyor, Manevra Yapıyor ve Manipüle Ediyor?
SSCB'ye Teknoloji Transferi.1928-1937 ve 1966-1975: Batı Teknolojisinin Sovyet Ekonomik Kalkınmasındaki Rolü
Turing Testi: Zekanın Kalifikasyonu Olarak Sözel Davranış
Bilgi: Bir Tarih, Bir Teori, Bir Sel
Radikal Piyasalar: Adil Bir Toplum İçin Kapitalizm ve Demokrasinin Köklerinden Kurtulmak
Referans malzemeleri:
https://openai.com/blog/learning-day/
- Bitiş -
Samimi işe alım
Qubit, editörleri / muhabirleri işe alıyor ve merkezi Pekin, Zhongguancun'da bulunuyor. Yetenekli ve hevesli öğrencilerin bize katılmasını dört gözle bekliyoruz! Ayrıntılar için, lütfen QbitAI diyalog arayüzünde "işe alım" kelimesiyle yanıt verin.
Qubit QbitAI · Toutiao İmzalama Yazarı
' ' Yapay zeka teknolojisi ve ürünlerindeki yeni eğilimleri takip edin