PyTorch büyük güncelleme! Google geliştirmeye yardımcı oldu ve resmi olarak TensorBoard'u destekliyor
İçbükey tapınaktan Bian Ce Qian Ming
Qubit Raporu | Genel Hesap QbitAI
Herkesin TensorFlow'u kullanmak için bir nedeni daha azdır.
Yıllık geliştirici konferansında F8, Facebook, doğrudan TensorFlow'un "hinterlandını" işaret eden PyTorch'un 1.1 sürümünü yayınladı.
Yalnızca TensorFlow'u destekleyen bir görselleştirme aracı olan TensorBoard'ı duyurmakla kalmadı, aynı zamanda PyTorch'un üretim ortamı için dağıtılmış eğitimi işleme şeklini iyileştirmek için resmi olarak sektöre taşındı.
Üstelik Facebook'a göre Google da bu sürümün geliştirilmesinde çok yardımcı oldu.
Tech media TechCrunch, sürüm numarasının yalnızca 1.0'dan 1.1'e değişmesine rağmen hala çok önemli olduğu yorumunu yaptı.
Ek olarak, bir "geliştirme ve işbirliğine dayalı yapay zeka topluluğu" oluşturma vizyonu etrafında, Facebook ayrıca 5 ana açık kaynak aracı tanıttı.
Aynı zamanda, Facebook'un yapay zeka uygulamasını kendi programlarında ve yapay zeka araştırmasının görünümünü de paylaştılar.
Aşağıda onlara tek tek bakalım ~
Pytorch büyük güncelleme
Aralık 2018'deki resmi Pytorch 1.0 sürümü ile karşılaştırıldığında, bu kez yayınlanan 1.1 sürümü performansı iyileştirdi, kullanılabilirliği iyileştirmek için yeni model anlayışı ve görselleştirme araçları ekledi ve ayrıca yeni API'ler sağladı.
Bunlar arasında en önemli işlev, geliştiricilerin modelleri değerlendirmesine ve hata ayıklamasına yardımcı olabilecek TensorFlow için Google tarafından oluşturulan bir görselleştirme aracı olan TensorBoard'u desteklemektir.
Facebook'a göre, bu özelliği geliştirirken Google ile çok yakın çalıştılar.
Artık Pytorch, TensorBoard'u desteklemek için "torch.utils.TensorBoard'dan içe aktarma SummaryWriter" komutunu kullanıyor.
Diğer güncellemeler şunları içerir:
- Jit derleyicisi: Geliştirilmiş Just-in-time (JIT) derlemesi. Sözlükler, kullanıcı sınıfları ve öznitelikler için destek gibi TorchScript'te çeşitli hata düzeltmeleri ve genişletilmiş işlevler içerir.
- Yeni API: Boole tensörlerini destekleyin, özel tekrarlayan sinir ağları için daha iyi destek.
- Dağıtılmış eğitim: Yaygın modellerin (CNN gibi) performansı iyileştirildi, tüm parametreleri değil, dağıtılmış verileri paralel (DDP) kullanırken modelleri GPU'lar arasında bölme yeteneği de dahil olmak üzere çoklu cihaz modülleri için destek eklendi Her ikisi de her bir yinelemenin modüllerini desteklemek için kullanılır (uyarlamalı SoftMax gibi kontrol akışı gibi).
Bu güncellemeyle ilgili olarak, Pytorch aşağıdaki GitHub belgesinde ayrıntılı olarak açıkladı, lütfen portalı saklayın:
https://github.com/pytorch/pytorch/releases/tag/v1.1.0
Bu güncelleme için PyTorch'un ürün müdürü Joe Spisa, PyTorch'u paraya çevirmeyeceklerini, ancak PyTorch'un bir topluluğa sahip olmasını umduklarını söyledi.
Şimdi bu topluluğun başladığını söyledi. Araştırma merkezli topluluk -e Üretken topluluk Değişim ve değişimin hızı da hızla artıyor.
PyTorch yol haritasındaki bir sonraki adım, sinir ağlarını daha az bit ile çalıştırmak, daha hızlı CPU ve GPU performansı elde etmek ve adlandırılmış tensör boyutları oluşturmak için AI uygulayıcılarını desteklemektir.
En iyi 5 açık kaynaklı araç
Yapay zeka topluluğunu daha iyi oluşturmak için, bu yılki F8 konferansında Facebook ayrıca 5 ana araçtan kaynaklandı: Ax, BoTorch, idb, Memscout, Mvfst.
Balta
Axe, deneyleri yönetmek, dağıtmak ve otomatikleştirmek için erişilebilir bir evrensel uyarlanabilir deney platformudur.
Platform, BoTorch tarafından sağlanan en son gelişmeleri kullanarak geliştiricilerin ürünlerini ve altyapılarını optimize etmelerini kolaylaştırır. Ax ayrıca, Bayes optimizasyonu, çok kollu haydut ve diğer karmaşık deneysel tekniklerin önündeki engelleri azaltarak araştırmacıların fikirlerini araştırmadan üretime kaydırmalarına yardımcı olur.
Adres: https://ax.dev/
BoTorch
BoTorch, Ax optimizasyon modeli parametreleri için destek sağlayan PyTorch üzerinde bir Bayes optimizasyon yazılım kütüphanesidir.
BoTorch, modüler tasarımı PyTorch'un geliştiricilerin verimliliğini önemli ölçüde artıran Monte Carlo'nun çıkarma işlevine dayanan otomatik farklılaştırma özelliği ile birleştirir.
BoTorch, herhangi bir PyTorch modeliyle entegre olma yeteneğine sahiptir ve Bayesian optimizasyonu ve derin öğrenmede oldukça esnek ve kullanışlı araştırma sağlar.
Adres: https://botorch.org/
Yukarıdaki iki araç, Facebook içinde geniş bir ölçekte uygulanmıştır ve Facebook bunları bilgi akışı önerilerini ve video oynatmayı iyileştirmek için kullanır.
idb
idb (iOS geliştirme köprüsü), iOS simülatörlerini ve cihazlarını otomatikleştirmek için bir komut satırı arayüzüdür. Karmaşık iş akışı oluşturmak için basit, ilkel API sağlar. idb ayrıca, işin bir grup makine arasında dağıtılmasını kolaylaştıran bir istemci-sunucu mimarisine sahiptir.
Adres: https://github.com/facebook/idb
Memscout
Memscout bir analiz aracıdır, jemalloc bellek ayırıcının eşlikçisidir. Memscout, çalışan süreç için jemalloc istatistik dosyasının (JSON formatı) ham verilerini yorumlar ve ilgili göstergeleri vurgular.
Ayırıcının verimsizliğini bulacak ve işlemin bellek ayırma modelinin derinlemesine gözlemini sağlayacak ve ardından bellekle ilgili performans sorunlarını hızlı bir şekilde teşhis etmek için kullanılabilecek istatistiksel bilgiler sağlayacaktır.
Adres: https://github.com/facebookincubator/memscout
Mvfst
Mvfst, QUIC aktarım protokolünün bir uygulamasıdır. Mvfst'in amacı, uygulamaların İnternet'teki ve veri merkezlerindeki kullanım durumlarına uyarlanabilmesi için en esnek ve yüksek performanslı aktarım protokolünü oluşturmaktır.
Özellikleri arasında akış çoklama, 0-RTT bağlantı kurulumu, daha iyi kayıp kurtarma, baştan güvenlik ve esnek tıkanıklık kontrolü bulunur.
Adres: https://github.com/facebookincubator/mvfst
AI ile kullanıcı deneyimini iyileştirin
Facebook'un bilgi akışının yurtdışında bir "arkadaş çevresi" olduğu söylenebilir, içinde çok fazla yalan haber ve zararlı bilgi var.Zuckerberg de ABD Kongresi tarafından sorgulandı.
Bu nedenle, Facebook'un AI araçlarının önemli bir kullanımı, sosyal ağlardaki zararlı konuşmaları, fotoğrafları ve videoları tanımlamak ve işlemektir.
Spesifik bir örnek, yeni "en yakın komşu" algoritmasıdır. Facebook, pornografik ve şiddet içeren resimlerin eskisinden 8,5 kat daha hızlı olduğunu bulmak için bu algoritmayı kullanıyor.
Diğer bir örnek, açık kaynak araç takımı LASER'dir. Facebook, çok sayıda farklı dili anlamak için tek bir model eğitmek için kullanır, her dil için farklı bir model kullanmak yerine, kullanıcıların sosyal ağ politikalarını ihlal eden yorumlar gönderip göndermediğini tespit edebilir.
Videolarda zararlı bilgileri bulmak, fotoğraflardan birkaç kat daha zordur. Facebookun yeni teknolojisi, bunları kısa kliplere bölebilir ve gereksiz ve alakasız içeriği kaldırabilir. Bu daha hedefli analiz ve eğitim, yapay zekanın videoları daha hızlı ve daha doğru anlamasını sağlar.
Bir şey daha
Şu anda Facebook, makine öğreniminin doğruluğunu artırmak için etiketlenmemiş verileri az miktarda etiketli veriyle birleştirerek, kendi kendini denetleyen öğrenme teknolojisini güçlü bir şekilde geliştiriyor.
Sözde "kendi kendini denetleyen öğrenme", "denetimsiz öğrenme" dediğimiz şeydir.
Facebook'un yapay zeka baş bilim adamı Yann LeCun, "öz denetim" den "denetimsiz" olarak bahsetmenin yanıltıcı olduğunu söyledi çünkü kendi kendine denetimli öğrenim denetimli öğrenmeden daha fazla denetim sinyali kullanır ve pekiştirmeli öğrenmeyi çok aşar.
Kendi kendini denetleyen öğrenme, doğal dil işlemede büyük başarı elde etti. LeCun'a göre, bu teknolojiyi görüntülerde ve videolarda kullanmak, ML ve AI için önümüzdeki birkaç yıldaki en büyük zorluk.
- Bitiş -
Samimi işe alım
Qubit, editörleri / muhabirleri işe alıyor ve merkezi Pekin, Zhongguancun'da bulunuyor. Yetenekli ve hevesli öğrencilerin bize katılmasını dört gözle bekliyoruz! Ayrıntılar için, lütfen QbitAI diyalog arayüzünde "işe alım" kelimesiyle yanıt verin.
Qubit QbitAI · Toutiao İmzalama Yazarı
' ' Yapay zeka teknolojisi ve ürünlerindeki yeni eğilimleri takip edin
