PyTorch Hub: Turing Ödülü sahibi Yann LeCun şiddetle tavsiye edilir! Temel modelleri tek bir kod satırında kolayca yeniden oluşturun
Leifeng.com AI Teknolojisi İncelemesi Tartışma: Facebook, 11 Haziran'da PyTorch Hub'ın lansmanını duyurdu. Bu, bilgisayarla görme ve doğal dil işleme alanlarındaki birçok klasik modelin toplama merkezi dahil olmak üzere basit bir API ve iş akışıdır ve makine öğrenimi araştırmasının yeniden üretimi için temel bir yapı taşı sağlar. ResNet, BERT, GPT, VGG, PGAN veya MobileNet gibi klasik bir model olsun, tek tıklamayla arama elde etmek için yalnızca bir kod satırı girmeniz gerekir.
Turing Ödülü sahibi Yann LeCun,
PyTorch Hub hakkında
Yeniden üretilebilirlik, makine öğrenimi teknolojisine dayalı olanlar da dahil olmak üzere birçok araştırma alanında temel bir gerekliliktir. Ancak, birçok makine öğrenimi yayını ya tekrar üretilemez ya da yeniden üretilmesi zordur. Şu anda arXiv ile ilgili on binlerce makale ve tarihi konferanslara katkılar da dahil olmak üzere araştırma yayınlarının sayısı artmaya devam ederken, araştırmanın tekrarlanabilirliği her zamankinden daha önemlidir. Bu yayınların çoğu yararlı kodlar ve iyi eğitilmiş modeller eklese de, yine de kullanıcıların kendi başlarına çözmeleri için bazı adımlar bırakıyorlar.
Bu nedenle, PyTorch ekibi, makine öğrenimi araştırmalarının yeniden üretimi için temel bir yapı taşı sağlayan basit bir API ve iş akışı olan PyTorch Hub'ı başlattı. Araştırmanın tekrarlanabilirliğine yardımcı olmak ve yeni araştırmaları gerçekleştirmek için özel olarak tasarlanmış, önceden eğitilmiş bir model havuzundan oluşur. Ayrıca Colab için yerleşik desteğe, entegre Kodlu Kağıtlar web sitesine sahiptir ve şu anda Sınıflandırma, Segmentasyon, Üretken ve Dönüştürücü vb. Dahil olmak üzere önceden eğitilmiş bir dizi modele sahiptir.
Yayın modeli
PyTorch Hub, basit bir hubconf.py dosyası ekleyerek önceden eğitilmiş modeli (model tanımı ve ön eğitim ağırlıkları) GitHub deposuna yayınlayabilir. Bu, desteklenen modellerin bir listesini ve modeli çalıştırmak için gereken bağımlılıkların bir listesini sağlar. Kullanıcılar torchvision, hugface-bert ve gan-model-zoo depolarında örnekler bulabilirler.
En basit durum: torchvision'ın hubconf.py:
Torchvision'da model aşağıdaki özelliklere sahiptir:
-
Her model dosyası bağımsız olarak yürütülebilir
-
PyTorch dışında herhangi bir pakete gerek yok (hubconf.py'de: bağımlılıklar)
-
Ayrı bir model girişi gerekmez, çünkü model oluşturulduktan sonra sorunsuz bir şekilde çıkarılabilir ve kullanılabilir
Paket bağımlılıklarının en aza indirilmesi, kullanıcıların modeli içe aktardıktan hemen sonra denemeleri gerektiğinde her türlü sorunu azaltabilir. Daha sezgisel bir durum HuggingFace'in BERT modelidir, hubconf.py dosyası aşağıdaki gibidir:
Her modelin bir model girişi oluşturması gerekir. Aşağıda, bertForMaskedLM model girişini belirten ve önceden eğitilmiş model ağırlıklarını döndüren bir kod parçacığı bulunmaktadır.
Bu model girişleri, karmaşık modeller için sarmalayıcı olarak kullanılabilir. Ek açıklama belgeleri veya başka yardım işlevleri sağlayabilir, önceden eğitilmiş ağırlıkların indirilmesini destekleyen işlevlere (örneğin, önceden eğitilmiş = Doğru aracılığıyla) veya görselleştirme gibi başka belirli işlevlere sahip olabilirler.
Hubconf.py ile araştırmacılar, çekme istekleri göndermek için PyTorch Hub'ın GitHub sayfasına gidebilir. Model, yüksek kalite, kolay tekrarlanabilirlik ve en faydalı olanı karşılıyorsa, Facebook resmi olarak sizinle işbirliği yapacaktır; model düşük kaliteli ise reddedilebilir. Ancak çekme talebi kabul edildiğinde, model yakında tüm kullanıcıların göz atması için PyTorch Hub resmi web sayfasında görünecektir.
İşlem
PyTorch Hub, kullanıcıların yayınlanmış modellerde aşağıdaki işlemleri gerçekleştirmesine olanak tanır:
1. Mevcut modelleri görüntüleyin
Kullanıcılar, depodaki tüm mevcut model girişlerini görüntülemek için torch.hub.list API'yi kullanabilir.
PyTorch Hub ayrıca, BERT modelini ön işlerken bertTokenizer eklemek gibi önceden eğitilmiş model dışındaki yardımcı modellerin kullanımına da izin verir, bu da iş akışını daha sorunsuz hale getirir.
2. Modeli yükleyin
Burada sağlanan modelleri bilen kullanıcılar, model girişini yüklemek için torch.hub.loadAPI'yi kullanabilir. Bu yalnızca bir komut gerektirir ve başka tekerleğin takılmasına gerek yoktur. Ek olarak, torch.hub.helpAPI, önceden eğitilmiş model gösterilerinin nasıl kullanılacağına ilişkin yararlı bilgiler sağlayabilir.
Model yayıncıları genellikle gelecekte hata düzeltmeleri ve performans iyileştirmeleri eklemeye devam eder. Kullanıcılar ayrıca, en son sürümü kullandıklarından emin olmak için arayarak güncellemeleri kolayca alabilir:
Bu, model yayıncılar için paketleri yeniden yayınlamanın yükünü hafifletmeye yardımcı olacak ve böylece araştırmaya daha fazla odaklanmalarına olanak sağlayacaktır. Aynı zamanda, bir kullanıcı olarak mevcut en yeni modelleri almanızı da sağlayabilir.
Öte yandan, kullanıcılar kararlılığa daha fazla önem veriyorsa, model yayıncısı, kodun kararlılığını sağlamak için (ana dal yerine) bazı özel dallar veya etiketler sağlayacaktır. Örneğin, pytorch_GAN_zoo'nun merkez dalı:
3. Modelin mevcut yöntemlerini bilin
Modeli yükledikten sonra, model tarafından desteklenen mevcut yöntemleri bulmak için dir (model) kullanabilirsiniz. BertForMaskedLM modelini örnek olarak alın:
help (model.forward), kullanıcıların daha derin bir anlayış kazanmasına yardımcı olmak için yöntemi çalıştırmak için gereken parametreleri sağlayabilir.
diğer
PyTorch Hub'da sağlanan model ayrıca Colab'ı destekler ve doğrudan Kodlu Kağıtlara bağlanır.Kullanıcılar, model Demosunu tek bir tıklama ile çalıştırmak için Colab'a girebilirler.
Orijinal bağlantı:
https://pytorch.org/blog/towards-reproducible-research-with-pytorch-hub/
Leifeng.com AI Teknoloji İncelemesi Leifeng.com
