NVIDIA Açık Sınıf | Geçiş öğrenimi araç seti tarafından oluşturulan motoru dağıtmak için TensorRT'yi kullanın
12 Mart'ta, NVIDIA görüntü işleme serisinin ikinci aşaması halka açık kurslar çevrimiçi olarak başlatıldı ve yüzlerce geliştirici ve öğrenci, geçiş öğrenme araç seti tarafından oluşturulan motoru dağıtmak için TensorRT'nin nasıl kullanılacağını tartıştı.
Okuyucuların isteği üzerine paylaşım içeriğini düzenleyin ve herkesle paylaşın. Canlı yayındaki ana canlı kodlama bağlantısı, lütfen makalenin sonundaki canlı oynatma bağlantısını da izleyin ~
Her paylaştığımda size bu resmi göstereceğim.
Derin öğrenmenin çerçevesini iyi yorumlar.Uygulama açısından görme, konuşma tanıma, NLP, duygu ve öneri sistemleri şu anda hızla gelişmektedir. Piyasada bu derin öğrenme uygulamalarını destekleyen Caffe, TensorFlow, PyTorch vb. Gibi birçok çerçeve vardır ve bu çerçeveleri destekleyen temel, güçlü hesaplama gücüdür.
NVIDIA, derin öğrenme çerçeveleri ve çıkarım eğitimi için güçlü destek sağlayan çok sayıda GPU, uç cihaz vb. Sağlar. NVIDIA'nın CUDA ekosisteminde, orta seviye çerçeve uygulamalarının temel içeriği olan cuDNN, TensorRT, DeepStream SDK ve cuBLAS gibi bir dizi araç kurulmuştur.
Bugün tanıtılacak iki araç TensorRT ve Transfer Learning Toolkit (TLT) 'dir.
Öğrenme araç setini aktar
TLT, Python tabanlı bir araç setidir. Popüler ağ mimarisini geliştiricinin kendi verilerine uyarlamak için çok sayıda önceden eğitilmiş model ve bir dizi araç sağlar ve modeli gerçekleştirmek için eğitebilir, ayarlayabilir, düzeltebilir ve dışa aktarabilir dağıtmak.
Derin öğrenme iş akışının verimliliğini ve doğruluğunu büyük ölçüde artırarak devlerin omuzlarında durmaya eşdeğerdir.
TLT'den sonra iki araç vardır, biri DeepStream ve diğeri TensorRT'dir. TensorRT, DeepStream'in bir parçasıdır.
DeepStream, AI vizyon alanındaki uygulamalar ve çözümler için tasarlanmıştır. Video işleme dağıtım aşamasındaki tüm modülleri kapsar, eksiksiz bir çerçeve ve tüm temel yapı taşlarını sağlar. Geliştiricilerin sıfırdan uçtan uca çözümler tasarlamak yerine temel derin öğrenme ağlarına ve IP'ye odaklanmalarına olanak tanır.
Bunların arasında Gstreamer, videodaki codec bileşeniyle başa çıkmanıza yardımcı olabilir ve TensorRT veri çıkarımını ve diğer işlemleri yönetebilir.
Bu üç aracın, TLT, TensorRT ve DeepStream'in uygulanması, eğitim, çıkarım, dağıtım ve üretimden bir dizi görevle başa çıkmanıza yardımcı olmak için bilgisayar görüşü alanında eksiksiz bir boru hattı oluşturur.
TLT çok sayıda eğitimli model sağlar, (yukarıda) yaygın olarak kullanılan 30'dan fazla önceden eğitilmiş modeli listeler, bunları NGC'ye (https://www.nvidia.cn/gpu-cloud/) indirebilirsiniz.
Daha sonra, TLT ile eğitilir, budanır ve yeniden eğitilir. Dışa aktarılan model doğrudan veya kendi kendine giden arabalar ve dronlar gibi mobil veya gömülü ürünlere yerleştirilebilir.
TensorRT
TensorRT'nin özü, NVIDIA GPU derin öğrenme modeli çıkarım hızlandırma aracı olan bir GPU çıkarım motorudur. Şu anda, 20'den fazla yeni ONNX işlemini destekleyen ve geniş bir uygulama yelpazesine sahip yedinci sürüme geliştirildi.
TensorRT'nin çalışma modu, önce eğitilmiş modeli ve ağ yapısını girmektir.TensorRT, ağ hesaplama modunu optimize edecek, bir ara dosya oluşturacak (kod bağlantısında ayrıntılı olarak gösterilmiştir) ve hızlanma elde etmek için doğrudan çalıştırılabilir motoru üretecektir.
TensorRT'nin ilkeleri ve mantığıyla ilgileniyorsanız, Youku'da daha fazla video arayabilirsiniz (Nvidia kanalına bağlantı: https://acz.youku.com/wow/ykpage/act/miniappshare?uid=UMTA3MjYwNA==sharekey=851467b71094c1d6c612d7bcaef255455 ).
Ardından, Bay He Kun, TensorRT'nin gerçek işleyişini ayrıntılı olarak açıkladı. Metin açıklamasıyla sınırlı olarak, işlem sürecini, kodunu, PPT'yi vb. Ağ diskine yüklüyoruz ve öğrenenler doğrudan indirebilir:
Çıkarma bağlantısı: https://pan.baidu.com/s/1HJYTwIMIOBcuvRl1wKHOTA, çıkarma kodu: p7wx
Bu kursun canlı oynatımı: https://info.nvidia.com/291730-ondemand.html
İlk kursun canlı oynatımı: https://info.nvidia.com/272903-ondemand.html
Üçüncü kursa kayıt
26 Mart'ta Bay He Kun, görüntü işleme serisinin son kursunu sizinle paylaşacak. Transfer öğrenme araç seti ile Jetbot akıllı araba çıkarım motorunun dağıtımını hızlandırın , Herkes kaydolabilir ~
Kayıt yöntemi: küçük bir yardımcı (qbitbot12) ekleyin, "Nvidia" yı not etmeyi unutmayın ~
-Bitiş-
