g u t x .com.tr İpek yolu - Çin'i anlamaya götürürüm

Flying Paddle Uçtan Uca Geliştirme Kiti Ortaya Çıktı: Düşük Maliyetli Geliştirme İçin Dört Gizli Silah

5 Kasım'da Wave Summit + 2019 Derin Öğrenme Geliştirici Zirvesi'nde Feida, derin öğrenme geliştirici topluluğunda büyük bir tepkiye neden olan en son 21 gelişmenin yeni ve önemli bir yükseltmesini yayınladı.

Henüz sahneye gelmemiş birçok geliştirici üzülüyor ve uçan kürek konferansının arkasındaki teknik ayrıntılar hakkında daha fazla bilgi edinmeyi umuyor.Bu nedenle, çekirdek çerçeveden, temel model kitaplığından, uçtan uca geliştirme kitinden, araç bileşenlerinden ve araç bileşenlerinden özel olarak bir dizi el yazması planladık. Servis platformunun beş seviyesi, temel teknoloji ve uçan pervanelerdeki en son gelişmeler hakkında ayrıntılı açıklamalar sağlar.

Bugün size uçan küreğin uçtan-uca geliştirme kiti yorumu hakkında bir dizi makale getireceğim.

Flying Paddle'ın yeni sürümü, modüler bir tasarım ve uçtan uca bir deneyim elde etmeyi amaçlayan anlamsal anlama (ERNIE), nesne algılama (PaddleDetection), görüntü bölümleme (PaddleSeg) ve tıklama oranı tahmini (ElasticCTR) dahil olmak üzere dört uçtan uca geliştirme kiti içerir. , İşletmelerin düşük maliyetli geliştirme ve hızlı entegrasyon ihtiyaçlarını karşılamak. Temel içerik 3.503 kelimedir ve beklenen okuma süresi 4 dakikadır.

1. Uçtan uca geliştirme kitinin asıl amacı

Flying Paddle'ın uçtan-uca geliştirme kitini yayınlamadaki asıl amacı, geliştiricilerin düşük geliştirme maliyetini ve hızlı entegrasyon ihtiyaçlarını daha iyi karşılamaktır. Geliştiricinin zamanı ve insan gücü çok değerlidir ve verimliliği artırmak çok önemlidir. Geliştiricilerin iş gücünü serbest bırakmak, geliştirme maliyetlerini düşürmek ve hızlı entegrasyon ve dağıtım sağlamak için Feida, uçtan uca bir geliştirme kiti başlattı.

Uçtan uca geliştirme kiti aşağıdaki üç genel özelliğe sahiptir: biri gerçek endüstriyel senaryolarda performans gereksinimlerini karşılamak ve lider performansı sürdürmektir; ikincisi basit ve kullanımı kolay geliştirmek ve sorunları verimli bir şekilde çözmek; üçüncüsü ise uçtan uca süreci açmak, iniş, verimli ve kolay dağıtım .

Uçtan uca deneyim süreci için, veri işleme de çok önemli bir bağlantıdır Flying Paddle, geliştiricilerin uçtan uca süreci, modülü ve tasarımı sağlam bir şekilde açarak çözmelerine yardımcı olacak bir dizi araç kutusu sağlar. Şu anda piyasaya sürülen dört uçtan-uca geliştirme kiti çok tipiktir ve temel görevlerin çoğunu kapsayabilir.

2. Dört ana geliştirme kitinin ayrıntılı yorumu

2.1. ERNIE anlamsal anlayış

ERNIE panorama, ERNIE genel modeli, ERNIE görev modeli, ERNIE alan modeli ve ERNIE Tiny hafif modeli de dahil olmak üzere önceden eğitilmiş modeller bu kez piyasaya sürüldü. Bu temelde, araçları ve platformları içeren bir uçan kürek anlamsal anlama geliştirme kiti oluşturuldu. Eğitim, ayarlama, dağıtım vb. Geliştirme sürecini tam olarak kapsar ve beş ana özelliğe sahiptir: hafif çözümler, kapsamlı yetenekler, hızlı tahmin, esnek dağıtım ve platform yetkilendirmesi.

Bu yılın Temmuz ayında Baidu, toplam 16 Çince ve İngilizce görevde BERT ve XLNET'i geride bırakan sürekli öğrenme semantik anlayış çerçevesi ERNIE 2.0'ı yayınladı ve SOTA'nın etkisini elde etti. Aynı zamanda, ERNIE 2.0'ın piyasaya sürülmesinden bu yana, ERNIE'nin endüstriyel uygulama süreci sürekli olarak hızlandırılmış, kullanım kolaylığı sürekli iyileştirilmiş ve destekleyici ürünler sürekli olarak zenginleştirilip iyileştirilmiştir. Şu anda ERNIE 2.0, Baidu içinde ve endüstride yaygın olarak kullanılmaktadır ve çeşitli senaryolarda önemli gelişmeler elde etmiştir. Bu senaryoların başarılı bir şekilde uygulanması, ERNIE'nin endüstriyel uygulaması için zengin bir deneyim biriktirmiştir.

Özellik 1: Hafif çözüm, tahmin hızı 1000 kat arttı

ERNIE 2.0, güçlü anlamsal anlama yeteneklerine sahiptir ve bu yetenekler, tam olarak kullanılması için güçlü hesaplama gücü gerektirir, bu da pratik uygulamalara büyük zorluklar getirir. Bu amaçla Baidu, hafif ön eğitim modeli ERNIE Tiny'yi ve tahmin hızını 1.000 kat artıran tek tıklamayla veri damıtma aracı ERNIE Slim'i piyasaya sürdü.

Özellik 2: Tek tıklamayla yüksek performanslı ince ayar aracı

ERNIE İnce Ayar ince ayar aracı, geliştiricilere şu anda NLP'nin dört genel görevini kapsayan basit ve kullanımı kolay bir İnce Ayar çerçevesi sağlamayı amaçlamaktadır: tek cümle sınıflandırması, cümle çifti eşleştirme, adlandırılmış varlık tanıma ve okuduğunu anlama. Araç seti, Tesla V serisi GPU'larda eğitim hızında% 60 artış elde etmek için FP16 Tensor Core teknolojisini kullanırken çok makineli ve çoklu kart İnce Ayarını destekler.

Özellik 3: Son derece hızlı tahmin API'si ERNIE Hızlı Çıkarım API'si, ürün uygulamalarının gecikmeye duyarlı senaryolarını çözmek ve kurumsal geliştiricilere kolay entegrasyon için son derece hızlı öngörücü C ++ API'leri sağlamak için tasarlanmıştır. Araç aynı zamanda uçan pervanenin en son sürümünün yüksek hızlı tahmin avantajından tam olarak yararlanır Uçan pervane 1.6, OP toplama algoritması aracılığıyla ERNIE'nin tahminini etkin bir şekilde hızlandırır.

Gecikmeye duyarlı senaryolarda, GPU (P4) cihazlarda rakip ürünlerin% 21'lik gecikme azaltımına kıyasla, CPU (Intel Xeon Gold 6148 CPU) cihazlarında ERNIE Hızlı Çıkarım API gecikme azaltması% 60'tır.

Özellik 4: Vektör sunucusu, platformlar arasında esnek dağıtımı destekler

Geliştiricinin kullanım maliyetini daha da azaltmak için kit, ERNIE modelinin vektör dağılımını elde etmeyi ve puanlamayı tahmin etmeyi kolaylaştırmak için öngörücü bir hizmet çözümü - ERNIE Hizmeti sağlar.

ERNIE Hizmeti, Python tabanlı bir çoklu GPU tahmin hizmetidir. İstemci tarafından gönderilen istek, ERNIE vektörünü ve puanını elde etmek için ERNIE Hızlı Çıkarım API'sini yürütmek için otomatik olarak GPU'ya dağıtılacaktır. Şu anda ERNIE Hizmeti, farklı platformlarda, farklı cihazlarda ve farklı dillerde esnek çağrıları desteklemektedir ve yüksek tahmin performansı özelliklerine sahiptir.Hizmet olarak rakip BERT ile karşılaştırıldığında, QPS% 13 oranında iyileştirilmiştir.

Özellik 5: Platform Güçlendirme

Ek olarak, kit aynı zamanda ERNIE'nin platform tabanlı kullanım planını da içerir.Geliştiriciler, EasyDL Professional Edition aracılığıyla NLP görev verileri açıklama, işleme, ERNIE ince ayarı, optimizasyon, dağıtım ve diğer işlevlerin tüm sürecini tamamlayarak geliştiricilere zengin Algoritmalar ve bilgi işlem gücü hizmetleri, ERNIE'nin sanayileşme uygulamasının eşiğini daha da düşürür. Platform, çok seviyeli geliştiricilerin ihtiyaçlarını hızlı bir şekilde karşılayabilen, yaygın olarak kullanılan NLP metin sınıflandırması ve metin eşleştirme gibi klasik ağlarla önceden ayarlanmıştır.

Genel olarak, ERNIE'nin anlamsal anlama geliştirme kiti, yapay zekanın sanayileşmesine katkıda bulunmak ve yaşamın her kesimini güçlendirmek için Baidu'nun ön eğitim modelleri ve uçan kürek platformları gibi doğal dil işleme teknolojilerindeki önde gelen avantajlarına güveniyor.

2.2. PaddleDetection görüntü segmentasyonu

Bilgisayarla görme alanında, görüntü bölümleme çok geniş bir uygulama alanına sahiptir. Bu arka plana dayanarak Feida, geliştirme eşiğini düşürmek ve endüstriyel inişe ulaşmayı kolaylaştırmak amacıyla PaddleSeg görüntü segmentasyon geliştirme kitini geliştirdi. Görüntü bölümleme geliştirme kiti, uçan kanatçıkların çekirdek çerçevesine dayanmaktadır ve ana yapı aşağıdaki yönlerdedir: birincisi, veri geliştirme, ortak endüstriyel düzeyde bölümleme algoritmalarını açma; ikincisi, tüm bölümlere ayrılmış modeli sökmek için model katmanında modüler tasarım kullanma Omurga ağı, segmentasyon ağı ve model kaybı işlevi dahil olmak üzere üç bölüme ayrılmıştır. Demontajdan sonra bu modüller, belirli senaryolardaki sorunları çözmek için serbestçe birleştirilebilir. Üçüncüsü, eğitim senaryosunda, PaddleSeg birçok performans optimizasyonu gerçekleştirdi ve video bellek optimizasyonu ve tahmin hızı konusunda çok fazla çalışma yapıldı. Dördüncüsü, kullanım kolaylığıdır.Gerçek proje cilalama ve doğrulama yoluyla, kullanım sürecindeki sıkıntılı noktalar bulunur ve çözülür. Eğitim modeli endüstriyel düzeyde dağıtılır ve geliştirme kiti de entegre edilmiştir, bu da çok çeşitli geliştiricilerin onu kullanmasına yardımcı olabilir.

Özellik 1: Zengin veri geliştirme

PaddleSeg, 10'dan fazla veri geliştirme stratejisi, etkili eğitim verileri sağlar ve modelin sağlamlığını büyük ölçüde geliştirir.Geliştiriciler, gerçek senaryolara göre esnek bir şekilde birleşebilir ve gerçek senaryolara göre seçim yapabilir, böylece tüm segmentasyon modelinin genelleme yeteneği daha fazladır. Kuvvetli.

Özellik 2: Modüler tasarım

PaddleSeg geliştirme kitinin tamamı modüler olarak tasarlanmıştır.Veri geliştirme modülündeki çeşitli gelişmiş algoritmalar ve omurga ağı için çeşitli Omurga modülü seçenekleri olsun, geliştiriciler bunları gerçek iş senaryolarına göre daha iyi kullanabilirler. Segmentasyon ağı, mevcut 4 ana akım ağını içerir: U-Net, tıbbi alanda klasik DeepLabV3 ve gerçek zamanlı sahneler için segmentasyon modeli ICNet. Aynı zamanda, kayıp işlevinin modüler tasarımı, küçük hedef bölümlemenin etkisi gibi her bir sınıflandırma sahnesinde bölümleme doğruluğunu daha iyi iyileştirebilir.

Özellik 3: Yüksek performans

PaddleSeg, performans optimizasyonunda pek çok çalışma gerçekleştirmiştir. Eğitim hızının iyileştirilmesi, GPU kullanımının iyileştirilmesi ve video belleği performans optimizasyonu dahil. Aynı zamanda, daha yeni FP16 karışık hassasiyet eğitimini destekler. Özellikle, dinamik Kayıp Ölçeklendirmesi için performans, doğruluk kaybı olmaksızın% 30 oranında iyileştirilebilir. PaddleSeg, NVIDIA Tesla V100 kartındaki kıyaslama ürününün 2,3 katı ve çoklu karttaki kıyaslama ürününün 3,1 katı tek kartlı eğitim hızına sahiptir.

Özellik 4: Endüstriyel düzeyde dağıtım

Sektörün ihtiyaçlarına göre PaddleSeg, yüksek performanslı bir C ++ tahmin kitaplığı geliştirmiştir. Çok iş parçacıklı hesaplama optimizasyonu, operatör donanım hızlandırma ve gerçek proje uygulama doğrulamasına güvenme açısından, endüstriyel düzeydeki dağıtım ihtiyaçlarını gerçekten karşılamak için çok sayıda optimizasyon çalışması yapılmıştır.

PaddleSeg, endüstriyel kalite denetiminde hassas parçaların akıllıca sınıflandırılması, klasik portre bölümleme senaryolarının uygulanması ve uzaktan algılama alanındaki alan bölümlendirmesi gibi çok çeşitli senaryolarda uygulanmıştır, sektörün tamamlanmasına yardımcı olabilir. AI yetkilendirmesi.

2.3. PaddleDetection hedef tespiti

PaddleDetection, uçan küreğin temel çerçevesine dayalı olarak oluşturulmuş ve Baidu'nun bilimsel araştırma ve iş ihtiyaçları ile birleştirilen bir hedef tespit geliştirme kitidir. Panoramadan görülebileceği gibi, kit sadece çeşitli algılama algoritmalarının uygulanmasını içermekle kalmaz, aynı zamanda hata ayıklamaya yardımcı olmak için bir dizi optimize edilmiş bileşen ve daha iyi görselleştirme modülleri sağlar. Aynı zamanda, hızlandırılmış eğitim ve çok sayıda algoritma bileşeni ile ilgili karışık hassasiyetli bir eğitim modülü sağlar.

Özellik 1: Zengin modeller

Algoritma düzeyinde, PaddleDetection şu anda yaygın olarak kullanılan genel algılama algoritmalarını destekler. Tek aşamalı algılama algoritmaları şunları içerir: SSD, RetinaNet, YOLOv3 ve iki aşamalı algılama algoritmaları şunları içerir: Daha Hızlı RCNN, Maske-RCNN, Cascade-RCNN ve iki aşamalı FPN'yi destekler. Omurga ağı, veri geliştirme ve eğitim öncesi modellerde iyi destek sağlar.

Bu sürüm, YOLOv3'ü daha da geliştirir, COCO tabanlı mAP% 41,4'e çıkarılır ve GPU'daki çıkarım hızı daha da iyileştirilir. Bu sefer ayrıca BlazeFace gibi bir dizi yüz algılama modeli yayınladı ve ayrıca model boyutu üç kez sıkıştırıldığında tahmin hızını büyük ölçüde artıran kendi geliştirdiği BlazeFace arama sürümünü yayınladı. Özellikle eğitim öncesi modeldeki yaya algılama ve araç algılama modelleri Baidu'nun dahili iş verilerine dayanmaktadır ve iyi sonuçlara sahiptir ve tavsiye edilmeye değerdir.

Özellik 2: Yüksek performans

Eğitim hızı, eğitim video belleği ve akıl yürütme hızı açısından, PaddleDetection'ın çoğu modeli karşılaştırma ürünlerinin performansından daha iyi performans gösterir.

Özellik 3: Endüstriyel düzeyde dağıtım

PaddleDetection, uçan çarkın yüksek performanslı motorunu temel alır ve eksiksiz bir dağıtım planı sağlar. Hem Linux hem de Windows için iyi destek sağlar.Altında yatan GPU tahmini, TensorRT hızlandırma ve FP16 tahminini destekler. CPU'nun alt katmanı MKLDNN hızlandırmayı destekler. PaddleSlim tarafından sağlanan model sıkıştırma stratejisiyle birleştiğinde, endüstriyel dağıtım gereksinimlerini karşılamak için daha küçük modeller ve daha yüksek hızlar sağlayabilir.

PaddleDetection, akıllı ulaşım, güvenlik izleme ve emtia erişiminde yaygın olarak kullanılmaktadır ve iyi uygulama etkileri elde etmiştir.

2.4. ElasticCTR tıklama oranı tahmini

ElasticCTR kişiselleştirilmiş tahmini, endüstriyel öneri senaryolarında ortak bir gerekliliktir ve endüstriyel uygulama ile çok yüksek bir korelasyona sahiptir. Çekirdek olarak uçan kanatçıkların temel çerçevesi ile ElasticCTR, çok sayıda teknolojik atılım gerçekleştirmiştir: kaynak planlamasının verimliliğini artırmak için kaynak planlama platformuyla derin entegrasyon yoluyla; dağıtılmış eğitim sürecinde, tamamen eşzamansız bir parametre sunucusu çözümü, akış eğitimi ve yüksek performans sağlar IO arayüzü; son olarak, endüstriyel düzeyde dağıtım, yüksek performanslı KV tahmini ve tek tıklamayla dağıtım araçlarıyla elde edilir.

ElasticCTR, gerçek endüstri uygulamalarından türetilmiştir ve yerel K8S ile sorunsuz bir şekilde entegre olur. Derin öğrenme görevlerinin esnek zamanlaması sayesinde, kaynak tüketimini büyük ölçüde azaltabilir. Performans açısından, tamamen eşzamansız dağıtılmış CPU eğitim hızı, kıyaslama ürününün 6 katıdır ve endüstriyel dağıtım performansı, büyük ölçekli CTR uygulama senaryoları için çok uygun olan karşılaştırma ürününün 13 katıdır.

Daha derin öğrenme geliştiricileriyle iletişim kurmak istiyorsanız, lütfen Feida'nın resmi QQ grubuna katılın: 796771754.

PaddlePaddle hakkında daha fazla bilgi edinmek istiyorsanız, lütfen aşağıdaki belgelere bakın.

Resmi web sitesi adresi: https://www.paddlepaddle.org.cn/

proje adresi:

ERNIE anlamsal anlayış:

https://github.com/PaddlePaddle/ERNIE

PaddleSeg görüntü segmentasyonu:

https://github.com/PaddlePaddle/PaddleSeg

PaddleDetection hedef tespiti:

https://github.com/PaddlePaddle/PaddleDetection

ElasticCTR kişiselleştirilmiş tahmin:

https://paddlepaddle.github.io/Serving/doc/ELASTIC_CTR.html