Ücretsiz olarak 100 milyon yuan hesaplama gücü veren 11 yeni yükseltme: yerel derin öğrenme platformu "Flying Paddle" için büyük bir güncelleme
Shangri-La'dan Guo Yipu Xia Yi
Qubit Üretildi | Genel Hesap QbitAI
Derin öğrenme çerçevesindeki tek yerli ürün PaddlePaddle , Geniş bir güncelleme dalgası başlatmaya odaklanın.
Baidu PaddlePaddle panoraması da ilk kez pozlandı.
Çerçevenin özü tarafından kapsanan derin öğrenme sürecinin tamamında, PaddlePaddle bağımlıdır Geliştirme , Eğitim İçin dağıtmak , tahmin Şirketin her bağlantısı yükseltildi. Baidu aynı zamanda toplam 100 milyon yuan değerinde bilgi işlem gücü avantajlarını ücretsiz olarak yayınladı ve hatta "bir NVIDIA Tesla V100 bilgi işlem kartı verdi".
Pek çok yeni işlev ve özellik arasında, yalnızca yeni doğal dil işleme (NLP) ve yayınlanan video araç setleri değil, büyük ölçekli dağıtılmış eğitim, büyük veri işleme ve diğer yetenekler yükseltilmiş, aynı zamanda geliştirici isteklerine yanıt olarak Baidunun gerçek işi Kullanılan Sunum dağıtım yetenekleri tamamen açıktır.
PaddlePaddle, çekirdek çerçeveye ek olarak üç yeni bileşen sağlar: otomatik makine öğrenimi, pekiştirmeli öğrenme ve aktarım öğrenimi.
Tek seferde 11 yükseltmeye ek olarak, bu iki yıllık yerli derin öğrenme çerçevesinin nihayet bir Çince adı var:
Uçan kürek
Baidu'nun derin öğrenme teknolojisi platformu departmanının yöneticisi Ma Yanjun, ismin Zhu Xinin iki şiirinden geldiğini söyledi: "Uçan kürekler, Guangjin'e uçuyor", uçan kürekler hızlı kürek veya tekneler anlamına geliyor, bu da PaddlePaddle'ın hızla büyüdüğü anlamına geliyor. Yüksek performanslı platform. Eski şiirlerden ve isimlendirmeden ilham almak, bir teknoloji şirketinin tutarlı edebi eğilimi olan Baidu ile oldukça uyumludur.
Yeni özelliklerin, yeni bileşenlerin ve yeni adların merkezi duyurusu, geliştiricilerin bir araya geldiği ilk yurtiçi derin öğrenme zirvesinde daha dün (23 Nisan) yapıldı.
Bu zirvede mekan yüzlerce kişiyle doluydu ve büyük bir geliştirici grubu bile arka sırada ayakta durup seyredecek bir koltuk bulamadı.
Fotoğraf çeken katılımcılar arasında çeşitli firmalardan mühendislerin yanı sıra çok sayıda genç yüz var.
Aralarında kübitin yanında oturan bir lisans öğrencisi de vardı, Tianjin Üniversitesi'nde bilgisayar bilimi okuyan bu çocuk, PaddlePaddle hayranı olduğunu iddia ederek bu amaçla Pekin'e geldi.
Toplantıya sadece gençler gelmedi, aynı zamanda gri saçlı en az üç yaşlı da vardı. Bunlardan biri, Tsinghua Üniversitesi Bilgisayar Bilimleri Bölümü'nden yaşlı bir beyefendi, yapay zeka ve matematik arasındaki ilişkiyi Tsinghua Yazılım Akademisi'nden mezun bir Baidu mühendisiyle tartıştı. Tsinghua Üniversitesi'nin 55 seviyeli mezunu olduğu söylenen yaşlı adamın 1950'lerden beri yapay zeka araştırması yapıyor.Bu sene 83 yaşında ve halen doktora yapıyor. Aynı zamanda Tsinghua Üniversitesi Bilgisayar Bilimleri Bölümü'ne kaydolan ilk lisanstı.
Toplantı başladıktan sonra dinleyiciler sessizdi, seyirciler bir sınıfa katılıyormuş gibi PPT'ye baktılar.Sahnedeki birinin konuşma yapması olmasaydı, sahne neredeyse sessizdi ve insanlar fısıldamaya cesaret edemezlerdi.
Sahnede bir araya gelen bu geliştiriciler, son üç yılda "Flying Paddle" açık kaynağının büyümesine tanık oldular ve ayrıca Baidu'nun bilgi işlem gücü avantajlarını ilk kez yakaladılar.
Bu yeni sürümler, yaşamın her alanında derin öğrenmenin ihtiyaçlarına yöneliktir.
Akıllı çağda işletim sistemi
Derin öğrenmenin hayatın her alanına nüfuz ettiği bu çağda, çerçeveler hayati bir rol oynamaktadır. Baidunun kıdemli başkan yardımcısı ve Ulusal Mühendislik Laboratuvarı Derin Öğrenme Teknolojisi ve Uygulaması direktörü Wang Haifeng bunu " Akıllı çağda işletim sistemi ".
Akıllı çağın önemli bir özelliği, yapay zekanın sanayileşmiş üretim aşamasına girmiş olması ve arkasındaki itici gücün, önceki nesil teknolojilerden daha çok yönlü olan derin öğrenme olmasıdır.
Örneğin, derin öğrenme, günlük yaşamlarımızdan ayrılamayan harita navigasyonunda önemli bir rol oynar. Harita, geçen süreyi tahmin etmek için bir rota bulduğu her seferinde, yoldaki çeşitli dinamik koşulları hesaba katmalı ve geçmiş yol koşulları, gerçek zamanlı yol koşulları ve trafik kısıtlamaları gibi büyük miktarda bilgiyi birleşik modelleme için derin öğrenme modeline özellikler olarak girmelidir. Zamanı doğru tahmin etmek için.
Wang Haifeng, Baidu Haritalarının her gün yaklaşık 500 milyon zaman tahmini sağladığını ve derin öğrenmenin her seferinde bir rol oynadığını söyledi.
Tüm endüstri perspektifinden, derin öğrenme aynı zamanda çeşitli endüstrilere ticari katma değer potansiyeli de getirmiştir. McKinsey'in "Derin Öğrenmenin Uygulaması ve Değeri" raporu, turizm, ulaşım, perakende, yüksek teknoloji, medya ve eğlence, yarı iletkenler ve iletişim dahil olmak üzere 19 sektörün derin öğrenmeden fayda sağlayacağını gösteriyor. Turizm endüstrisi için, derin öğrenme% 128 katma değer getirecek ve ortalama olarak sektörler arasında% 62'lik bir artış getirecek.
Derin öğrenme, belirli endüstri uygulamalarına yansıyan çeşitli endüstrilere değer sağlar ve bunlar ile temeldeki donanım arasında derin öğrenme çerçevesi olan önemli bir ara katman vardır.
Derin öğrenme çerçevesi, önceki ve sonrakini birbirine bağlama rolünü oynar.Sistem ve çip katmanını aşağı doğru bağlar.Birçok temel operatör, çipin komut setine çok benzer; ve çeşitli iş ve alanlardaki modellerin ve endüstri uygulamalarının yukarı doğru yerleştirilmesi, işletim sisteminin performansını gösterir. Öznitellikler.
Uçan Oar, Baidu'nun "Akıllı Çağ İşletim Sistemidir".
Eksiksiz bir derin öğrenme platformu olarak, kesinlikle eğitim, tahmin, ağ oluşturma ve diğer yetenekleri destekleyen temel çerçeveyi içerir.
Aynı zamanda görme ve doğal dil alanlarında modeller sunarak modüler bir şekilde sunulan eksiksiz bir model kitaplığı oluşturur. Akıllı uygulamaları uygulamak istediğinizde, uygun bir model seçmek, verileri toplama ve düzenleme sürecini ve sıfırdan eğitimi basitleştirir.
Bunlar endüstrileşmiş üretimin ihtiyaçlarını karşılamak için yeterli değildir, bu nedenle uçan kürek ayrıca transfer öğrenme, takviye öğrenme, otomatik ağ oluşturma (AutoDL), esnek derin öğrenme hesaplamaları ve EasyDL ve AI Studio platformları gibi bileşenleri de içerir.
Wang Haifeng, AutoDL tarafından tasarlanan ağın birçok uzman tarafından tasarlanan derin öğrenme sistemini aştığını ve EasyDL'de halihazırda 30.000'den fazla modelin bulunduğunu söyledi.Birçok endüstri, perakende, endüstriyel, medikal vb. Gibi EasyDL'de kendi sorunlarını çözdü. Hepsi derin öğrenme görevlerini daha otomatik hale getirir.
İster tüm uçan pervanenin tasarımı olsun, ister yeni yayınlanan güncelleme olsun, sanayileşmiş seri üretimin ihtiyaçlarına uyum sağlıyor: çok yönlü ve standardizasyon, otomasyon ve modülerleştirme yönünde gelişiyor.
"Flying Paddle" yeni yükseltmesi
Daha önce bahsettiğimiz uçan küreklerin üç katmanlı mimarisini hatırlıyor musunuz? Her mimari katmanının her modülüne yayılan bu büyük güncellemeler dalgasının, tüm çerçeve platformunun büyük bir dönüşümü olduğu söylenebilir.
Temel çerçeve katmanında Feida, model kitaplığında NLP ve videoyu anlamak için yeni bir araç seti yayınladı ve ayrıca eğitim ve tahmin bağlantısındaki birçok işlevi güncelledi Araç bileşen katmanında üç yeni ürün sürümü bulunmaktadır.
AI Studio platformunda, Baidu ayrıca bir geliştirici faydaları dalgası yayınladı.
Birçok yeni özellik var, odaklanıyoruz KürekNLP Bahsederken.
Flying Paddle, 60'tan fazla ana model için resmi destek sağlar.Bu modeller, bilgisayarla görme, NLP ve öneri algoritmalarından oluşan üç ana araç setini oluşturur.
NLP araç seti bu sefer çok yükseltildi. Bu güncellemeler, Baidu'nun NLP alanındaki birikiminin ve sınır sanayileşme deneyiminin tezahürüdür. Kısa bir süre önce, Baidu, Çin görevlerinde BERT'yi tamamen aşan bir dil olan ERNIE'yi piyasaya sürdü ve PaddleNLP'nin temel ağ katmanında açık kaynaklıydı ve ayrıca bir eğitim öncesi modeli de içeriyor.
Bu araç seti esnek bir şekilde takılıp çıkarılabilir ve ayrıca neredeyse tüm yaygın NLP senaryolarını kapsar, ana akım Çin işleme görevlerini tam olarak destekler ve endüstriyel düzeyde uygulama efektleri sağlayabilir.
Ek olarak, tüm modeller aynı iskelet kodunu paylaşır, hangi modeli çalıştırmak isterseniz isteyin, herhangi bir model bir dizi API ve benzer desen kullanabilir ve her modelin farklı yöntemler uygulaması gerekmez.
PaddleNLP'nin temel ağ katmanı, BERT, ERNIE, ELMo ve dil modeli ağ oluşturma kümeleri gibi en temel anlamsal gösterim modellerinin yanı sıra sıra etiketleme, metin sınıflandırması, anlamsal eşleştirme, dil oluşturma ve karmaşık görevler için ağ oluşturma kümelerini içerir.
Uygulama görevlerinde, Çince sözcük analizi, metin duyarlılığı sınıflandırması, kısa metin anlamsal eşleştirme, okuduğunu anlama, makine çevirisi ve diyalog gibi çeşitli görevleri destekler.
PaddleNLP ile, kendi ağınızı esnek bir şekilde eşleştirmek ve kurmak için paylaşılan ağ kümelerini kullanabilir ve ayrıca görevler için sonradan işleme gerçekleştirebilirsiniz:
NLP'ye ek olarak, uçan kanat da görüş alanında güncellendi: video alanı araç seti.
Ma Yanjun, günümüzde gittikçe daha fazla video içeriği ile video işlemenin ana akım bir görev haline geldiğini ve bunu işlemek ve anlamak için genel yöntemleri kullanmanın çok önemli olduğunu söyledi.
Video araç seti aynı zamanda bir dizi paylaşılan ortak mimari ve yapılandırma dosyasıdır ve yedi model aynı veri okuma ve değerlendirme kodlarını paylaşır.
Bu yedi model arasında stNet, Attention LSTM ve Attention, endüstriyel uygulamada Baidu tarafından geliştirilmiştir.
Baidu'nun kendi işletmesinde videonun anlaşılması için büyük bir talep var.
Örneğin, koşan bir adamın bu videosunda, Paddle'ın video araç seti tüm sesleri metne dönüştürebilir, içindeki yıldızların yüzlerini ve tüm nesnelerini tanıyabilir ve ardından videoyu otomatik olarak sınıflandırıp etiketleyebilir.
Bu işlem sayesinde bir video semantik vektörü de elde edilebilir.Video arama ve öneriyi içeren senaryolarda bu anlamsal vektör daha iyi sonuçlar elde edebilir.
içinde Dağıtılmış eğitim açısından, uçan kürek ayrıca üç ana işleve sahiptir. .
- İlki, hızı artıran birden çok makine ve birden çok kart için kapsamlı ve çok yönlü destektir.
- İkincisi, CPU'nun uygulama senaryosunda büyük ölçekli bir seyrek parametre sunucusu tasarlamak ve açmaktır.
- Üçüncüsü, büyük ölçekli dağıtılmış eğitimin çeşitli kapsayıcıları desteklemesi ve ayrıca K8S'yi desteklemesi.
Dağıtık eğitimin etkisi nasıl? Aşağıdaki şekil, ResNet-50'nin iki doğruluğu altında ImageNet'teki eğitim karşılaştırmasıdır.Tart ve makine sayısının artmasıyla, iyi bir doğrusal büyüme sağlayabilir:
Zayıf ağ koşullarında, kararlı bir eğitim elde etmek için seyrek iletişim teknolojisi de kullanılabilir:
CPU senaryosunda, uçan kanatlı dağıtılmış eğitimin iş hacmi ve hızlanma oranı da doğrusal büyüme gösterebilir.
içinde Dağıtım ve tahmin Anahtar kısım Çıkarım motoru Buna ek olarak, geliştiricinin isteği üzerine Flying Paddle, Baidunun kendi işletmelerinden birini de açtı Sunucu tarafı dağıtım sistemi Paddle Serving , Ayrıca mobil terminalde PaddleSlim sıkıştırma aracı sağlar.
Sunucu tarafında, uçan kanat ana akım CPU'ları ve GPU'ları ve ayrıca mobil tarafta çeşitli CPU ve GPU donanımlarını destekler.
Uçan raketin çıkarım motorunun Intel'in Xeon işlemcisi ve P4 GPU'sunda iyi optimize edildiği Benchmark'tan görülebilir.
Mobil terminal performansının optimizasyonu daha da kritiktir Baidu, MobileNet ağının gecikmesini çeşitli yongalarda test etti ve çok bariz optimizasyonları da görebiliyor.
Bu optimizasyonlar, uçan pervanenin yeni yayınlanan model sıkıştırma yetenekleriyle yakından ilgilidir. Şimdi, model optimizasyonu katı bir ihtiyaç haline geldi.Budama, miktar belirleme ve damıtmanın üç ana sıkıştırma yöntemini destekleyerek, uçan kanat, kullanıcıların iki satır Python kodu ile otomatik model sıkıştırmasını basitçe çağırmasına olanak tanır.
Feida'nın dil desteği de kademeli olarak tamamlanıyor.Şu anda Python ve C ++ 'yı destekliyor ve gelecekte daha fazla dil desteklenecek.
Fei Dao, her türlü yeteneği gösterdikten sonra, Canaan, iSoftStone ve diğer ortaklarla birlikte, yazılım ve donanımı entegre eden bir ürün piyasaya sürdü: 100 parçadan daha düşük fiyatlı Paddle Pie 210 yonga kartı ve Mayıs ayında Baidu AI pazarında satılacak. .
Tüm derin öğrenme sürecini destekleyen bu çerçevelerin işlevlerine ek olarak, PaddlePaddle ayrıca açıklanmış üç araç bileşenine sahiptir:
- Bunlardan biri, resmi açık kaynak model mimarisi otomatik arama aracı AutoDL Design ve bu AI tarafından tasarlanan önceden eğitilmiş bazı modeller ve bazıları CIFAR10 görüntü sınıflandırma veri setinde% 98 doğruluk elde edebilir;
- İkincisi, Atari masa tenisi oyunu Pong'u 7 dakikada oynayabilecek bir temsilciyi eğitebilen pekiştirici öğrenme aracı PARL.
- Üçüncüsü, 10 satır kodla geçiş öğrenimini gerçekleştirebilen, önceden eğitilmiş tek noktadan yönetim platformu PaddleHub.
Yeni yükseltme yukarıdakidir. Qubit, uçan raketin yeni işlevlerine ve özelliklerine daha ayrıntılı bir giriş sağlayan Ma Yanjunun konuşmasının tam bir PPT'sini aldı. Talep etmek için "Flying Oar" kelimesini Qubit Resmi Hesabına (QbitAI) gönderin.
Peki Baidu'nun 100 milyon yuan bilgi işlem gücü avantajı tam olarak nedir?
Kurulum gerektirmeyen entegre ortam AI Studio'ya dayanan Baidu, geliştiricilere toplam 100 milyon yuan ücretsiz bilgi işlem gücü sağlıyor. Bilgi işlem gücünü dağıtmanın iki yolu vardır: Biri bir V100 eğitim kartını teslim etmektir.Kullanıcı, AI Studio platformunda ücretsiz hesaplama süresini davetiye kodu aracılığıyla edinebilir ve arkadaşlarını daha fazla zaman almaya davet edebilir; diğeri ise uzak küme modudur. AI Studio'da oturum açtığınız sürece 12GB video belleğine sahip tek bir kartın bilgi işlem gücünü bu şekilde ücretsiz olarak kullanabilirsiniz.
Yerli ürünlere saldırmanın yolu
PaddlePaddle 2016'da piyasaya sürüldüğünde, Google'ın TensorFlow'u yaklaşık bir yıldır açık kaynak oldu ve GitHub'ın en popüler makine öğrenimi projelerinde birinci sırada yer aldı ve Torch, Caffe ve MXNet gibi daha öncekiler de var.
O zamanlar PaddlePaddle, hızlı çalışma hızı gibi övgüler aldı, ancak çok sayıda benzer ürün "yeniden tasarlanmış tekerleklerden" sonra, yine de çok az dokümantasyon, çok az kaynak, "kısa vadede bilimsel araştırma modelini değiştirmek zor" vb.
Bugün, derin öğrenme çerçevesi görünümü iki yıl önceki gibi değil ve PaddlePaddle dünyayı sarsan değişikliklere uğradı.
2017'de PaddlePaddle Fluid piyasaya sürüldü ve kod miktarını büyük ölçüde basitleştiren, "eğitim," test "ve" çıkarım "gibi yeni üst düzey API'ler sağlayan ve Kubernetes'i destekleyen yeni bir API de piyasaya sürüldü.
PaddlePaddle 2018'de Python 3'ü destekler, hesaplamalı grafik analizi, cuda8 ve resmi sürüm 1.0 da piyasaya sürülür.Önerme sistemi, vizyon ve doğal dil işleme görevleri için çok sayıda resmi model sunar.Ayrıca Windows ortamı için destek, tam destek ekler Üç Linux, Mac ve Windows ortamı nihayet uçtan uca bir derin öğrenme platformuna yükseltildi.
Bu yılın başında PaddlePaddle Fluid v1.3'e güncellendi ve BERT modelini desteklemek için yeni bir video modeli kitaplığı yayınlandı.
Bu yükseltmelere eşlik eden, kullanıcı sayısındaki artış. Ma Yanjun, PaddlePaddle'ın şu anda 100.000 geliştiriciyi kapsadığını ve büyüme oranının çok etkileyici olduğunu söyledi.Geçtiğimiz çeyrekte çift haneli bir artış oldu.Kullanıcıların çoğu internet şirketlerinden, yapay zeka şirketlerinden PetroChina'ya kadar sektörde yoğunlaştı. China Southern Power Grid gibi geleneksel şirketler PaddlePaddle kullanıyor ve hatta ERNIE gibi araştırmalar bazı yabancı kullanıcıları onu indirmeye ve kullanmaya yöneltti.
TensorFlow ve PyTorch modelleriyle karşılaştırıldığında Ma Yanjun, PaddlePaddle'ın benzersiz avantajları olduğuna inanıyor.
Bir yandan PaddlePaddle, süper büyük ölçekli veri işleme yetenekleri, yüksek hızlı muhakeme yetenekleri ve daha pratik senaryolar ve pratik uygulamalarla kurumsal uygulamada yapılır;
Öte yandan, PaddlePaddle yalnızca derin bir öğrenme çerçevesi içermekle kalmaz, aynı zamanda derin öğrenme teknolojisinin uygulanmasına daha elverişli olan, yakından ilişkili ve esnek araç bileşenleri ve hizmet platformlarının eksiksiz bir kombinasyonunu sağlar. Baidu'nun doğal dil işleme ve diğer yönlerdeki avantajları ile birleştiğinde, PaddlePaddle sonuçta kullanımı çok kolay bir platformdur.
Bir sonraki adımda Ma Yanjun, PaddlePaddle'ın donanımın uyarlanabilirliğini daha da geliştireceğini ve bu yıl içinde dinamik grafik işlevini geliştireceğini, dinamik grafik eğitim hızını artıracağını ve dinamik grafik ile statik grafik arasındaki esnek dönüşümü gerçekleştireceğini söyledi; yeni boru hattı paralel yetenekleri, Görsel inceleme, oluşturma araç seti sağlar ve geçiş öğrenimi için en eksiksiz önceden eğitilmiş model kitaplığına dayalı PaddleHub 2.0'ı piyasaya sürecek.
Bir şey daha
Qubit, olay yerindeki arkadaşlarından V100 GPU'nun uzaktan kullanımı için bir davetiye kodu istedi ve tabii ki okuyuculara verilmesi gerekiyor! 25 Nisan saat 13: 00'da yorum alanında en çok beğeni alan okuyucuları bulup bu avantajı ileteceğiz.
120 saate kadar kullanım süresi elde edebilir ve ayrıca 3 ücretsiz geliştiriciye ücretsiz olarak kullanma fırsatı verebilirsiniz.
