Kaldi'nin babasının katılmasının ardından Xiaomi Geliştirici Konferansı: Parlak AI açık kaynak projelerini tek tek inceleyin
Leifeng.com AI Geliştiricisi: 19 Kasım 2019'da MI Geliştirici Konferansı (MIDC, MI Geliştirici Konferansı), AIoT + 5G gibi temalarla birden çok alanda en yeniyi "Akıllı Yeni Çağ" olarak sunacak olan 1 ana forum + 12 alt forum ile Pekin'de düzenlendi. Teknoloji; aynı zamanda açık kaynaklı bir olaydır.
Xiaomi Grubu Başkan Yardımcısı ve Teknik Komite Başkanı Cui Baoqiu, konferans sitesinde yalnızca daha zengin heterojen bilgi işlem operatörlerini destekleyen ve cihazlar arası performans kaybını azaltan kendi geliştirdiği mobil derin öğrenme çerçevesi MACE 0.12.0 yükseltilmiş sürümünü resmi olarak yayınlamakla kalmadı; Xiaomi'nin kendi NLP teknolojisi MiNLP 1.2; ayrıca Pegasus 1.12'nin GitHub'da online olduğunu duyurdu. Bu nedenle, Leifeng.com AI geliştiricileri, açık kaynak içeriğini aşağıdaki gibi düzenler ve düzenler.
Daha zengin operatörler, daha düşük performans kaybı
MACE'nin mobil cihazlar için optimize edilmiş bir derin öğrenme modeli tahmin çerçevesi olduğu anlaşılmaktadır.MACE, kullanıcıların derin öğrenme modellerini cep telefonlarına, tabletlere, kişisel bilgisayarlara ve IoT cihazlarına dağıtmalarına yardımcı olacak araçlar ve belgeler sağlar.
Bu çerçeve aracılığıyla Xiaomi, bilgisayarla görme, konuşma tanıma vb. Dahil olmak üzere çeşitli derin öğrenme uygulamalarını ve algoritmalarını mobil terminalde dağıtabilir. Xiaomi'nin eksik istatistiklerine göre MACE, günde 50 milyon kez aranıyor.
MACE, tasarımının başlangıcından itibaren, mobil cihazların aşağıdaki gibi özellikleri için özel olarak optimize edilmiştir:
-
hız Çerçevenin alt kısmında, ARM CPU için NEON talimat düzeyinde optimizasyon gerçekleştirilir ve mobil GPU için verimli OpenCL çekirdek kodu uygulanır. Qualcomm DSP için, nnlib hesaplama kitaplığı HVX hızlandırma için entegre edilmiştir. Aynı zamanda, algoritma düzeyinde, Winograd algoritması, mobil terminal üzerinde hesaplanan genel modelin gerektirdiği tahmin gecikmesinin yüksek gereksinimlerini karşılamak için evrişimi hızlandırmak için kullanılır.
-
Güç tüketimi Çerçeve, ARM işlemcinin big.LITTLE mimarisini hedefliyor ve yüksek performans ile düşük güç tüketiminin çoklu kombinasyonlarını sağlıyor. Adreno GPU için, geliştiricilerin performansı ve güç tüketimini esnek bir şekilde ayarlamasına olanak tanıyan ve böylece mobil terminalin güç tüketimine karşı çok hassas olduğu sorununu çözen farklı güç tüketimi performans seçenekleri sağlanmıştır.
-
Sistem yanıtı GPU hesaplama modu için, çerçevenin alt katmanı, GPU oluşturma görevlerinin daha iyi önceden alınmasını ve programlanmasını sağlamak için OpenCL çekirdeğini uyarlamalı olarak böler ve planlar, böylece sistemin akıcılığını sağlar.
-
Bellek ayak izi Modelin operatörlerinin bağımlılık analizi yoluyla, bellek kullanımını büyük ölçüde azaltmak için belleği yeniden kullanma teknolojisi tanıtıldı.
Daha fazla ayrıntı için lütfen "Xiaomi Açık Kaynak Kendi Geliştirdiği Mobil Derin Öğrenme Çerçevesi MACE" ye bakın:
https://www.leiphone.com/news/201806/5PYJx9sVJDURvwpj.html
MACE hesaplama çerçevesinin genel yapısı
Şimdi, MACE tarafından desteklenen uygulama senaryoları, aşağıdakiler de dahil olmak üzere büyük ölçüde arttı: AI tek çekim, görüntü stilizasyon, sahne tanıma, görüntü süper çözünürlüğü, çeviri ve ses. Mobil yongaların özellikleri için pek çok optimizasyon yaptı ve Xiaomi cep telefonlarında portre modunda ve sahne tanıma işlevlerinde yaygın olarak kullanıldı.
MACE Model Hayvanat Bahçesi'ndeki hızlı stil aktarım modeli ile cep telefonunda üretilen stilize resimler
Bu yükseltmede, MACE 0.12.0 temel olarak aşağıdaki dört yönden başlar ve pratik uygulamalarda daha avantajlı hale getirir:
-
Daha zengin heterojen bilgi işlem operatörleri
-
Ekipman genelinde performans kaybını azaltın
-
Kaldi konuşma tanıma operatörü desteği eklendi
-
CMake desteği eklendi
Bunlar arasında, çerçeve tarafından desteklenen konuşma tanıma sistemi Kaldi, Daniel Povey (birkaç gün önce Xiaomi Group'un baş ses bilimcisi olarak) liderliğindeki açık kaynaklı bir konuşma tanıma sistemidir ve birçok konuşma tanıma testi ve uygulamasında yaygın olarak kullanılmaktadır.
Raporlara göre, MACE, Kaldi sistem bileşenlerinin çoğunu ve Kaldi modelini ONNX biçiminde destekledi. Proje ayrıca Kaldi-onnx dönüştürme araçları da sağlıyor.
Xiaomi'nin konferansta MACE'nin son (önümüzdeki bir veya iki ay içinde) planını açıkladığını da belirtmekte fayda var:
-
Biri, açık kaynaklı MACE-Kit (yüz algılama, yüz tanıma, konuşma tanıma, hedef algılama uçtan uca SDK);
-
İkincisi, mikro denetleyici desteği eklemektir (cep telefonlarının ve IoT cihazlarının ultra düşük güç çıkarım senaryoları için tam destek);
Cui Baoqiu ayrıca, Xiaomi'nin gelecekte Kaldi'ye yaptığı yatırımı artırmaya devam edeceğini, uluslararası bir açık kaynak topluluğu oluşturmaya yardımcı olacağını ve açık kaynak konuşma tanıma teknolojisine liderlik edeceğini söyledi.
Github adresi:
https://github.com/XiaoMi/mace
Belge adresi:
https://mace.readthedocs.io/en/latest/
MACE Model Zoo proje adresi:
https://github.com/XiaoMi/mace-models
Diğer açık kaynaklı içerik
MiNLP 1.2
Bu yılın başında Xiaomi MiNLP 1.0 resmi olarak piyasaya sürüldü.Platform, Xiaomi'nin akustiğe dayalı otonom derin büyüyen platformu. Xiaomi Geliştirici Konferansı'nda Cui Baoqiu, Xiaomi MiNLP platformunun günde 6 milyar kez arandığını ve ardından resmi olarak MiNLP 1.2'yi piyasaya sürdüğünü belirtti.
Önceki sürümle karşılaştırıldığında MiNLP 1.2 platformunun iki önemli güncellemesi var:
-
Arama modu, yerel aramadan desteklenen bulut, yerel ve mobil terminal aramalarına;
-
Analiz işlevi sözcüksel analizden sözdizimsel ve anlamsal analize kadar uzanır;
Buna ek olarak, platformun yeni sürümü, mevcut en son ilerlemeyi özümseyip entegre edebilir ve teknolojik inovasyonu gerçekleştirebilir; aynı zamanda, platformun yeni sürümüyle desteklenen iş de tamamen genişletildi ve şu anda şirketin birden fazla işini destekleyebiliyor.
Pegasus 1.12
Pegasus, başlangıçta HBase'in kullanılabilirlik ve performans eksikliğini telafi etmek için kullanılan dağıtılmış bir Anahtar-Değer depolama sistemidir.
Pegasus sisteminin Sunucu tarafı tamamen C ++ dilinde geliştirildi, böylece Java kullanımının neden olduğu GC etkisi ve sanal makine yükünden kaçınıyor; aynı zamanda güçlü tutarlılığı desteklemek için PacificA protokolünü kullanıyor ve bağımsız bir depolama motoru olarak RocksDB kullanıyor. Harici bir dosya sistemine bağlı olmadığı için Pegasus'un IO yolu daha kısadır ve gecikme genellikle daha kararlı ve kontrol edilebilirdir.
Model tasarımı açısından Pegasus, verileri bölmek için hash sharding kullanır.Bölme, sistem içindeki en küçük veri taşıma birimidir.Her bir parçadaki veriler düzenli bir şekilde depolanır ve veriler her bir parça arasında izole edilir. Her parça, ayrı bir RocksDB örneğine karşılık gelir.
Ayrıca, yüksek kullanılabilirlik ve iyi ölçeklenebilirlik sağlayan HBase ve Redis'in bir kombinasyonu olarak da görülebilir. İşletmenin performans gereksinimleri çok yüksek değilse (örneğin, P991 milisaniyeden az gerektirir), o zaman Pegasus iyi bir seçim olacaktır.
Yükseltilmiş Pegasus 1.12 için aşağıdakiler dahil üç ana performans değişikliği vardır:
-
Küme meta bilgilerini elde etmek için HTTP arabirimi sağlayın;
-
Daha iyi çok kiracılı destek yetenekleri sağlayın;
-
Prometheus izleme sistemine erişimi destekleyin;
Şu anda Pegasus 1.12, anlık görüntü soğuk yedekleme, tablo yumuşak silme, tablo düzeyinde yazma akımı sınırı vb. Gibi bir dizi zengin işlev desteği sağlar ve daha eksiksiz bir yüksek kullanılabilirliğe, yüksek performansa, güçlü tutarlılığa, kolay Ölçeklendirme gibi performans.
Pegasus 1.12 Github adresi:
https://github.com/XiaoMi/pegasus
Pegasus hakkında daha fazla bilgi
https://pegasus-kv.github.io/overview/
Leifeng.com AI Geliştiricisi
Leifeng.com Yıllık Seçimi 19 büyük sektörde en iyi yapay zeka iniş uygulamalarını arıyor
2017'de kurulan "En İyi AI Nuggets Vakalarının Yıllık Listesi", sektörün ilk AI iş vaka seçimi etkinliğidir. Ticari boyuttan başlayarak, Leifeng.com çeşitli sektörlerde en iyi yapay zeka uygulamalarını arıyor.
Üçüncü seçim resmi olarak başlatıldı. Kayda katılmak için WeChat genel hesabı "Leifeng.com" u izleyin ve "liste" anahtar kelimesini yanıtlayın. Ayrıntılar için lütfen WeChat ID ile iletişime geçin: xqxq_xq
