MLPerf, ilk AI çip muhakeme testi sıralamasını yayınladı: Ali Hanguang 800 birden fazla ilk kazandı
İçbükey tapınaktan Xiaocha Qubit derlemesi | genel hesap QbitAI
Bugün, MLPerf Benchmark Alliance, 19 şirket ve kurumdan 594 yonganın çeşitli doğal dil ve bilgisayarla görme görevlerinde performansını gözden geçiren ilk AI çip muhakeme testlerinin sonuçlarını açıkladı.
Çin, İsrail, Güney Kore, Birleşik Krallık ve Amerika Birleşik Devletleri'nden şirketler test sonuçlarını sundular. Bu şirketler arasında şunlar yer almaktadır: Alibaba, Dell EMC, Google, Inspur, Intel, Nvidia, Politecnico di Milano, Qualcomm, Tencent vb.
Test içeriği
MLPerf muhakeme testi v0.5, görüntü sınıflandırma (ResNet50), hedef algılama (ResNet34) ve makine çevirisi (GNMT) gibi görevleri kapsayan 5 kıyaslamaya bölünmüştür.
Daha fazla iyileştirmenin sorunu, tüm kıyaslamaların dört çözüm sağlamasıdır: tek akış modu (bir istemci tek kaynak kullanır), çoklu akış modu (bir istemci birden çok kaynak kullanır), hizmet modu (gerçek zamanlı, saniyede bir sorgu) ) Ve çevrimdışı mod (gerçek zamanlı kısıtlamaları olmayan sunucu).
Bu modeller, testi istemci ve sunucu olmak üzere iki kısma ayırır.
MLPerf çıkarım karşılaştırması, cihazlarda (Nesnelerin İnterneti, akıllı telefonlar, PC'ler, sunucular) ve çeşitli uygulamalarda (otonom sürüş, NLP, bilgisayar görüşü) yeni verileri işlemek için eğitimli sinir ağının hızını ölçmek için kullanılır.
Test sonuçları, yerleşik cihazlar ve akıllı telefonlardan büyük veri merkezi sistemlerine kadar, performansta 4 büyüklük farklılığı ve güç tüketiminde 3 büyüklük farklılığı olan cihazları kapsayan PC donanımındaki performans merdiven diyagramına benzer.
Yerli çip kazanır
Test edilen tüm yongalarda Nvidia, dört senaryoda tek bir hızlandırıcıda en iyi sonuçları elde etti.
MobileNet-v1, ResNet-50 v.1.5 ve GNMT'nin beş görevinde, Nvidia Turing tabanlı yongalar sunucu ve çevrimdışı modlarda en iyi performansa sahiptir.
Ali Pingtou tarafından piyasaya sürülen AI çıkarım çipi "Hanguang 800" 'ün, çok sayıda kıyaslama testinde ilk tek çipli performansı kazanması dikkat çekicidir.
Hanguang 800, görüntü sınıflandırma görevlerine uygun Resnet50 v1.5 benchmark testine katıldı ve dört senaryonun tümünde ilk tek çipli sonuçları elde etti.
Çevrimdışı mod, çipin hesaplama, depolama ve iletişim gibi temel işlevlerini test edebilen çip çıkarımının maksimum verimini test eder. Hanguang 800'ün puanı 69306.60 IPS'dir ve tek çip performansı Google TPU v3'ün 8.5 katı ve Nvidia T4'ün 12 katıdır.
MLPerf hakkında
MLPerf, makine öğrenimi yazılımı ve donanımının performansını ölçmek için endüstrinin ilk genel karşılaştırma ölçütleri grubudur. 2018'de Turing Ödülü sahibi David Patterson tarafından Google ve birkaç tanınmış üniversiteyle işbirliği içinde başlatıldı.
MLPerf benchmark ittifakının Google, Microsoft, Facebook, Alibaba gibi şirketler ve Stanford, Harvard ve Toronto Üniversitesi gibi üniversiteler de dahil olmak üzere 50'den fazla üyesi vardır.
MLPerf, bu yaz bir AI eğitim testi karşılaştırması yayınladı. Yakın zamanda piyasaya sürülen MLPerf Inference v0.5, ilk AI çıkarım testi karşılaştırmasıdır.
MLPerf muhakeme testi sonuçları: https://mlperf.org/inference-results/
- Bitiş -
Qubit QbitAI · Toutiao İmzalı
Bize dikkat edin ve en son teknolojideki en son gelişmeleri alın
