Wave CTO Chris: 7nm DPU'nun önümüzdeki yıl satışa sunulması planlanıyor!
15 Mart'ta Şangay'da Zhixi'nin ev sahipliği yaptığı ve AWE ile Jiguo'nun ortak ev sahipliğinde GTIC 2019 Küresel Yapay Zeka Çip İnovasyon Zirvesi başarıyla gerçekleştirildi! Zirve sitesi bir önceki oturumun sıcak sahnesine devam etti, açılıştan öğleden sonraya kadar dinleyiciler doluydu ve birçok coşkulu dinleyici ayakta durmak ve zirveyi dinlemek için ısrar etti.
Yirmi yerli ve yabancı AI çip endüstrisinin büyük ismi, mimari yenilik, ekolojik yapı ve senaryo uygulaması açısından AI çiplerinin teknolojik beklentilerine ve endüstri trendlerine odaklanmak için bir araya geldi.
Bu zirveye katılan seyirci yaklaşık 4.500 şirketi kapsadı ve seyirci son derece profesyoneldi, bunların arasında% 62'den fazlası yönetmen düzeyinde ve üzerindeydi ve sahnedeki gerçek katılımcı sayısı 1.800'ü geçti.
Chris Nicol, Kıdemli Başkan Yardımcısı ve Wave Computing CTO'su
Toplantıda, Silikon Vadisi'ndeki popüler bir yapay zeka çipi olan Wave Computing'in Kıdemli Başkan Yardımcısı ve CTO'su Chris Nicol, "Devrim niteliğinde yapay zeka derin öğrenme bilgi işlem hızlandırma mimarisi ve işlemci-Dataflow ve DPU" Konuşma.
Wave'in en iyi teknik kişisi olan Chris, Wave'in yenilikçi Veri Akışı İşlemcisi (DPU) ve Yazılım Dinamik Olarak Yeniden Yapılandırılabilir İşlemci (CGRA) mimarisindeki araştırma ve geliştirme ilerlemesini açıklamakla kalmadı, aynı zamanda yapay zeka yongalarının gelecekteki eğilimi hakkında da bilgi verdi. Önyargı.
Chris, konferansın arifesinde Chris ile yüz yüze derinlemesine bir görüşme yaptı. Wave'in veri merkezi, uç ve terminaldeki yapay zeka hızlandırma çiplerinden Wave'in yeni nesil 7nm DPU'sunun teknoloji yükseltmesine kadar Chris Zhishi'ye şunları söyledi: Wave, önümüzdeki yıl 7nm DPU'yu piyasaya sürmeyi planlıyor. Bu aynı zamanda Chris'in yerel medyaya yaptığı ilk derinlemesine röportaj.
Chris dedi, Wave tarafından geliştirilen DPU'ya dayanan yazılım, dinamik olarak yeniden yapılandırılabilir işlemci CGRA, mevcut derin öğrenme ortamında devrim yaratma potansiyeline sahiptir.Ayrıca, ortak öğrenmenin makinelerin geleceği olacağına inanmaktadır. .
Wave Computing, 2010 yılında kurulmuştur ve şu anda veri akışı teknolojisine dayalı sistemler aracılığıyla veri merkezinden uca yapay zeka derin öğrenme hesaplamasını hızlandırmaya odaklanmaktadır.Ana iş birimleri MIPS IP işi, silikon yonga işi, sistem işi ve çözümlerden sorumludur. iş. Şirketin dünya çapında yedi ülkede ofisleri vardır ve finansman olarak 200 milyon dolardan fazla biriktirmiştir.
Geçen yıl Haziran ayında, bu şirket ARM'nin eski rakibi olan eski marka yarı iletken IP şirketi MIPS'i satın aldı ve kısa bir süre sonra MIPS açık kaynak planını açıkladı.
İster bir konuşmada ister Zhizhi ile sohbet ederken, Chris yapay zekanın veri merkezinden uçlara doğru yüzdüğünü vurguladı: " Sinir ağları gittikçe büyüyor ve yeni rekabet ağ bağlantılı bir savaş olacak. "
Her şeyin birbirine bağlanması mümkün hale geliyor Veri merkezi sistemlerinden uç ve terminal cihazlarına ve akıllı yükseltmelere kadar her cihaz ağ üzerinden bağlanıyor. Chris, veri merkezi için iki anahtar kelime öne sürdü: " çoğaltmak "ile" ölçeklendirme ".
Ölçek büyütme, çok sayıda yonganın bir rafa entegrasyonu anlamına gelir ve ölçek genişletme, veri merkezindeki çok sayıda rafın ağa bağlanması anlamına gelir. Büyük bir sinir ağını eğitirken, ölçek büyütme ve ölçeği genişletmeyi birleştirerek, bir dizi büyük veri akışı süper hesaplaması oluşturulabilir.
Şu anda, dünyanın önde gelen yarı iletken şirketleri bir veya daha fazla çip, sistem, IP ve çözüm hizmetlerinde uzmanlaşmıştır.Örneğin, Google ve Huawei geçici olarak kendi çiplerini satmıyor ve Microsoft, Amazon ve Graphcore IP yapmıyor. Chris dedi, Wave, şu ana kadar, veri merkezinden uç noktaya kadar sistem, çip, IP ve çözüm hizmetlerini aynı anda sunan dünyadaki tek şirkettir. .
Wave, Tsinghua Üniversitesi'nden Profesör Wei Shaojun tarafından önerilen "yazılım tanımlı yonga" ya benzer olan yazılım programlama yoluyla yongaların dinamik olarak yeniden yapılandırılmasını keşfetmeyi umuyor.
Wave, kuruluşundan bu yana, veri akışı odaklı veri akışı teknolojisine dayalı olarak, von Neumann olmayan mimari yazılım dinamik yeniden yapılandırılabilir işlemci CGRA (Kaba taneli yeniden yapılandırılabilir dizi / hızlandırıcı) teknolojisini kullanarak DPU'ya derinlemesine dahil olmuştur ve buna göre geliştirilmiştir. CGRA mimarisi-DPU (veri akışı işleme birimi) tabanlı AI yongası piyasaya sürüldü.
Zhizhi bir keresinde Çin'deki Wave Computing'in genel müdürü Dr. Xiong Dapeng ile iletişim kurdu ve Dr. Xiong, veri akışının çalışma prensibini canlı bir şekilde açıkladı. (Devrim niteliğindeki DPU boğa nerede? Wave Computing Xiong Dapeng ile derinlemesine diyalog)
CGRA, büyük ölçekli eşzamansız paralel hesaplama için uygundur.Başlıca avantajı, donanımın yazılıma daha esnek bir şekilde adapte olmasını sağlamak ve AI yonga geliştirme eşiğini düşürmektir.
Chris, CPU, GPU ve FPGA ile karşılaştırıldığında, CGRA'nın daha iyi enerji verimliliği ve maliyet etkinliği ile programlanabilirlik (veya çok yönlülük) ve performans açısından iyi bir genel denge sağladığını söyledi. İyi programlanabilirliği (veya çok yönlülüğü) korurken, CGRA'nın enerji verimliliği ASIC seviyesine ulaşabilir veya yaklaşabilir.
Ayrıca, CPU'nun genel amaçlı işlem gücünün yeri doldurulamaz olduğu için, CGRA'nın genellikle CPU ile işbirliği yaptığını belirtti. Bununla birlikte, GPU'nun CPU'dan bağımsız çalışamamasıyla karşılaştırıldığında, CGRA'nın yalnızca kontrol, yönetim ve veri ön işleme görevlerini yerine getirmesine yardımcı olması için CPU'ya ihtiyacı vardır, bu nedenle GPU'dan daha hızlıdır.
FPGA ile temel fark programlamadır. FPGA, yazılım mühendisleri için programlamayı zorlaştıran donanım programlama dili Verilog'u kullanır. CGRA, C, Python, JAVA vb. Gibi üst düzey programlama dillerini destekleyerek programcıların başlamasını kolaylaştırır.
CGRA mimarisine dayanan Wave Computing, otomotiv elektroniği, akıllı perakende ve akıllı finans gibi çeşitli karmaşık ve hesaplama gerektiren yapay zeka uygulamaları için uygun bir veri akışı işleme birimi (DPU) oluşturdu. Birinci nesil DPU, 16nm işlem teknolojisine sahiptir, 6 GHz'in üzerinde bir hızda çalışır ve piyasada bulunmaktadır.
Chirs Nicol, Wave tarafından yapılan DPU yongasının yazılımı çipe bağladığını ve harici bellekteki veri bilgilerine erişebildiğini söyledi. Çip, çok sayıda Kümeyi entegre eder ve her Küme, 8 DPU aritmetik birimi, 16 işleme elemanı (PE, İşleme Elemanı) ve bellek içerir. Bunlar arasında PE, veri akışı tarafından sürülen saat sinyali olmadan küresel asenkron ve yerel senkronize tasarım ile gerçekleştirilir. PE ve CGRA aynı anda hesaplamaları çalıştırabilir.
Buna ek olarak Wave, derin öğrenme görevlerini işlemek için 512 x 512 Genel Matris Algoritmasını (GEMM) sunarak, enerji tüketimini azaltmak ve hesaplamaları hızlandırmak için sistemin çok seviyeli depolama yapısından ve program yürütme yerelliğinden tam olarak yararlandı.
Chris, PPT'deki veri merkezi uygulamasında GPU ve DPU arasındaki farkı gösterdi. Solda GPU'nun iş akışı var. Birden fazla GPU paralel olarak eğitiliyor ve ardından CPU modeli güncelleyecek ve gradyanlar, parametreler, kayıplar ve diğer değişkenler hakkında geri bildirim sağlayacak. Büyük modeller için bu yaklaşım, paralel eğitim için çok sayıda GPU gerektirir.
Wave tarafından benimsenen iş akışı oldukça farklıdır (sağdaki resim) Wave, esnek veri akışı, MIPS, AI algoritmaları ve çerçeveler gibi bulut, uç ve uç senaryolar için çözümler sunar. Orijinal veri akışının nereden geldiğine bakılmaksızın, görüntü ve grafik bilgileri, örneğin otomobiller ve cep telefonları gibi kenar alanlarına yerleştirilebilir.
Wave, bu yonganın gerektirdiği donanım ve yazılım teknik rezervlerini geliştirmek için 8 yıldan fazla zaman harcadı. Chris, Wave'in Broadcom ile birlikte araştırdığı ve geliştirdiği yeni nesil 7nm DPU'nun önceki nesil 16nm DPU ile karşılaştırıldığında birçok önemli yükseltmeye sahip olacağını duyurdu.
Chris esas olarak iki yükseltme yaptı. Bunlardan biri, MIPS Teknolojiyi benimsemek, diğeri benimsemek Yüksek bant genişliğine sahip bellek HBM (Yüksek Bant Hafızası).
Öncelikle, Wave'in başlattığı 16nm DPU, Intel CPU'ları kullanıyor ve yeni nesil 7nm DPU'lar, 64-bit MIPS çok iş parçacıklı CPU'ları tanıtacak.
Wave'in yeni nesil DPU'su, TensorFlow'un MIPS üzerinde çalışmasını destekleyebilir ve hızı ve enerji tüketimi, önceki nesil DPU'ya göre önemli ölçüde yükseltilmiştir.
Chris, MIPS'in sanallaştırma ve çoklu okuma gibi teknik avantajları olduğunu söyledi. ARM ile karşılaştırıldığında, MIPS açık kaynaklı bir mimaridir ve herhangi bir patent ücreti gerektirmez.RISC-V ile karşılaştırıldığında MIPS, daha fazla enerji tasarrufu sağlayan ve nispeten olgun bir ekolojiye sahip olan 6 nesil için optimize edilmiştir. Wave'in yapay zeka derin öğrenme için geliştirmekte olduğu MIPS genişletilmiş talimat seti ile birlikte, DPU, yapay zeka hesaplama gücü için çoğu terminal cihazının ihtiyaçlarını karşılayabilir.
Ek olarak, yeni nesil DPU, yüksek bant genişliğine sahip bellek HBM'yi sunar. HBM, birden çok DDR yongasını istifleyerek büyük kapasiteli, yüksek bit genişlikli DDR kombinasyon dizisini gerçekleştiren yeni bir DDR bellek yongası türüdür. HBM, yeni nesil DPU'nun depolama darboğazını aşmasına, bant genişliğini artırmasına ve güç tüketimini azaltmasına yardımcı olacak.
Chris, Zhi Shi'ye şunları söyledi: Wave, gelecek yıl 7 nm DPU planlarını yayınlamayı planlıyor .
DPU'nun veri merkezlerine nasıl güç verdiğinden bahsettikten sonra, Wave'in makine öğrenimi eğitimini veri merkezlerinden uç cihazlara nasıl genişlettiğinden bahsedelim.
Chris özellikle bahsetti Federe öğrenme ), veri merkezinde büyük bir model eğitmek ve daha sonra farklı uç cihazlara dağıtmaktır. Edge cihazları da eğitme yeteneğine sahiptir.Veri merkezinde eğitilen modele göre gerçek ortama göre yeni modeller yapılabilir. Eğitim ve öğrenmenin ardından, eğitilen model gradyanları veri merkezine geri iletilir ve veri merkezinden sinir ağı modelini daha da yükseltmesi istenir ve ardından güncellenmiş modeli her bir uç veya terminal cihazına iletir.
Örnek olarak kendi kendine giden arabaları ele alalım. Kendi kendine giden bir arabanın 20'den fazla akıllı kamerası olabilir ve her kamera, veri merkezi tarafından eğitilmiş bir sinir ağı modeliyle donatılmıştır. Şanghay ve Londra gibi farklı şehir sokaklarında gezerken , New York, cadde, araba modeli, araç rengi ve kamera tarafından kaydedilen diğer bilgiler oldukça farklı olabilir.
Bununla birlikte, veri merkezi her sürücüsüz arabanın "gördüğü" yol koşullarını hesaba katamaz, bu da aracın çevreye göre kenarda öğrenmesini ve eğitim almasını gerektirir ve eğitim sonuçlarını yükseltmek için veri merkezine geri gönderir. Ana sinir ağı modeli ve ardından veri merkezi daha akıllı modeli her bir otonom araca iletir.
Günümüzde, veri gizliliği güvenliği konusu, kamuyu ilgilendiren ana bir konu haline geldi ve ortak öğrenme yöntemi, uç cihazların toplanan verileri veri merkezine iletme ihtiyacını ortadan kaldırarak kullanıcıların gizliliğini sağlıyor.
Düşük güç tüketimi ile bilinen ortak öğrenme ve MIPS CPU, Wave'in uçta ve terminalde yapay zekayı hızlandırmaya yönelik çözümlerine teknik destek sağlar.
Bugün NVIDIA, veri merkezi derin öğrenme eğitimi alanında hala tek olan şirkettir, ancak yeni rakipler zaten güç topluyor ve CGRA tarafından temsil edilen AI çip mimarisi yeniliği, AI çip endüstrisi modelini ince bir şekilde değiştiriyor.
CGRA henüz geliştirmenin ilk aşamalarında olsa da Chris, Wave'in parlak bir geleceğe sahip olacağına inanıyor. Bu yenilikçi mimari kampına katılacak daha fazla şirket ve yeni bir rekabet turu olarak CGRA'nın yeni ekosistemini ortaklaşa desteklemeyi dört gözle bekliyor. Kalıp oluşturulur ve müşteri grubu nihai kazanan olur.
