Baidu Ouyang Jian: "Kunlun" çipleri bu yıl dahili olarak büyük ölçekte kullanılacak! | GTIC2019
Zhixi'nin ev sahipliğinde AWE ve Jiguo'nun ev sahipliğinde düzenlenen AI Chip Innovation Summit, 15 Mart'ta Şangay'da başarıyla gerçekleştirildi! Bu zirveye katılan seyirci yaklaşık 4.500 şirketi kapsadı ve seyirci son derece profesyoneldi, bunların arasında% 62'den fazlası yönetmen düzeyinde ve üzerindeydi ve sahnedeki gerçek katılımcı sayısı 1.800'ü geçti.
Konferans alanında yapay zeka ve AI çip endüstrisindeki 20 lider, mimari yenilik, ekolojik yapı ve sahne uygulaması açısından AI çiplerinin teknolojik beklentilerini ve endüstri eğilimlerini sistematik olarak tartışmak için bir araya geldi.
Ouyang Jian, Baidu'nun Baş Mimarı
AI yongalarının aktif bir düzeni ve uygulaması olarak Baidu, sektörden büyük ilgi gören AI bulut yongası "Kunlun" u Temmuz 2018'de piyasaya sürdü. Baidu'nun baş mimarı olan Ouyang Jian, "Baidu Kunlun Hesaplamayı Daha Akıllı Hale Getiriyor" üzerine bir konuşma yaptı.
Baidunun kendi iş gereksinimlerinden ve pratik deneyiminden, Baiduda AIoT, otonom sürüş, akıllı bulut vb. Dahil birçok uygulama senaryosu olduğunu söyledi. Farklı senaryoların çipler için farklı gereksinimleri vardır, bu da evrensel AI bilgi işleminin benimsenmesi gerektiği anlamına gelir. yolu. Genel esneklik, bilgi işlem gücü ve enerji verimliliği, yaygın yapay zeka hesaplamasının üç ana zorluğudur.
Baidu, son 7 veya 8 yılda çok sayıda AI mimarisi biriktirdi. 2010 gibi erken bir tarihte, FPGA'lar AI mimarilerinin araştırılması ve geliştirilmesi için kullanıldı. 2011'de küçük ölçekli dağıtımlar başlattılar. 2015'te birkaç bin parçalık dağıtım ölçeğini kırdılar. 2017'de 10.000'den fazla FPGA dağıttılar. Baidu dahili veri merkezi, otonom sürüş sistemi vb. Hepsi büyük ölçekli kullanımdadır.
FPGA'dan sonra, özel yongalar bilgi işlem performansını iyileştirmeye devam etmenin tek yoludur. Baidu kendi AI yongasını geliştirmeyi seçti ve 2018'de Baidu "Kunlun" u piyasaya sürdü. Samsung'un 14m işlem yongasını kullanıyor, çok yüksek bir bellek bant genişliğine ve 260Tops hesaplama gücüne sahip.
Ouyang Jian, bu çipin çok yönlü ve esnek olduğunu söyledi.Çip eğitim ve muhakeme için kullanılabilir.XUU'nun işlevsel mimarisi Baidu'daki birçok uygulamada da doğrulandı.Görece konuşursak, tam özellikli bir AI çipi. . Bu yıl "Kunlun", Baidu içinde geniş ölçekte kullanılacak.
Baidu baş mimarı Ouyang Jian'ın konuşma kaydı eklidir.
Ouyang Jian: Günaydın arkadaşlar! Benim adım Ouyang Jian ve Baidu'nun baş mimarı benim Zhishi'nin daveti için teşekkür ederim Bugün sizlerle uzun yıllardır yapay zeka işlemcileri ve yongaları konusundaki çalışmalarımızı paylaşma fırsatım var. Konumuz "Bilgisayarı daha akıllı hale getirin", ki bu aynı zamanda problemleri çipler aracılığıyla çözme görevimizdir.
Yapay zekanın gelişiminin üç unsurdan ayrılamayacağını herkes bilir: mükemmel algoritmalar, büyük veri ve süper bilgi işlem. Bilgi işlemin yapay zeka için çok önemli bir itici güç olduğunu hepimiz biliyoruz.Geçmiş yıllarda Baidu, GPU'ların, FPGA'ların ve yapay zeka çipleri üzerinde büyük ölçekli çalışmaların ilk büyük ölçekli dağıtımı dahil olmak üzere bilgi işlem alanında pek çok iş yaptı.
Yapay zeka, veri merkezlerinden uçtan uca genişleyen çok "evrensel" bir bilgi işlem haline geliyor. Tıpkı otonom sürüş alanında olduğu gibi, verileri buluta yerleştiremezsiniz ve akıllı evler, akıllı ulaşım ve akıllı şehirler gibi bilgi işlemi de buluta koyamazsınız.
Geçmişte, bilgi işlem modeli on binlerce makineye sahip bir kümeydi. Tüm makineler ve hesaplamalar oraya yerleştirildi. DataCenter'ın hesaplama bugün hala çok önemli olmasına rağmen, şimdi DataCenter'dan sonuna ve uca doğru genişledi. Bu Yeni bilgi işlem modeli kapsamında, çip mimarisi ve bilgi işlem mimarisine farklı zorluklar sunulmaktadır.
Bugün yaygın yapay zeka hesaplama çağı olduğundan, zorluk genel esneklik, bilgi işlem gücü ve enerji verimliliği arasında çok iyi bir denge sağlamaktır. Herhangi bir şey iyi değilse, mimariniz yalnızca belirli bir senaryoda kullanılabilir, değil Yaygın AI hesaplamasında. Bu üç noktayı tamamladıktan sonra mimari, akıllı bulut, akıllı sürüş, akıllı ulaşım, akıllı ev, Baidu dahili arama ve feed streaming gibi birçok senaryoda kullanılabilir. Baidu, yonga mimarisi yaptığımızda bizi evrensel bir yapay zeka yonga mimarisi yapmaya iten çeşitli senaryolara sahiptir.
"Kunlun" un misyonu, "hesaplamayı daha akıllı" hale getirmek ve üç sorunu çözmektir: 1. Yüksek hesaplama gücü, 2. Yüksek enerji tüketimi verimliliği, 3. Yüksek esneklik ve genellik. Yüksek bilgi işlem gücü, yapay zekanın geliştirilmesinde itici güçtür; yüksek enerji tüketimi verimliliği, veri merkezlerinde, uçlarda ve terminallerde ebedi bir sorundur; aynı zamanda, yapay zeka algoritmaları hızla yineleniyor ve çip mimarisi sistemi çok esnek olmalı ve Çok yönlülük, aksi takdirde "geride kalacak".
Şimdi size üç noktayı anlatacağım: ilk Baidu yapay zeka iş tanıtımı; ikinci Baidu yapay zeka çip mimarisi birikimi ve yineleme; üçüncü özet.
Baidu'nun işi, akıllı ev, akıllı sürüş, bulut vb. Gibi bulut ve terminali içerir. İki sistem vardır: 1. İş için güçlü algoritmalar ve veri desteği sağlayan Baidu Brain; 2. Baidu Akıllı Bulut ABC Cloud, işletmeye sağlar Güçlü bir bulut hizmeti ve bilgi işlem hizmeti.
Yapay zeka çiplerinin tanıtımını sizlerle paylaşmama izin verin Geçen yıl Baidu, Geliştirici Konferansı'nda "Kunlun" yongasını paylaştı, ancak aslında Baidu, son 7 veya 8 yılda çok sayıda AI mimarisi birikimi yaptı. Baidu'nun AIoT, otonom sürüş ve akıllı bulut gibi birçok senaryosu vardır.Bu tür senaryolarda, çiplere olan talep farklıdır. AIoT senaryoları çok düşük güç tüketimi, parçalanmış senaryolar ve uygun maliyetli çipler gerektirir; otomotiv senaryoları güvenlik, yüksek performans ve karmaşık SoC gerektirir; bulut çok yüksek performans, yüksek esneklik ve yüksek maliyet performansı gerektirir. Bu, yaygın AI çip mimarisi yapmak için çok büyük bir zorluktur.
Geçtiğimiz birkaç yılda özetlenen deneyime dayanarak, herkes "Moore Yasası" nın performansı iki katına çıkardığını ve bir buçuk yılda maliyeti ikiye katladığını biliyor ... Şimdi işlemcilerin geliştirme hızı "sıkma diş macunu" gibi. Yıllık artış yalnızca% 10 veya% 20'dir, ancak AI çağında Moore Yasası çok yüksektir Temel olarak, verilerin artışı ve model karmaşıklığının artması da dahil olmak üzere her iki yılda bir kuantum düzeyinde iyileştirme gereksinimleri vardır.
Böylesine büyük bir boşlukla karşılaşan özel işlemciler, gitmenin tek yolu. Son yıllarda, Baidu, Baidu'nun geliştirilmesine uygun bir yapay zeka işlemcisi araştırıyor. 2011 yılı civarında, FPGA tabanlı mimari işlemciler üzerinde çalışıyorduk. Google ve Baidu aynı anda AI mimari araştırmasına yatırım yaptı, ancak herkesin seçim yolu farklıydı. AI FPGA çözümünü seçtik, ancak mimari birikim açısından Ortak birçok şey. Temel olarak 2013'te FPGA, performans AI işlemcisini gerçekleştirdi, 2017'de 10 üst düzey performanslı AI işlemcisine ulaştı. 2018'de Baidu'nun "Kunlun" u piyasaya sürüldü ve performansı eskisinden 30 kat daha verimli olan 260'a ulaştı.
Baidu, AI mimarisi için FPGA kullanan endüstrinin en eski ve en büyük şirketidir. Araştırma ve geliştirmeye 2010 gibi erken bir tarihte başladı. 2011'de küçük ölçekli dağıtımlar başlattı ve 2015'te birkaç binlik dağıtım ölçeğini kırdı. 2017'de 10.000'den fazla FPGA dağıttı. , Baidu'nun dahili veri merkezi, otomatik sürüş sistemi, vb. Tümü büyük ölçekli kullanımdadır.
Hem Baidu hem de Google, 2010 ve 2011 yıllarında yapay zeka işlemcileri araştırdı ve keşfetti. Başlangıçta seçilen yol Google'ınkinden farklı olsa da, mimari keşif ve mimari anlayış açısından benzerdi. Baidu, bir internet şirketi olarak Hot Chips Konferansı'nda 3 bildiri yayınladı ve Çin'de en çok gazete yayınlayan birim.
Baidu ve Google'ın çalışmaları biraz benzer. 2014 yılında, yine daha yaygın olarak kullanılan bir kavram olan "SDA hızlandırıcı" (yazılım tanımlı hızlandırıcı) kavramı önerildi. Hızlandırıcının mimarisi, her aşamada sabit ardışık düzenler ve sabit görevlerle Google TPU V1'de belirtilen mimariye benzer. Baidu mimarisinde, verilerin yeniden kullanımını iyileştirmek için bazı veri önbellekleri olacak ve aynı zamanda yaygın olarak kullanılan bir yöntem olan nispeten büyük bir bilgi işlem dizisi olacak.
GoogleTPU'nun mimarisi bizimkine benzer. Verileri önbelleğe almak, verilerin yeniden kullanımını iyileştirmek için geniş bir yonga üstü arabelleğe sahiptir ve geniş bir bilgi işlem dizisine sahiptir. Bu çok sabit bir ardışık düzen mimarisi ve klasik bir yöntemdir. Bu mimari, eğitim ve çeşitlendirilmiş senaryolar için yeterli olmaktan uzaktır, çünkü dezavantajı çok yönlü ve esnek olmamasıdır.
2017'de, XPU mimarisi önerildi.Bu mimari arasındaki fark, programlamanın esnekliğini ve çok yönlülüğünü büyük ölçüde geliştirmesidir.İki bölüme ayrılmıştır, biri aslında programlanabilir dizi artı programlanabilir vektör hesaplaması olan Özelleştirilmiş Mantıktır. Aynı zamanda, çok iyi düzenlenebilirliği koruyan ve daha karmaşık ihtiyaçları bir arada çözebilen bir işlemci olan birçok küçük çekirdek eklenir. Google ayrıca 2017'de TPU2'nin mimarisini paylaştı. Mimari ile XPU mimarisi arasında pek çok benzerlik var.Değişken hesaplama için küçük bir işlemci olan büyük bir M-katmanlı düzenleme var. Temel olarak, XPU ve TPU2'nin anlaşılması benzerdir. XPU mimarisi iyi çok yönlülüğe, esnekliğe ve yüksek performansa sahiptir.Baidu'nun farklı senaryolarda iyi iş çıkardığını kanıtlayan dahili akıllı bulutunda, otonom sürüşte, AIoT'de vb. Kullanılacaktır.
2017'nin sonunda ve 2018'in başlarında, bir çip oluşturmak için farklı bir yola girmemiz gerektiğini hissettik.Herkes başlangıç noktasını düşünebilir çünkü FPGA'nın AI hesaplaması da iyi yapıldı, ancak seviyesini artırmak için ne istiyoruz? Sadece cips yap.
"Kunlun" yongası, Samsung'un 14m işlem yongasıdır.Yüksek bellek bant genişliğine ve 260top performansına sahiptir. Bu yonga çok yönlü ve esnektir.Çip, eğitim ve çıkarım için kullanılabilir. Bu tam özellikli bir AI çipidir, çünkü XPU'nun işlevsel mimarisi birçok dahili uygulamada doğrulanmıştır ve görüntü, ses, doğal dil işleme, otomatik sürüş, öneri vb. Dahil olmak üzere çevrimiçi olarak dağıtılmıştır. Bunun bir karşılaştırma olduğundan eminiz. Tam özellikli mimari.
Baidu'nun otonom sürüşte çok işi var. Herkes otonom sürüşün bir mobil süper hesaplama düğümü olduğunu bilir. Uygulamalar için otonom sürüş alanına "Kunlun" u koyacağız. Otonom sürüş açısından işlevsel güvenlik de gereklidir. XPU'nun güçlü hesaplamasını kullanacağız. Yetenekler artı RTDS, yüksek hassasiyetli haritalar, algı, sensörler vb. Dahil olmak üzere araba ile ilgili şeyler.
Kısaca özetlemek gerekirse, Baidu, AI hızlandırıcı ve işlemci araştırma ve geliştirme ile büyük ölçekli dağıtım konusunda 8 yıldan fazla deneyime sahiptir ve çevrimiçi olarak 10.000'den fazla FPGA tabanlı AI hızlandırıcıyı devreye almıştır. Birçok nesil mimari birikim ve keşiften sonra, en eski SDA'dan Daha sonra XPU Kunlun'a geldi ve çok fazla deneyimimiz oldu. Az önce sizlerle paylaştım ki mimarinin birikimi ve yinelemesinin Google'ın mimarisiyle pek çok benzerliği var Bu, İnternet şirketlerinin bu alandaki mimari ve yongalar konusunda tutarlı bir anlayışa sahip olduğunu gösteriyor.
XPU'nun bulutta, otonom sürüşte ve uç bilgi işlemde kullanılabilen evrensel bir yapay zeka bilgi işlem mimarisi olduğuna inanıyoruz.Yüksek bilgi işlem gücü, çok yönlülük ve esnekliğe sahiptir. "Kunlun", XPU mimarisine dayalı bir yapay zeka işlemcisidir. Geçen yıl "Kunlun" haberi yayınlandı. Bu yıl, "Kunlun" Baidu içinde büyük ölçekte kullanılacak. Baidu "Kunlun", bilgisayarı daha akıllı hale getiriyor. hepinize teşekkür ederim!
