10 milyardan fazla görüntü kod dönüştürme, TCO% 40 azaltıldı: Tmall Double 11'in arkasındaki bilgi işlem çaylağını ortaya çıkarıyor
2018'de Tmall Double 11, teknolojik dünyada birçok yeni rekor kırdı. Bir rekor, 11. günde Alibaba'nın tüm platformdaki kullanıcılar için 45,3 milyar kişiselleştirilmiş tavsiyede bulunmasıydı. Önerilen bu resimlerin uzunluğu dünyanın etrafında 70 kez dolaşabilir.
Tmall / Shopping üzerinden satın aldığınızda ve satın aldığınızda, resimler farklı formatlarda veya çözünürlüklerde dönüştürülecektir. Bu, arka plan sisteminin olağan kod dönüştürme gereksinimlerinin birkaç katını garanti etmek için güçlü hesaplama gücü gerektirmesini gerektirir. FPGA, programlanabilir yongalarda bu tür paralel bilgi işlem için en iyi enerji tüketim oranı çözümüdür. Bir zamanlar çok soğuk olan "Wang Xie Tang Qianyan", bulut bilişimin değer katmasıyla giderek daha fazla teknolojik yeniliği güçlendiriyor .
Bu yılki XDF 2018 konferansında Alibaba Cloud mühendisleri, Alibaba Cloud FPGA platformu "Shuntian" ın gizemini sektöre ilk kez açıkladı ve bu yeni bulut bilişim hızlandırma motoru parlamaya başlıyor.
FPGA'yı Tanıyın: Hesaplamayı Hızlandırmak için Yeni Bir Motor
FPGA'nın en büyük özelliği, doğrudan donanım programlamasına dayalı olması ve yüksek verim ve düşük gecikme özelliklerine sahip olmasıdır.Veri paralel kanallarını ve eksiksiz boru hattı paralelliğini kolayca oluşturabilir.ASIC'lerle karşılaştırıldığında yazılım programlanabilirliği ve esnekliği vardır. Yapay zeka ve büyük bilgi işlem gücü için katı gereksinimleri olan ve hala hızlı bir yineleme döneminde olan diğer senaryolara mükemmel bir şekilde uyum sağlayabilir.
FPGA yetenek modeli
Bununla birlikte, geleneksel FPGA çevrimdışı geliştirme süreci çok zahmetlidir. IP sağlayıcıları veya çözüm entegratörleri için, tanıtımı zor ve pahalı olan kendi donanımlarını geliştirmeleri ve sürdürmeleri gerekir. Müşteriler için, geliştirme sırasında donanım bağlantıları atlanamaz, bu da yüksek deneme yanılma maliyetleri ve uzun döngülerle sonuçlanır.
FPGA + bulutu, bu sorunlara en iyi çözümdür. Bir Alibaba Bulut mühendisi olan Zhang Zhenxiang'a göre, "Shuntian" platformu geleneksel FPGA endüstri zincirinde birden fazla bağlantıyı entegre ediyor: orijinal yonga üreticilerinden, donanımlardan, IP tedarikçilerinden vs., bunlar platform kaynaklarına paketleniyor, böylece müşteriler hesaplamaya odaklanabiliyor. IP sağlayıcıları, teslimat sürecini basitleştirebilir ve teslimat döngüsünü ve işletme maliyetlerini büyük ölçüde optimize edebilir.
Ağustos 2017'den itibaren "Shuntian" üç nesil ürün yinelemesinden geçti ve yeni başlatılan F3 serisi örnekler 10 milyondan fazla mantık birimi ve 47 TeraMAC DSP hesaplama gücü sağlayabilir.
Örnek olarak zaman serisi veritabanını ele alırsak, Sainty platformunun işlem verimliliği CPU'nunkinden 30 kat daha yüksektir: tek bir FPGA ile elde edilen ölçülen en yüksek performans, yaklaşık 90M / s'lik tek çekirdekli bir CPU sıkıştırmasının ölçülen performansına kıyasla 2,97 GB / s'dir. s. Görüntü tanıma senaryosunda, Sainty F3 tarafından sağlanan bilgi işlem gücü yaklaşık olarak 7 CPU sunucusuna eşdeğerdir ve bu da Capex maliyetlerini büyük ölçüde azaltır CPU sunucuları ile karşılaştırıldığında, TCO% 40'tan fazla azalır.
Dahası, bu yetenek genişletilebilir.Geliştiriciler, yüksek performanslı bilgi işlem ve makine öğrenimi ile uğraşırken, birlikte hesaplamak için genellikle birden çok yongaya ihtiyaç duyarlar. "Shuntian" çeşitli yüksek hızlı arayüzler sağlar, 1/2/4 çip ara bağlantı topolojisini tamamlayabilir ve dinamik yapılandırmayı destekler. Karttaki çift çipli iletişimi örnek olarak alın, bant genişliği 600 Gbps'ye kadar ve aynı anda birden fazla hafif iletim protokolünü% 95'lik bir iletim verimliliği ile destekler.
Gerçeğe bir bakış: savaşta test edilmiş Titanlar
Alibaba içinde "Shuntian", Double 11, kentsel beyinler, zamanlama veritabanları, yüksek tanımlı video kodlama ve kod çözme ve FPGA hızlandırma içeren diğer yıldız işletmeleri dahil olmak üzere süper büyük bilgi işlem senaryolarını destekleyerek aslında savaş alanında olmuştur.
Double 11'i örnek olarak alın, müşteriler ürünlere Taobao / Tmall APP veya web terminali üzerinden göz attığında, resmin
Farklı formatlarda veya çözünürlüklerde sunum yapın. Sainty platformunun paralel hesaplama yeteneği, görüntü işlemenin gecikmesini doğrudan azaltır
CPU sunucusunun% 50'sine düşürülen iş hacmi kapasitesi birkaç kez artırıldı.
Gen arenasında "Shuntian" çok iyi performans gösterdi. 100Gbp'lik tüm genom analiz süresi iki saate indirildi, hız geçmişe göre 10 kat artırıldı ve birim maliyet büyük ölçüde düşürüldü. Tüm gen, bir türün hücresindeki tüm genom dizisinin ilk DNA'dan son DNA'ya kadar analizini ifade eder.Bu teknik, genomdaki hemen hemen her tür mutasyonu tanımlayabilir.
Karmaşıklığı basitleştirin: geliştirme eşiğini büyük ölçüde azaltın
Geleneksel yazılım mühendislerinin gözünde FPGA yonga geliştirme eşiği çok yüksek, bir yandan HDL donanım programlamasını anlamaları, diğer yandan da temeldeki donanım ve arayüzleri iyi bilmeleri gerekiyor.
Bu XDF konferansında Alibaba Cloud mühendisi Pan Yue, Shuntian platform çözümlerini tanıttı.
Her şeyden önce, "Shuntian", C, C ++, OpenCL vb. Dahil olmak üzere üst düzey sistem dilleri için destek ekledi. Bu, geliştiricilerin aşina oldukları programlama dilini ve iş akışını sorunsuz bir şekilde kullanabilecekleri ve orijinal CPU veya GPU tabanlı geliştirmenin bulut üzerindeki FPGA cihazlarına kolayca taşınabilmesini sağlayacakları anlamına gelir. Alibaba Cloud aynı zamanda, geliştiricilerin sistemleri hızlı bir şekilde oluşturmalarına yardımcı olmak için çok sayıda referans tasarımı ve geliştirme kiti de sağlıyor.
Arayüz açısından "Shuntian", aşağıdakileri içeren birleşik bir standart veri yolu arayüzü sağlar: DDR4 / 5, PCIe, DMA, vb. Geliştiricilerin bunu yapması gerekmez, yalnızca dahili mantık uygulamasıyla ilgilenmeleri gerekir (şekildeki gri kısım).
Alibaba Cloud ayrıca, platformlar arası Çoklu önyükleme çözümüne uyarlanabilen ve kullanıcıların platformlar arası geçişi kolayca tamamlamasına olanak tanıyan çeşitli ana akım FPGA'ların Shell + Rol uygulamasını da destekler.
IP şifreleme yalıtımı: güvenlikten taviz verilmez
FPGA ekosisteminin en önemli parçası olan IP satıcıları, buluttaki çok kiracılı ortam konusunda çok endişelidir. IP ürünlerinin sızdırılmamasının yanı sıra kullanıcılar tarafından satın alınan IP'nin sadece kendileri tarafından kullanılabilmesini sağlamak gerekir.
Bu amaçla, Alibaba Cloud, kullanıcının kaynak kodunun (veya IP kaynak kodunun), sürüm paketinin ve dağıtım ortamının sağlık sağlarken üçüncü taraflara tamamen görünmez olmasını sağlamak için IP şifreleme, ağ izolasyonu ve IP sahipliği ve kullanım haklarının ayrılması gibi yöntemleri benimser. İzleme yeteneği, altta yatan arızaları zamanında algılama ve gerçek zamanlı alarm.
Sainty platformuna yerleşen ilk IP sağlayıcılarından biri olan Lianjie Computing Technology, CTAccel CEO'su Dr. Yu Haile şunları söyledi: "Buluta gittikten sonra en çok endişe duyduğumuz sorun güvenliktir. Alibaba Cloudun güvenlik izolasyonu çok iyi yapıldı ve bu da bizim ilk tercihimiz. Alibaba Cloudun dağıtımının nedeni. "
Değişmeyen misyon: kapsayıcı ve heterojen bir ekosistem oluşturmak
Bundan önce, Alibaba Cloud'un sloganı insanların kalplerinde derin bir şekilde kök salmıştı ve hesaplanamaz bir değer uğruna kapsayıcı hesaplamayı aktif olarak vaaz etti. Heterojen bilgi işlem bağımlılıklarının ortaya çıkmasından bu yana, geliştiriciler Alibaba Cloud üzerinde daha güçlü GPU / FPGA örneklerini daha düşük bir fiyata kullanabilir ve derin öğrenme alanında geliştirme maliyetlerini yarıdan fazla azaltabilir.
Alibaba Cloud, daha fazla geliştiricinin FPGA'ların avantajlarından yararlanmasını sağlamak için FPGA elastik bulut sunucularını piyasaya sürdü ve yenilikçi fikirlere ve olgun çözümlere sahip IP ürünlerinin platformda öne çıkmasına, pazar ölçeğini genişletmesine ve Ar-Ge'yi hızlandırmasına olanak tanıyan bir FPGA yansıtma pazarı kurdu. İlerleyin ve tasarım istikrarını iyileştirin.
Zhang Zhenxiang, "Shuntian, Alibaba Cloud için yapay zeka endüstrisini etkinleştirmek için harika bir araçtır. Daha fazla geliştiricinin Alibaba Cloud FPGA ekosistemine katılmasını ve teknolojinin sektöre uygulanmasını teşvik etmesini memnuniyetle karşılıyoruz." Dedi.
