Facebook'un "yeni nesil AI bilgi işlem platformu" neye benziyor?
Leifeng.com AI Teknolojisi Yorumu: Bir sosyal ağ devi olarak, Facebook'un uygulama ve hizmetleri serisi her ay 2,7 milyar kullanıcıya hizmet vermektedir. Son yıllarda yapay zeka patlamasıyla birlikte Facebook, veri merkezindeki birçok genel amaçlı bilgi işlem donanımını kademeli olarak daha iyi performans, güç tüketimi ve verimlilik sağlayan özel donanıma geçirmeye başladı.
Dün (14 Mart, ABD saati), Facebook "yeni nesil" AI modeli eğitim donanım platformu Zion'u halka tanıttı ve ayrıca diğer iki tür bilgi işlem için özelleştirilmiş ASIC (uygulamaya özel entegre devre) yongalarını tanıttı: Yapay zeka muhakemesi için Kings Canyon ve video kod dönüştürme için Mount Shasta. Bu yeni tasarımlar temel olarak üç tür hesaplamayı hedefliyor: AI çıkarımı, AI eğitimi ve video kod dönüştürme. Bu hesaplamalar sadece ağır değil ve özel donanıma geçiş önemli ölçüde gelişti, aynı zamanda Facebook'ta hızla genişleyen hizmet türleri.
Çağdaş yapay zeka donanımından yeni nesil yapay zeka donanımına
Facebook, uzun zamandır iş dünyasında bilgi işlem için yapay zeka modellerini büyük ölçekte kullanıyor. Bu modeller her gün bir trilyondan fazla tahmin ve altı milyardan fazla dil çevirisi yapıyor. Facebook tarafından içeriği tanımlamak ve sınıflandırmak için kullanılan görüntü tanıma modeli de 3,5 milyardan fazla görüntü kullanılarak eğitildi. Yapay zeka kullanan çeşitli hizmetler, kullanıcıların günlük olarak daha iyi iletişim kurmalarına yardımcı olur ve ayrıca onlara benzersiz ve kişiselleştirilmiş bir deneyim sunar.
Facebook'un kendi geliştirdiği AI platformu FBLearner, Facebook'un mevcut AI modeli ardışık düzeninin çoğunu yönetiyor. FBLearner, özellik depolama, eğitim süreci yönetimi, akıl yürütme motoru yönetimi ve problemin diğer ilgili kısımları için araçlar içerir. Buna ek olarak Facebook, FBLearner ile birlikte Facebook geliştiricilerinin modelleri büyük miktarlarda hızlı bir şekilde dağıtmasını sağlayan "Açık Hesaplama Projesi" (OCP) temelinde kendi donanımını da tasarladı.
Facebook, bilgi işlem ölçeğinin mevcut acil sorununu çözdükten sonra, araştırma ve geliştirmeye odaklanmaya devam ediyor. Nihai hedef, yalnızca tedarikçiler için şeffaf değil, aynı zamanda Facebooku yansıtmaya devam eden geleceğe yönelik ve güvenilir bir donanım tasarımı oluşturmaktır Çalışma verimliliğini en üst düzeye çıkarmak için ayrı tasarım konsepti. Facebook'un yanıtı, yeni nesil eğitim ve çıkarım donanım platformudur. Leifeng.com AI Teknoloji İncelemesinin kısa bir tanıtımı aşağıdaki gibidir.
Zion ile AI eğitimi
Zion, Facebook'un yeni nesil büyük kapasiteli birleşik eğitim platformudur. Amaç, gelecekte daha büyük bilgi işlem yükünü verimli bir şekilde taşımaktır. Zion, CNN, LSTM ve seyrek sinir ağı gibi çeşitli sinir ağı modellerinin nasıl verimli bir şekilde işleneceğini düşündü. Zion platformu, yüksek bellek kapasitesi, yüksek bant genişliği ve esnek yüksek hızlı dahili bağlantılar sunarak Facebook içindeki önemli iş yükleri için güçlü bilgi işlem yetenekleri sağlayabilir.
Zion'un tasarımı, Facebook'un yeni tedarikçi şeffaf OCP hızlandırma modelini (OAM) kullanıyor. OAM'ın rolü, Facebook'un AMD, Habana, Graphcore, Intel, Nvidia vb. Gibi birçok farklı donanım satıcısından donanım satın almasıdır. Yerel inovasyon, Facebook'un farklı donanım platformları ve aynı raftaki farklı sunucular arasında yalnızca bir kabin ağ anahtarı aracılığıyla serbestçe genişlemesine de izin verebilir. Facebook'un AI eğitim yükü artmaya ve daha karmaşık hale gelmeye devam etse bile, Zion platformu genişletilebilir ve kullanılabilir.
Özellikle, Facebook'un Zion sistemi üç bölüme ayrılabilir: sekiz yollu bir CPU sunucusu, bir OCP hızlandırma modülü ve sekiz OCP hızlandırma modülü kurabilen bir platform anakartı.
Zion platformu, sistemdeki bellek, bilgi işlem ve ağ bileşenlerini ayırmak için tasarlanmıştır ve ardından her öğe bağımsız olarak genişletilebilir. Sistemdeki sekiz yollu CPU platformu, seyrek sinir ağlarının gömülü tabloları gibi bellek kapasitesi için yüksek gereksinimlere sahip iş yüklerine hizmet etmek için büyük bir DDR bellek havuzu sağlayabilir. Daha yoğun CNN veya seyrek sinir ağları için, bant genişliğine ve hesaplama gücüne daha duyarlıdırlar, bu nedenle hızlanmaları her bir CPU'ya bağlı OCP hızlandırıcı modülüne bağlıdır.
Sistem iki yüksek hızlı kablo içerir: biri tüm CPU'ları birbirine bağlar ve diğeri tüm hızlandırıcıları birbirine bağlar. Hızlandırıcının yüksek bir bellek bant genişliğine ve düşük bellek kapasitesine sahip olması nedeniyle, Facebook mühendisleri toplam bellek kapasitesini verimli bir şekilde kullanmanın bir yolunu düşündüler: modeli ve belleği belirli bir dereceye kadar bölün ve daha sık erişilen veriler hızlandırıcının belleğinde saklanır. Diğer yandan, sık erişilmeyen veriler CPU'nun DDR belleğinde saklanır. CPU ve hızlandırıcı arasındaki tüm hesaplamalar ve iletişimler dengelenecek ve yüksek hızlı ve düşük hızlı ara bağlantı hatları aracılığıyla verimli bir şekilde yürütülecektir.
Kings Canyon ile yapay zeka muhakemesi
Artan AI eğitim yüküne karşılık gelen AI muhakeme yükü de hızla artıyor. Yeni nesil tasarımda, Facebook ve Esperanto, Habana, Intel, Marvell, Qualcomm ve diğer şirketler, genişletilmesi ve dağıtılması kolay özel ASIC yongalarını ortaklaşa geliştirmek için işbirliği yapıyor. Kings Canyon çipi, hem çıkarım hızını vurgulayan INT8 (8-bit tamsayı) hesaplamalarını hem de daha yüksek hassasiyeti vurgulayan FP16 (yarı kesinlikli kayan nokta) hesaplamalarını destekleyebilir.
Kings Canyon yongası, M.2 özellikli bir devre kartına monte edilmiştir; her Glacier Point v2 anakartı altı Kings Canyon yongasıyla donatılmıştır; son olarak, iki Glacier Point v2 anakart ve iki tek soketli sunucu, eksiksiz bir Yosemite sunucusu.
Facebook'un video kod dönüştürme ASIC çipi Mount Shasta da bu düzenlemeyi benimsedi.
sonuç olarak
Facebook tarafından verilen şema ve tanıtıma göre, şu anda yalnızca AI eğitim platformu Zion'un kullanıma sunulduğu ve AI çıkarım çipi Kings Canyon, video kod dönüştürme çipi Mount Shasta ve ilgili donanım henüz gerçek ürünleri görmemiş gibi görünüyor. Ancak Facebook bu tasarıma güven duyuyor. Gelecekte, daha geniş bir işbirliğini kolaylaştırmak için tüm tasarımları ve ilgili özellikleri OCP aracılığıyla açıklayacaklar; Facebook ayrıca tüm sistemin yazılım ve donanım tasarımını iyileştirmek için mevcut ortaklarla birlikte çalışacak.
Daha ayrıntılı talimatlar için lütfen resmi Facebook tanıtımına bakın: https://code.fb.com/data-center-engineering/accelerating-infrastructure/, Leifeng.com AI Teknolojisi İnceleme Raporu
