Yapay zeka hesaplama hızlandıkça, NVIDIAnın "hendeği" eğitimden çıkarıma doğru genişliyor
Bir hafta önce düzenlenen GTC konferansının açılış konuşmasında, Nvidia CEO'su Huang Renxun, grafik hesaplama, bilimsel keşif, yapay zeka ve robotik gibi dört ana tema üzerine Nvidia'nın bir dizi yeni ürün ve teknolojik geliştirmesini dünya ile paylaştı.
Şekil Dört tema
Bu yeni dinamiklerden geçen güçlü bir sinyal, Nvidia'nın teknik engellerini eğitimden çıkarıma genişletmek için çok çalıştığıdır. Bu, özellikle Nvidia ve ARM arasındaki işbirliğine yansıyor.
Yapay zekanın geliştirilmesinin bu iki aşamaya ayrılabileceğini hepimiz biliyoruz.Birincisi, makine öğrenimi teknolojisi ile çok sayıda örnek veriye sahip algoritmaları eğitmek, ikincisi ise gerçek dünya verilerine bağlı terminal cihazlarda algoritmalar yürütmek. Bunların arasında ilk aşama eğitim, ikinci aşama ise çıkarımdır. Terminal cihazlarda muhakeme yapmanın faydaları arasında gecikmeyi ve güç tüketimini azaltmak ve gizlilik sorunlarından kaçınmak yer alır ve bu, endüstride oldukça aranan bir yön haline gelmiştir.
Nvidia ve ARM arasındaki en son işbirliği, dünya çapında milyarlarca Nesnelerin İnterneti (IoT) cihazı için derin öğrenme çıkarım yetenekleri sağlamaktır.
Anlaşmaya göre, iki taraf, açık kaynak "NVIDIA Deep Learning Accelerator (NVDLA)" mimarisini ARMün Project Trillium makine öğrenimi platformuna entegre edecek ve IoT yonga şirketlerinin yapay zekayı tasarımlarına kolayca entegre etmesini sağlayarak onlarca küresel Yüz milyonlarca tüketici akıllı ürünleri uygun fiyatlarla satın alabilir. NVDLA, Nvidia'nın ücretsiz ve açık bir mimarisidir. Otonom bir yonga üzerinde makine sistemi tasarımı olan Xavier'e dayanır ve derin öğrenme çıkarım hızlandırıcılarını tasarlamanın standart yöntemini teşvik etmeyi amaçlamaktadır.
Şekil Deepu Talla
GTC sırasında NVIDIA'nın küresel başkan yardımcısı ve otonom makine bölümünün genel müdürü Deepu Talla da işbirliğini yorumladı ve IoT cihazları için akıl yürütmenin önemini vurguladı.
"Veri merkezinde ve bulutta halihazırda çıkarım yapıyoruz. Bu tür bir çıkarımın, ister bağımsız bir araç ister bir robot olsun, terminalde de gerçekleştirilmesi gerekiyor. Çıkarım, gelecekte her IoT cihazının temel işlevi haline gelecektir" dedi, "Nvidia kararlıdır. Tasarımı daha yapılandırılmış hale getirmek için, çünkü ne kadar çok cihaz olursa, o kadar fazla uygulama. "
Nvidianın hareketi aslında terminal ekipman pazarının çok farklı olduğunu gösteriyor.Müşterinin ihtiyaçlarını tek başına yaparak veya yalnızca bir çipe güvenerek karşılamak imkansız. Ancak, terminal ekipman pazarının ölçeği oldukça cazip ve Nvidia'nın buna göz yummaması imkansız. Market. Bu aslında günümüzdeki akıllı telefon pazarına çok benziyor.
AI yongalarının üç ana uygulama seviyesinde: eğitim katmanı, bulut çıkarım katmanı ve terminal cihaz çıkarım katmanı, NVIDIA'nın eğitim katmanındaki tekelini sarsmak zordu, ancak çıkarım katmanında ve terminal cihaz katmanında iyileştirme için hala çok yer var.
Şekil NVDLA çekirdek dahili mimarisi
Dahası, uzun vadede, çıkarım çiplerinin pazar büyüklüğü muhtemelen eğitimden çok daha büyük olacaktır.Nvidia, AI liderliğini eğitimden çıkarıma kadar açık kaynak DLA aracılığıyla genişletiyor.
Bu iyi bir stratejidir. Şimdi, Nvidianın CUDA GPU platformunda halihazırda birçok AI geliştirici eğitim modeli var ve birçoğu yine de ilk çıkarım modeli geliştirme aracı olarak DLA'yı seçmelidir. Sonuçta, yapay zeka uzmanlığı veya teknik genişlik açısından, başka hiçbir derin öğrenme hızlandırıcı tedarikçisi bunu başaramaz.
Genel olarak Nvidia, oyun pazarından veri merkezlerine, otonom araçlara, akıllı şehirlere ve diğer alanlara hızla ilerleyen, GPU alanındaki avantajları ile senaryolarını kademeli olarak genişletiyor ve ayrıca bulut eğitiminden terminal çıkarım pazarına doğru kademeli olarak genişlemesi bekleniyor. Buluttan uca bu stratejik genişleme başarılı olursa, NVIDIA'nın pazar alanı da önemli ölçüde genişleyecektir.
