"AI çip savaşı" Google TPU, bir ekibin 335 milyar dolarlık yarı iletken endüstrisini altüst etmesine yol açtı
1 Xinzhiyuan raporu
Yapay zeka teknolojisinin yükselişi, özellikle de derin öğrenme, büyük şirketlerin doldurulması gereken bilgi işlem boşluğunu fark etmelerine neden oldu. Giderek daha fazla sayıda araştırmacı, bilgi işlemin doğasını yeniden düşünmeye, insan beyninin bilgiyi işleme yönteminden ilham almaya ve yeni donanım mimarileri yaratmaya başlıyor.
Yıllarca süren durgun gelişimden sonra, bilgisayarlar bir kez daha gelişmeye başladı ve sonuçlar daha geniş kapsamlı, hızlandırıcı yapay zeka olacak ve makinelerin çevrelerindeki dünyayı insanlar gibi algılamasına, dinlemesine ve konuşmasına, görmesine ve yazmasına ve hatta daha fazlasına olanak tanıyacak. . Bu yıllardır birçok bilim adamının hayaliydi ve şimdi bize gerçekçi bir görünümle yaklaşıyorlar.
Daha geçen hafta, "New York Times" "Bilgisayarlar İnsan Beyninden Tasarım İpuçları Elde Ediyor" başlıklı uzun bir makale yayınladı ve mevcut AI çip endüstrisini gösteren, Google, Microsoft vb. Özel çipler üzerinde geleneksel çip şirketleri olmadığını yazmaya odaklandı. akım. Özel çiplere ve yeni bilgi işlem mimarilerine yönelik bu eğilim, yapay zekanın "Kambriyen Büyük Patlamasını" da beraberinde getirebilir.
Stanford Üniversitesi eski başkanı ve bilgisayar mimarisi ustası John Hennessy, NYT muhabirleri tarafından Google'ın ana şirketi Alpahbet'in mevcut yönetim kurulu üyesi olarak röportaj yaptı. Hennessy, "Mevcut yöntemler artık yeterli değil. Herkes sistem mimarisini yeniden tasarlamaya çalışıyor."
Daha karmaşık sistemleri güncelleyin, daha küçük ve daha özel çipler, daha düşük enerji tüketimi, daha yüksek hızlar ... Hesaplama miktarını çok sayıda küçük, düşük güçlü çiplere genişletin, insan beyni gibi çalışır ve sürekli olarak yeni teknolojiler geliştirilmektedir. Hennessy'nin dediği gibi, bilgisayar yarı iletkenlerinin sınırını ilerletmek: "Bu çok büyük bir değişiklik olacak."
Google: Yanlışlıkla kara at, TPU'yu savaş alanına derecelendirin
Google'ın devasa veri merkezi, şüphesiz sektörün kanadıdır ve burada meydana gelen değişiklikler, sektördeki diğer sektörlerin gelişme eğilimini de göstermektedir. Google'ın sayısız sunucusunda, hala bir merkezi işlem birimi var, ancak aynı zamanda, konuşma tanıma ve görüntü sınıflandırma gibi yapay zeka uygulamalarını çalıştırmak için birlikte çalışan çok sayıda özelleştirilmiş yonga da var.
Google, 2011 yılında, her kullanıcının derin öğrenme ses tanıma modeline dayalı sesli arama hizmetini günde 3 dakika kullanması durumunda mevcut veri merkezini ikiye katlaması gerektiği hesaplamasını yaptı.
Google'ın altyapı başkan yardımcısı Urs Hölzle'ye "Başka bir Google'a ihtiyacımız var."
Daha güçlü ve verimli işlem çiplerine ihtiyaçları var. GPU ideal bir derin öğrenme çipi Google da Nvidia'nın GPU'sunu kullanıyor ancak bu yeterli değil, daha hızlı ve daha verimli çipler istiyorlar. Tek bir GPU çok fazla enerji tüketmez, ancak Google'ın milyonlarca sunucusu gece gündüz çalışıyorsa, enerji tüketimi ciddi bir sorun haline gelecektir.
Jeff Dean, Google'ın kendi yapay zeka çipine ihtiyacı olduğunu fark eden ilk kişilerden biriydi. Sağ tarafta, Google'ın kendisi tarafından geliştirilen özel bir çip TPU var. Kaynak: Ryan Young / NYT
Google, geçen yıl I / O konferansında kendi AI chip-tensor işlemcisi TPU'yu (birinci nesil) piyasaya sürdü. Google, bazı uygulamalardaki düşük kullanım oranına rağmen, orijinal TPU'nun o sırada GPU veya CPU'dan ortalama 15-30 kat daha hızlı olduğunu ve performans-güç oranının (TOPS / Watt) yaklaşık 30-80 kat daha yüksek olduğunu söyledi.
Bu yılın Mayıs ayında düzenlenen I / O konferansında Google, 180TFLOPS / sn'lik en yüksek performansa sahip ikinci nesil TPU'yu piyasaya sürdü. Birinci nesil TPU yalnızca çıkarımı hızlandırır, ancak ikinci nesil TPU bir eğitim işlevi ekler. Yalnızca bu da değil, Google kullanıcıları ayrıca özel bir ağ aracılığıyla bulutta makine öğrenimi süper bilgisayarları oluşturmak için TPU'yu kullanabilir.
İkinci nesil TPU'da, her TPU, Google'ın "TPU Kapsülü" (TPU POD) adını verdiği bir makine öğrenimi süper bilgisayarını oluşturan özelleştirilmiş bir yüksek hızlı ağ içerir. Bir TPU kabini, o sırada piyasadaki en iyi 32 GPU'dan 4 kat daha hızlı, 11,5 petaflop'a kadar kayan nokta işlemi, 4 milyon megabayt bellek sağlayabilen 64 adet ikinci nesil TPU içerir.
Cloud TPU'nun en büyük yararı, Google'ın açık kaynak makine öğrenimi çerçevesi TensorFlow'dur. TensorFlow artık Github'daki en popüler derin öğrenme açık kaynak projesidir. Cloud TPU'nun ortaya çıkmasından sonra, geliştiriciler ve araştırmacılar bu TPU'ları programlamak için gelişmiş API'ler kullanır, böylece makine öğrenimi modelleri CPU, GPU veya Cloud TPU üzerinde daha kolay eğitilebilir. Ve sadece birkaç kod değişikliği gereklidir.
Nvidia: GPU bilgi işlem çağı
Halka açıldığından bu yana geçen 17 yıl içinde, Nvidia'nın hisse senedi fiyatı 35 ABD doları arasında seyrediyor ve Tegra serisi işlemcileri de akıllı telefonlar alanında ılımlı. Bununla birlikte, 2015'ten bu yana, Nvidia'nın hisse senedi fiyatı, otomotiv ve derin öğrenme alanlarındaki derin yerleşimi sayesinde mobil işlemci pazarının bulanıklığını ortadan kaldırarak yükseldi ve tarihsel olarak 100 doları (yaklaşık 60 milyar dolarlık bir piyasa değerine karşılık gelir) aştı.
Otonom sürüş alanında NVIDIA, Tegra işlemciye dayalı DRIVE PX ve DRIVE PX2 otonom araç bilgi işlem platformlarını arka arkaya piyasaya sürdü ve otonom sürüş teknolojisini geliştirmek için Tesla, Audi, Bosch ve diğer otomobil şirketleriyle işbirliği yapmaya başladı. 2017'de CES, DRVIE PX2 ile donatılmış NVIDIA BB8 sürücüsüz prototip arabayı piyasaya sürdü.
Görüntü işleme, GPU'nun doğduğu aşamadır Nvidia'nın GPU'su, derin öğrenme algoritması hızlandırmayı destekleyen en iyi işlemcidir. Nvidia, ARM ve Geforce tabanlı bir mobil işlemci olan Tegra'yı 2008 yılında piyasaya sürdü. Daha sonra, bu işlemci serisinin görüntü işlemedeki büyük avantajları nedeniyle, daha yüksek görüntü işleme gereksinimleri ile oyun konsolu ve tablet pazarını hızla işgal etti ve ardından Yıllar içinde sürekli güncellenir ve yükseltilir.
Carnegie Mellon Üniversitesi'nden Profesör Lan Lane bir keresinde şöyle demişti: "GPU yardımıyla, önceden kaydedilmiş ses veya multimedya içeriğinin kopyalama hızı büyük ölçüde artırılabilir. CPU yazılımı ile karşılaştırıldığında, tanıma görevimizin hızı 33 kat artırılabilir." Makine öğrenimi alanında, GPU tarafından sağlanan güçlü paralel hesaplama gücü, büyük öğrenme verilerini işlemek için kullanılır ve CPU, diğer mantığı tamamlamak için kullanılır. Tegra serisi işlemcilerin yüksek kaliteli özellikleri, NVIDIA'yı birçok makine öğrenimi sistemi için ilk tercih haline getirir.
Microsoft: bilgisayara görsel-işitsel öğretme
2010'da Microsoft, insanların arama sonuçlarını iyileştirmek için hizmeti nasıl kullandıklarını analiz ederek Bing'i iyileştirmek için makine öğrenimi algoritmalarını kullanmaya başladı. Bu algoritmalar, sinir ağlarını daha sonra yeniden tasarlamaktan daha az talepkar olsalar da, çip bağlantısında hala zorluklarla karşılaşırlar: Intel CPU'larda çalışan Windows gibi yazılımlar oluşturmak, yazılım çipi yeniden programlayamaz çünkü yalnızca belirli bağlantıları yürütebilir. görev.
Noel döneminde, Microsoft Araştırma mühendisi Doug Burger, arama motoru Bing'i donanım seviyesinden hızlandırmaya çalışmak için diğer Microsoft çip araştırmacılarıyla birlikte çalıştı. Burger ve ekibi birkaç seçeneği araştırdı, ancak sonunda sahada programlanabilir bir kapı dizisi FPGA'yı benimsedi: yeni bir iş için yeniden programlanabilen bir çip Bu projeye Catapult Projesi adını verdiler.
Microsoft, FPGA kullanarak çipin çalışma şeklini değiştirebilir. Çipi, belirli makine öğrenimi algoritmalarını yürütecek şekilde programlayabilir. Ardından, çipin gerçek çalışma mantığını yeniden programlayabilir ve bilgisayar ağına milyonlarca ve milyonlarca veri paketi gönderebilir. Aynı çipe dayalıdırlar, ancak farklı davranabilirler.
Microsoft, 2015 yılında çok sayıda FPGA yongası kurmaya başladı. Şimdi, Microsoft veri merkezine yüklenen her yeni sunucu programlanabilir yongalardan birini içerir. Kullanıcıların Bing ararken sonuçları seçmelerine, Azure'a ve bulut bilişim hizmetlerine yardım etmelerine, temel makine ağının bilgilerinin çaprazlamasına yardımcı olurlar.
2016 sonbaharında, Microsoft araştırmacıları, makinelerin konuşulan kelimeleri sıradan insanlardan daha doğru bir şekilde tanımasına yardımcı olmak için bir sinir ağı kurdular. Ekip, Microsoftun ilk Çinli "Küresel Teknoloji Akademisyeni" ve baş ses bilimcisi Huang Xuedong tarafından yönetildi. En son endüstri standardı Santral konuşma tanıma karşılaştırma testinde, Microsoft bu teknolojik atılımı% 6,3'e kadar düşük bir kelime hata oranıyla (WER) elde etti; bu, IBM'in ulaştığı% 6,6 WER'den% 0,3 daha düşük ve konuşma tanıma alanında mevcut hata oranına ulaştı En düşük seviye.
Kaliforniya, Palo Alto'da eski arkadaşı Huang Renxun ile akşam yemeğini kutladı. Çünkü bunun arkasındaki kahraman, sıradan Intel yongaları yerine Nvidia tarafından sağlanan çok sayıda profesyonel yonga eğitimi ses tanıma hizmetinden geliyor. Bu tür değişiklikler yapılmazsa, atılımları imkansızdır.
Huang Xuedong bir keresinde şöyle demişti: "Eğer çipli silahlarımız yoksa, bu ilerleme en az beş yıl ertelenecek."
Microsoft'tan Huang Xuedong (solda) ve Doug Burger, şirketin içerik geliştirme çiplerinde liderdir. Kaynak: Ian C. Bates / NYT
Bilgi işlem gücü açısından, Ignite 2016 konferansında Burger ve Microsoft CEO'su Satya Nadella, FPGA hızlandırmalı makine çevirisi örneklerini gösterdi. Toplam bilgi işlem gücü 1.03 milyon Üst'e ulaştı, bu da 100.000 en iyi GPU bilgi işlem kartına eşdeğer; güç tüketimi yaklaşık 30W, bu da tüm sunucunun güç tüketiminin yalnızca onda birini artırıyor.
Bu yılın Ağustos ayında Microsoft, Project Brainwave düşük gecikmeli derin öğrenme bulut platformunu başlatmak için FPGA ve bulut bilişim hizmetlerini birleştirdi. Platform, Intel tarafından sağlanan Stratix 10 alan programlanabilir geçit dizisine (FPGA) dayanmaktadır. Yerleşik derin sinir ağı (DNN) hızlandırma motoruna ek olarak, yazılım yığını açısından Google'ın Tensorflow ve Microsoftun kendi Bilişsel Araç Seti gibi derin öğrenme çerçeveleri.
Microsoftun resmi değerlendirmesine göre, Brainwave, Intelin Stratix 10 FPGA'sını kullanırken, herhangi bir gruplama olmaksızın büyük bir GRU'da (girişli tekrarlayan birim) 39,5 Teraflop performans elde edebilir. Sistem gerçek zamanlı yapay zeka için tasarlandı ve çok düşük gecikmeyle veri aldıktan hemen sonra istekleri işliyor.
Sistem, verileri aldıktan hemen sonra son derece düşük gecikmeyle istekleri işleyebilen gerçek zamanlı AI için tasarlanmıştır. Bulut altyapısının arama istekleri, videolar, sensör veri akışları veya kullanıcı etkileşimleri gibi gerçek zamanlı veri akışlarını işlemesi gerektiğinden, gerçek zamanlı yapay zeka giderek daha fazla önem kazanıyor.
Müreffeh AI çip pazarı rekabet ediyor
Genel amaçlı çipler, düşük verimlilik, yüksek güç tüketimi ve yüksek maliyetle derin öğrenme algoritmalarının gereksinimlerine iyi adapte edilmemiştir. Çeşitli sinir ağı algoritmaları, çalışma verimliliklerini sağlamak için özel çipler gerektirir. Yapay zeka dalgası, yapay zekaya adanmış bir yonga patlaması yarattı.
Hem bulut bilişim hem de mobil bilgi işlem, özellikle AI algoritmaları için tasarlanmış yongalar gerektirir, ancak ikisinin yapay zeka özel yongaları için farklı gereksinimleri vardır. Bulut, yapay zeka yongalarının çeşitli sinir ağı mimarilerine uyum sağlamasını gerektirir ve yüksek hassasiyetli kayan nokta işlemleri gerçekleştirebilir. En yüksek performans en az Tflops'a (saniyede 10 ^ 12 kayan nokta işlemi) ulaşmalıdır ve güç tüketimi konusunda kesin bir gereklilik yoktur; destek dizileri Performansı daha da iyileştirmek için stil yapısı.
Mobil AI çiplerinin tamamen farklı tasarım gereksinimleri vardır. Temel bir gereksinim, hesaplama performansı ve hesaplama doğruluğu kaybını olabildiğince az azaltırken, hesaplama enerji verimliliğini artırmak için bazı yöntemlerin (ağ sıkıştırma gibi) kullanılmasını gerektiren güç tüketimini kontrol etmektir.
Bu iki yönde yapay zeka çiplerinin araştırılması ve geliştirilmesi için çeşitli üreticiler çaba sarf ettiler.Elbette bulut ve mobil terminaller tamamen birbirinden ayrılamaz. gibi Kambriyen Daha önce geliştirilen Kambriyen derin öğrenme işlemcisi, büyük ölçekli sinir ağları ve çeşitli makine öğrenme algoritmaları içindir; 2016'da piyasaya sürülen Cambricon 1A işlemci (Cambricon-1A) ise akıllı telefonlar, güvenlik gözetimi, Giyilebilir cihazlar, dronlar ve akıllı sürüş ve diğer terminal ekipmanları.
Bulutta, yukarıdaki Nvidia'ya ek olarak, Intel Altera'nın satın alınmasından sonra, FPGA'ya dayalı özel bir derin öğrenme hızlandırıcı kartı başlattı ve satın aldı Nervana , Derin öğrenme için özelleştirilmiş ve optimize edilmiş ASIC çiplerini hedefliyor; Movidius , Yüksek performanslı görüntü işleme çipleri Intelin mobil yapay zeka çiplerinin eksikliğini tamamlayacak. ve ayrıca IBM TrueNorth beyin benzeri çip. Tabi bu yazının başında da bahsedilmektedir. Google TPU. Birkaç gün önce, Baidu resmi olarak XPU'yu başlattı. Baidu FPGA'nın GPU'nun çok yönlülüğü ve FPGA'nın yüksek verimliliği ve düşük enerji tüketimi ile yeni nesil yapay zeka işleme mimarisi, Baidu'nun derin öğrenme platformu PaddlePaddle'ı oldukça optimize etti ve hızlandırdı.
Mobil cihazlarda, Google, elma ile Samsung Ve benzeri, özel AI çipleri ile cep telefonları oluşturuyoruz. Microsoft Böyle bir çip, özellikle artırılmış gerçeklik kulaklıkları için tasarlanıyor. Aynı zamanda teknoloji devi Google'dan geleneksel otomobil üreticisi Toyota'ya kadar herkes kendi kendine giden otomobiller geliştiriyor ve mobil tarafta iyi çalışabilen AI çiplerine ihtiyaç duyuyor.
Örneğin, temel mimariyi iyileştirmede iyi olan Apple, yakın zamanda Apple X'i yapay zeka iş yüklerini işlemek için özelleştirilmiş bir çip ile piyasaya sürdü. Bu, saniyede 600 milyara kadar işlem gerçekleştirebilen çift çekirdekli bir "A11 biyonik sinir motoru" (A11 biyonik sinir motoru) yongasıdır. Çipin güçlendirdiği en önemli şey, Face ID kimlik doğrulama işlevinin yüzleri hızlı bir şekilde tanımasını sağlamak ve böylece iPhone X'in veya alışverişin kilidini açmaktır.
Yapay zeka yazılımının ihtiyaçlarını karşılamak için çiplerin özelleştirilmesi, sektörde yeni bir trend haline geldi. Google, veri merkezlerindeki AI bilgi işlem iş yüklerini işlemek için iki nesil çip tasarladı. Microsoft ayrıca HoloLens karma gerçeklik kaskının gelecekteki sürümleri için bir AI çipi geliştirdi. İPhone'a yeni bir özel yonga takmak, ana yonganın iş yükünün azalacağı ve dolayısıyla pil ömrünün artacağı anlamına gelir. Aksi takdirde, örneğin video kaydı yapılırken bir cep telefonunun kamerası aracılığıyla nesne tanıma yapıldığında, pil hızlı bir şekilde tükenebilir. Ek olarak, yakın gelecekte, iPhone dışındaki daha fazla mobil cihaz, AI için işlemciler içerebilir.
Başka bir örnek Huawei . Almanya'daki IFA 2017 sırasında Huawei, dünyanın ilk yapay zeka mobil bilgi işlem platformu Kirin 970'i resmen piyasaya sürdü. Huawei, güçlü AI bilgi işlem gücüne sahip bu mobil bilgi işlem platformunun, endüstrinin bağımsız bir NPU (Sinir Ağı İşleme Birimi) özel donanım işleme birimine sahip ilk cep telefonu çipi olduğunu söyledi. Yenilikçi bir şekilde entegre edilmiş NPU özel donanım işleme birimi, yenilikçi bir şekilde tasarlanmış HiAI mobil bilgi işlem mimarisi, AI performans yoğunluğu CPU ve GPU'dan önemli ölçüde daha iyidir. Aynı AI görevlerini işleyen dört Cortex-A73 çekirdeği ile karşılaştırıldığında, yeni heterojen bilgi işlem mimarisi yaklaşık 50 kat daha fazla enerji verimliliği ve 25 kat daha fazla performans avantajına sahiptir ve görüntü tanıma hızı dakikada yaklaşık 2000 görüntüye ulaşabilir. Kirin 970 yüksek performanslı 8 çekirdekli CPU, önceki nesle kıyasla enerji verimliliğinde% 20 artışa sahiptir. Ticari olarak satılan ilk Mali G7212 Çekirdekli GPU. Önceki nesle kıyasla grafik işleme performansı% 20, enerji verimliliği% 50 arttı. 3D büyük ölçekli oyunların daha uzun süre sorunsuz çalışmasını destekleyebilir.
Ek olarak, Çin'de AI çipleri geliştiren birkaç şirket var. Daha önce, Tencent tarafından yayınlanan AI endüstrisi raporu, endüstrinin çekirdeği olarak AI yongalarının aynı zamanda en yüksek teknik gereksinimlere ve katma değere sahip bağlantı olduğuna dikkat çekti.Sanayi değeri ve stratejik konum, uygulama düzeyinde yenilikten çok daha büyük. Bu noktada Çin ile Amerika Birleşik Devletleri arasındaki uçurum hala çok büyük. Rapor, temel düzeyde çip şirketlerinin sayısı açısından Çin'in 14, Amerika Birleşik Devletleri'nin 33'e sahip olduğunu gösteriyor. Çin, ABD'nin yalnızca% 42'sini oluşturuyor.
Yapay zeka çipi araştırma ve geliştirmede üstün performansa sahip yerli şirketler, yukarıda tanıtılan Kambriyen'e ek olarak, derin öğrenme yapay zekasına sahip gömülü video yakalama sıkıştırma kodlama sistemi düzeyinde "Xingguang Smart One" yongasını da piyasaya sürdü. Vimicro Yazılım ve donanım entegrasyon çözümlerine özel Horizon Robot Ve "Derin İşleme Birimi" nin (DPU) oluşturulması Shenjian Teknolojisi . Shenjian Teknolojisinin amacı, ASIC düzeyinde güç tüketimi sağlamak ve GPU'dan daha iyi performans elde etmektir. İlk ürün grubu şu anda FPGA platformunu temel almaktadır.
ABD Savunma Bakanlığı'nın araştırma departmanı Darpa'nın proje yöneticisi Gill Pratt, profesyonel çiplere ve yeni bilgisayar mimarilerine yönelik bu eğilimin yapay zeka çiplerinin "Kambriyen patlamasına" yol açabileceğini söyledi. Gördüğü gibi, hesaplama miktarı çok sayıda küçük, düşük güçlü yongalara genişletildi, böylece makine bir insan beyni gibi çalışabilir, böylece enerjiyi etkin bir şekilde kullanabilir.
Her cihazın kendi beyni olacak
Özel çiplere yapılan tüm bu geçişler, yonga tasarımı ve üretim devi Intel'in gücünü zayıflatabilir ve yıllık 335 milyar dolarlık yarı iletken endüstri pazarını temelden değiştirebilir.
Bu yılın Temmuz ayında, Intel AIPG'nin baş teknoloji sorumlusu Amir Khosrowshahi, Xinzhiyuan ile özel bir röportajı kabul etti ve Intel'in bir dizi yapay zekaya özgü yonga ürünlerini piyasaya süreceğini söyledi. Amir, Google'ın TPU'unun temsil ettiği yapay zeka özel yongalarının "avantajlarının" yalnızca geçici olduğunu ve Intel'in ikinci nesil TPU'dan daha iyi yongalar geliştirdiğini söyledi. Amir aynı zamanda, çiplerin veya işlemcilerin başarılı bir makine öğrenimi çözümü oluşturmanın yalnızca küçük bir parçası olduğunu vurguladı.Üretimden üretime ve satışa kadar eksiksiz bir süreç, başarılı olmak için işbirliği gerektirir.
Her halükarda, mevcut yonga endüstrisi bir devrim başlatıyor Bu dönüşüm esas olarak İnternet'i destekleyen devasa veri merkezlerinde gerçekleşse de, etkisinin daha geniş sektöre nüfuz etmesi sadece bir zaman meselesi.
Gelecekte, yeni mobil çipler, cihazların konuşma tanımadan yüz tanımaya, çevreyi tanımak ve komutlara yanıt vermek için ev robotlarına ve sürücüsüz arabalara kadar yerel olarak gittikçe daha karmaşık görevleri yerine getirmesine yardımcı olabilir.
Her cihazın kendi beyni olabilir.
İş ayrıntılarını görüntülemek için orijinal metni okumak için tıklayın ve katılmanızı dört gözle bekleyin ~
