Guoxin Lingyun: Yapay zeka çiplerinin başarısının anahtarı, tüm sektörün coşkusunu harekete geçirmektir.
Yapay zeka çipinin doğuşunun arkasındaki temel süreci ve mantığı sinir ağı hızlandırma, NPU araç zinciri, SoC entegrasyonu vb. Gibi birden çok perspektiften analiz edin.
Hangzhou Nationalchip'in yapay zeka bölümünün genel müdürü Ling Yun, AI çiplerinin önemi, Nationalchip'in nasıl AI çipleri yaptığını ve AI çiplerinin uygulama olasılıklarını paylaştı.
Ling Yun, derin öğrenme teknolojisindeki atılımların bu yapay zeka dalgasının ana itici gücü olduğuna inanıyor. Derin öğrenme algoritmaları son derece çok yönlüdür, aynı zamanda bilgi işlem mimarisi birleşiktir ve gelecekte bilgi işlem gücü talebi artacaktır. Bu faktörler, bu özel AI çipinin gelişini çağırmak için birleşir.
Lingyun, yapay zeka çipinin doğuşunun arkasındaki temel süreci ve mantığı sinir ağı hızlandırma, NPU araç zinciri ve SoC entegrasyonu gibi çeşitli perspektiflerden analiz etti.
Yapay zeka çiplerinin olasılığı ile ilgili olarak Lingyun, özün herkesin coşkusunun ve yaratıcılığının tamamen harekete geçirilip geçirilemeyeceğine inanıyor. Şu anda Nationalchip, TV'ler, hikaye makineleri ve beyaz eşya gibi ürünler ve senaryolar için ses TV, IoT, çocuk robotları ve akıllı hoparlörler dahil olmak üzere endüstri için bir dizi çözüm hazırladı.
Aşağıdakiler, Lingyun'un "WARE 2018 Yeni Donanım Zirvesi" ndeki konuşmasının ve Shenzhen Bay tarafından derlenen ve yayınlanan konferans sonrası Soru-Cevap bölümünün dökümüdür.
Konuk: Ling Yun / Hangzhou Guoxin Yapay Zeka Bölümü Genel Müdürü
Konu: Etkileşimli yükseltme, yapay zeka çiplerinin IoT pazarındaki değişiklikleri nasıl patlattığı
Derin öğrenme teknolojisi, yeni bir yapay zeka çipi dalgası gerektirir
Neredeyse on beş yıldır cips yapıyorum. On beş yıl önce, çip endüstrisi çok sıcak bir endüstriydi. İnternetin ve mobil internetin yükselişiyle birlikte, çipler uzun süredir çok soğuk bir döneme girdi veya halkla hiçbir ilgisi yok. Son iki yılda çipin birdenbire çok sıcak bir odak haline geldiğini görüyoruz Bunun arkasında ne var? Bu, sizinle tartışmak istediğim ilk soru, bu yüzden şimdi AI çipleri yanıyor.
AI çipinin ateşlenmesinin temel nedeni, yapay zekanın artık ateşlenmiş olmasıdır.
Yapay zeka tarihinde pek çok iniş ve çıkış vardır.Bu yapay zeka turunun özü, derin öğrenmedeki atılımlar ve çeşitli alanlardaki etkilerdir. Derin öğrenmenin özellikleri nelerdir? Sanırım en büyük avantajı, tıp alanında otomatik teşhis, jest tanıma, akıllı ev ve diğer yönler gibi tanınmış konuşma tanıma ve yüz tanıma gibi pek çok yerde kullanılabilen çok yönlü bir yöntem olmasıdır. Derin öğrenmenin evrensel bir sıva olduğunu söylüyoruz, bu teknolojide ustalaştığınız sürece onu hayatın her alanına uygulayabilirsiniz. Geçmişte hayatın her alanında profesyonel bilim insanlarına ihtiyaç vardı.Bu bilim adamları problemleri çözmek için bu sektörde yıllarca biriktirdiler.Ancak bugün bu teknolojide ustalaştığınız ve teorik olarak verilere sahip olduğunuz sürece, problemleri hayatın her alanından hızlı bir şekilde çözebilirsiniz. .
Derin öğrenme iki şeye dayanır, biri veri, diğeri ise çok fazla bilgi işlem gücü gerektirmesi ve hesaplamaları ve yinelemeleri tekrar etmesidir.
Çok büyük bir avantajı var Derin öğrenmede kullanılan sinir ağı hesaplama yönteminin çeşitli varyantları olmasına rağmen hesaplama çerçevesi genel olarak çok benzer. Başka bir deyişle, ister DNN, RNN, LSRM ve diğer sinir ağları olsun, model hesaplamaları çok benzer.
Yukarıdaki noktalara dayanarak, herkes, bu algoritma her şeye kadir olduğu için, hesaplama mimarisinin birleşik olduğunu ve gelecekte bilgi işlem gücü talebimizin artacağını görecektir. Durum bu olduğuna göre, neden bu sorunu çözmek için özel bir çip yapmıyorsunuz? Yani herkes Google'ın TPU'yu yaptığını görüyor ve birçok internet şirketi ve algoritma şirketi çipi çok önemli bir konuma koyacak çünkü çok büyük bir değere sahip.
Yukarıdaki noktalar, umarım kişisel görüşlerim aracılığıyla, AI çipinin arkasındaki mantığı ve şimdi neden bu kadar önemli olduğunu anlamanıza yardımcı olabilirim.
Bir AI çipinin temel mantığı
Bir AI çipi yapmak için ilk adım sinir ağını hızlandırmaktır. Google TPU adında bir şey yaptı ve daha fazla insan buna sinir ağı işlemcisi olan NPU adını verdi. 2016 yılında sinir ağı işlemcileri üzerinde çalışmaya başladık. İlk sürüm seri üretildi ve satıldı ve ikinci sürüm üzerinde dahili olarak çalışıyoruz.
NPU çok gizemlidir, ancak iç prensip görece basittir çünkü sinir ağları oldukça paralel mimarilerdir. Çalıştırmak için CPU kullanırsanız, bir döngü yazmanız ve onu tekrar tekrar çalıştırmanız gerekir. NPU paralelleştirme yapabiliriz Örneğin 64 yollu ve 128 yollu paralel yapabiliriz Donanım ve boru hattı yapısı sayesinde verimlilik artırılabilir.
Elbette birçok beceri ve verimlilik sorunu var: Örneğin, bir sinir ağını hesaplarken, bir yandan bilgi işlem gücünü tüketirken diğer yandan bellek hesaplama için yüksek bant genişliği gerektirir. Çok önemli bir teknoloji var, biz sinir ağı parametre sıkıştırma teknolojisine diyoruz. İki gün önce, herkesin en ünlü yerli sıkıştırma şirketlerinden birinin bir Amerikan şirketi tarafından satın alındığını görmesi gerekirdi. Sinir ağı sıkıştırması alanında, Ulusal Çekirdek de çok fazla birikime sahiptir ve ayrıca sonraki birçok yongada sıkıştırmanın avantajlarına tam anlamıyla sahip olacağız.
Tamamen programlanabilir olup olmadığı, bir sinir ağı hızlandırıcısı ile bir işlemci arasındaki temel farktır.
Geçmişte, birçok şirket NPU yaptı, ancak yaptıkları aslında sinir ağı hızlandırıcısıydı. Bir sinir ağı hızlandırıcısı ile bir işlemci arasındaki fark nedir? Bence en büyük fark, tamamen programlanabilir olup olmaması. Bazı insanlar donanım NPU'sunun yeterince esnek olup olmadığını, mimariye bağlı olup olmadığını ve tamamen programlanabilirse esnektir.
Tamamen programlanabilir olmak, bir NPU araç zincirinden veya sinir ağı derleyicisinden ayrılamaz. Bu alanda bir çok çalışma yaptık, mevcut araç zincirimiz eğitim platformuna bağlanabilir.Programı platform üzerinde derleyip model oluşturursunuz Derleyicimiz aracılığı ile otomatik olarak chipimize aktarılabilir. Çalıştırmak. Niceleme ve sıkıştırma yaparsanız, araç zincirimiz bunu yapmanıza yardımcı olabilir.
Tüm zincire giren SoC entegre ürünler
NPU tek başına yeterli değil, ürünlerin karaya çıkması için uzun bir zincir. AI etkileşiminin giriş ve çıkış gibi birçok bağlantı içerdiğini herkes bilir. Ses ve görüntü girişi geldikten sonra, iyileştirilmesi gerekir.Sesin gürültü azaltılması ve görüntünün 3A, gürültü azaltma ve geniş dinamik olması gerekir. Geleneksel algoritmalar sinyal işlemeyi kullanacak ve şimdi de sinyal geliştirme yapacaklar.Gelecekte daha fazla hibrit çerçeve olacak. Tanıma, konuşma tanıma ve görüntü tanıma gibi sinyal işlemeden sonra yapılabilir. Ayrıca iş mantığına da ihtiyacınız var, işletim sistemini çalıştırmanız, bulutla etkileşime girmeniz ve sonunda kullanıcılara geri bildirim vermeniz gerekiyor.
Bu karmaşık bir zincirdir ve tüm bunların bir çip yapmak için entegre edilmesi gerekir. Çip endüstrisinde biz buna SoC diyoruz, eğer tüm sistem çipin içine yerleştirilmişse, uygulanabilecek ürün budur.
Geçen yıl piyasaya sürdüğümüz birinci nesil ürün, ses mikrofonu kanalı DSP, görüntü arabirimi, ön işleme, NPU ve CPU'yu tek bir çip üzerinde entegre etti.Bu, kod adı GX8010 olan birinci nesil çipimizdir.
AI çip beklentileri: açık IoT akıllı pazarı
Yapay zekanın son birkaç yıldaki salgınına bakılırsa, uygulamasının iyi gidip gitmediği, herkesin coşkusunun ve yaratıcılığının tam anlamıyla harekete geçirilip geçirilemeyeceğidir.
Bu uygulama tüm sektör tarafından yapılmalıdır. Bence tüm AI endüstrisi için çok yararlı olan iki şey var: İlki AlphaGo'nun Li Shishi'yi ve Çinli Go oyuncularını mağlup etmesi, herkesin yapay zekanın zaten bu kadar güçlü olduğunu düşünmesine neden oldu. Bırakın halkın yapay zeka hevesi. Uyandırdı. Bugün Shenzhen Körfezi temasında tartışılan ikinci şey, herkesin akıllı hoparlörlere yaptığı yatırım ve satış yoluyla, akıllı konuşmacılar halka tanıtım ve gösteride çok büyük bir rol oynuyor. Geçmişte yapay zekanın bizden uzak olduğunu düşünüyorduk ama bugün evde akıllı bir hoparlör almak için 99 yuan harcayabilirim.Yapay zekanın bunu zaten yapabildiğini buldum ve orijinal deneyim şimdiden çok iyi olabilir.
Bu konsept ile birçok geleneksel elektronik ürün yapan kişiler birdenbire kafasında bir çok fikir sahibi olacaklar Akıllı hoparlörler bunu yapabildiği için benim ürünüm de aynısını yapabilir mi? Orijinal ürünüm Bu fonksiyon eklenebilir mi? Bu yıldan itibaren, giderek daha fazla sektör kullanıcısının yapay zekayı ve sesi benimsemeye başladığını gördük.
Televizyon gibi birkaç tipik örnek verin. Geçmişte TV izlemek için uzaktan kumandayı kullandık, ancak televizyonunuz OTT veya IPTV olduğunda, uzaktan kumanda düğmeleriyle bir TV programı aramak son derece zor hale geldi ve TV üreticileri ses kullanmayı düşündü. Bir süre önce televizyona USB ile takılan bir ürün vardı.Uzak sahadaki televizyon ile uzaktan kumanda olmadan etkileşim tamamen mümkündür.Koltukta oturup TV ile doğal bir şekilde etkileşim kurarak TV'nin birçok alanı aynı anda açılabiliyor.
Bir çok benzer örnek var: Yapay zekanın etkileşim ve kontrol modunu değiştirdiği ve birçok IoT alanına uygulanabileceği söylenmelidir. Nationalchip, bu senaryolara yanıt olarak sesli TV çözümleri, IoT çözümleri, çocuk robot çözümleri ve akıllı hoparlörler dahil olmak üzere birçok çözüm de hazırladı.
Röportaj konuğu: Ling Yun / Hangzhou Guoxin Yapay Zeka Bölümü Genel Müdürü
Bulut AI çipi ile uç taraf AI çipi arasındaki fark
Yi Pengyu: AI'nın bilgi işlem gücüne, algoritmalara ve arkasında çok fazla veriye ihtiyacı var. Bir AI çipi kapsamlı kalite yeteneklerine sahipse daha iyi olabilir. Guoxin tarafından üretilen yongalar için, NVIDIA gibi geleneksel süper güçlü yongalarla karşılaştırıldığında, IoT yongalarının yeteneklerinin anlaşılmasının, işleme algoritmaları, hesaplama gücü ve veriler açısından net bir sınır çizdiğini düşünüyor musunuz?
Lingyun: Bulut ve uç taraf yapay zeka yongalarının tanımı farklıdır. Bulut birçok kullanıcının ihtiyaçlarını karşılamalıdır. Performans ne kadar güçlüyse o kadar iyidir. Tek bir yonganın maliyetine duyarlı değildir. Tüm sunucunun veya tüm dağıtımın maliyeti dikkate alınır, bu nedenle tek bir yonga Çip ölçeği nispeten büyüktür. Yaptığımız AI çipleri, güç tüketiminin maliyeti ile yakından ilgilidir ve uygulama senaryolarının ilkelerini takip eder. Hesaplama gücü, çipler için bir dağıtım sorunudur. Çok fazla dağıtmanız gerekirse, sizin için birçok hesaplama yapabilirim ve maliyet artar. Tıpkı bir oyuncak köpek gibi, içine AlphaGo çipleri koyarsam satın alamazsınız. Bu nedenle, uç taraf uygulama senaryosuna göre başlamalıdır ve bilgi işlem gücü bulutunkinden daha düşük olacaktır.
Özelleştirilmiş yongaların giriş-çıkış ölçümü
Yi Pengyu: Şimdi yeni bir çip özelleştiriyorum ve temelde 0'dan 1'e kadar pek çok şeyi yaptığını görüyorum. Listelemek uzun zaman alıyor ve yatırım maliyeti yüksek. Şu anda gördüğümüz çözümlerin çoğu ortak modüllere ve yongalara dayanmaktadır, ancak bizim için özelleştirilmiş yongalar daha değerlidir ve özel ürünlerde kullanılabilir. Yatırım nasıl ölçülür?
Ling Yun: Özel cipsler için bir prensip olmalı.Özelleştirilmiş şeyler, maliyeti yaymak için yeterince büyük olmalıdır. Bir çip özelleştirilirse ve miktar yeterince büyük değilse, maliyet geri alınamaz. Bazı özelleştirme gereksinimleri olduğunu söylediniz, özelleştirirseniz zaman aralığı kesinlikle daha uzun olacaktır.
Bir çip şirketi bir çip tanımladığında, genellikle mümkün olduğu kadar çok uygulama senaryosunu kapsar.Aslında çip firmasına bu ihtiyacı anlatabilirsiniz ve çip firması ihtiyaçlarınızı uygun senaryolarda dikkate alacak, gereksinimler makul ise fonksiyonu ayarlayabilirsiniz. Bunu yapın, böylece çok yüksek özelleştirme maliyetleri ödemek zorunda kalmazsınız. Tabii ki, bu pazarın çok büyük olduğunu düşünüyorsunuz ve çekirdek teknolojiniz varsa, onu özelleştirmek için para harcayabilirsiniz ve bu avantaj da harika.
Yi Pengyu: Çiplerimiz belirli bir ölçeğe ulaşmak için ekonomik, Sizin açınızdan ekonomik uygulama için eşik ne kadar büyük?
Ling Yun: Bu çipin on milyonlarca seviyeye ulaşmasının en iyisi olduğunu düşünüyoruz, bunun daha ticari bir değer olduğunu düşünüyoruz. Elbette, özelleştirmek istiyorsanız, en azından milyonlarca ölçek olduğunu düşünüyorum, bu nedenle özelleştirmenin bir anlamı olacaktır.
AI çipleri nasıl yükseltilir ve yinelenir
Yi Pengyu: Çipin aslında algoritma mantığı olduğunu hepimiz biliyoruz, algoritma mantığı tamamen optimize edildiğinde ve çipte özelleştirildiğinde performansın en yüksek olacağını düşünüyorum. Bu durumda algoritma, güncelleme yinelemesi olan yapay zeka konusunda bir sorunla karşılaşır. Tüm yapay zekalar hızlı bir şekilde öğreniyor ve yineliyor, ancak çipte bittikten sonra ölecekler. Yineleme sorunu nasıl çözülür?
Ling Yun: Yongalar için, fiziksel şeyler ölmüş olsa da, mimariyle ilgili birçok makale var.Donanım hızlandırmayı programlanabilir hale getirmeye çalışın ve çeşitli kaynakları harekete geçirmek ve bunları esnek bir şekilde kullanmak için yazılım kullanın. Örneğin, NPU'muz fiziksel olarak öldü, ancak modüllerin ve hesaplama birimlerinin bölünmesi ve derleyici yazılımının programlanması yoluyla çeşitli modelleri esnek bir şekilde işleyebilir, yani modeliniz değiştirilebilir, mutlaka ölü olmayabilir. nın-nin.
Tabii ki, algoritmanın çok büyük değişikliklere uğramış olabileceği durumlar da olacak, bu da mimarim desteklenmiyor, şu anda yalnızca yinelemeli çipin kendisine güvenebiliyorum. Çip şirketleri, daha yeni mimarileri desteklemek için her yıl yeni yongalar çıkaracaklar Mevcut mimaride bazı küçük değişikliklere gelince, mimarinin kendisini uyumlu hale getirmeli ve yazılım aracılığıyla otomatik olarak uyarlamalıyız.
