Yin Shouyi, Tsinghua Üniversitesi: AI çip hesaplama mimarisi yeniliği, AIoT AIoT + Akıllı Şehir Zirvesi'ni gerçekleştirmenin kaçınılmaz yoludur
20 Aralık'ta Leifeng.com'un ev sahipliği yaptığı AIoT + Akıllı Şehir Zirvesi, Shenzhen'de gerçekleştirildi Zirvede, Mikro-Nano Elektronik Bölümü Direktör Yardımcısı ve Tsinghua Üniversitesi Mikroelektronik Enstitüsü Direktör Yardımcısı Profesör Yin Shouyi, Nesnelerin İnternetinde AI algoritmalarının nasıl kullanıldığına ilişkin görüşlerini paylaştı. Cihazlarda AI işlevlerinin gerçekleştirilmesine ve ultra enerji verimli AI çiplerindeki en son gelişmelere ilişkin görüşler. Profesör Yin, gelecekte bilgi işlem mimarisinin yeniliğinin her yerde bulunan AIoT'yi gerçekleştirmenin kaçınılmaz yolu olacağına inanıyor.
IoT AI çiplerinin çözmesi gereken temel sorunlar
Bugün bahsedilen yapay zekanın temel teknolojisi derin öğrenmedir ve derin öğrenmenin arkasındaki temel teknoloji sinir ağıdır. Günümüzde, ses asistanları gibi AI uygulamalarımız tarafından yaygın olarak kullanılmaktadır ve resimli görüntüleri aramak için temel hesaplamaların çoğu bulut üzerinde yapılmaktadır. IoT senaryolarının genişletilmesiyle, birçok senaryoda iletişim gecikmesi, cihaz güç kaynağı ve kişisel gizlilik konuları göz önünde bulundurulduğunda, AI hesaplamanın IoT terminalleri ve sensörlerinde uygulanması gerekir.
Google ve ARM gibi uluslararası endüstri devlerinin tümü, yapay zeka hesaplamasının geleceğinin dağıtılmış, hiyerarşik ve hiyerarşik bir entegre sistem olması gerektiği konusunda hemfikir, bu da devasa bir derin öğrenme çip pazarını doğuracak. American Tractica Consulting Company'nin istatistiklerine ve tahminlerine göre, derin öğrenme çip pazarı 2016'dan 2025'e hızla büyüyecek. 2025 yılına kadar pazar yaklaşık 70 milyar ABD dolarına ulaşacak ve bunun yaklaşık 40 milyar ABD doları çeşitli uygulamalarda kullanılacak. Mobil cihazlar, robotlar, dronlar, tüketici elektroniği ve giyilebilir cihazlar gibi IoT alanları.
Ancak Profesör Yin, IoT cihazlarının yapay zeka talebini karşılamak için çözülmesi gereken temel sorunun, yapay zeka hesaplama gücü talebi ile IoT senaryolarının güç kaynağı kapasitesi arasındaki büyük karşıtlık olduğuna dikkat çekti.
Profesör Yin, birçok IoT uygulamasının çipin güç tüketimi üzerinde çok katı kısıtlamalara sahip olduğunu ifade etti.Örneğin her gün kullandığımız akıllı telefonlar.Kullanıcılar her zaman ve her yerde telefonu sesli olarak uyandırmak ve dil aracılığıyla doğal bir şekilde etkileşim kurmak istiyor.Bu da telefonun akıllı sese sahip olmasını gerektiriyor Tanıma yeteneği, cep telefonunun pil ömrünü etkilemez. Bu tür AI hesaplamasıyla tolere edilebilecek güç tüketiminin üst sınırı yaklaşık 1-2 miliwatttır, aksi takdirde cep telefonunun bekleme süresi etkilenecektir. Ek olarak, AI bilgi işlem, akıllı ev aletleri, akıllı gözlükler ve drone'lar gibi senaryolarda çok katı güç tüketimi kısıtlamalarıyla karşı karşıyadır. Gelecekteki AI + IoT vizyonunu gerçekleştirmek için çözülmesi gereken sorun budur, bu katı güç tüketimi kısıtlamaları altında ultra yüksek enerji verimli AI hesaplamasının nasıl elde edileceği.
AIoT AI çiplerinin karşılaması gereken 3 koşul
Profesör Yin, uygulama ve kullanıcı deneyimi açısından, AIoT'nin ihtiyaçlarını karşılayan bir AI çipini gerçekleştirmek için üç koşulun karşılanması gerektiğine işaret etti:
Birincisi, programlanabilirlik, ancak programlanabilirlik ile farklı IoT senaryolarında farklı AI algoritmalarının ihtiyaçlarını karşılayabilir;
İkincisi, hem hesaplama açısından yoğun hem de bellek yoğun algoritmalar için çok dostudur, çünkü günümüzün yapay zeka algoritmaları bu tür özelliklere sahiptir;
Üçüncüsü, ultra yüksek enerji verimliliği.Bazı senaryolarda, çipin güç tüketiminin miliwatt düzeyinde olmasını umuyoruz ve bazı senaryolarda, uzun vadeli IoT hesaplama ihtiyaçlarını karşılamak için mikrowatt düzeyinde bile.
Ultra yüksek enerji verimli AI bilgi işlem çiplerinin gelişimi
Şu anda, AIoT yongalarının geliştirilmesi perspektifinden, herkes iki farklı boyuttan (algoritmalar ve mimari) ultra yüksek enerji verimliliği sağlayan yapay zeka hesaplaması elde etmek için çok çalışıyor. Algoritma düzeyindeki çabaların yönü, derin sinir ağı modelini daha kompakt hale getirmektir. Profesör Yin, 2016 yılında akademide büyük ilerleme kaydettiğimizi anlattı.Şu anda sinir ağının ağırlık genişliğini 1 bit'e sıkıştırmak mümkün oldu, böylece ağ modeli on kat hatta düzinelerce azaltılabilir.
Daha dikkate değer olan şey, istatistiksel açıdan, çok düşük bitli bir ağda, ağ 1-2 bit'e sıkıştırılmış olsa bile, doğruluğun hala tam hassasiyetli sinir ağına yakın olmasıdır. En son sonuçlar, tespit ve tanıma için sıkıştırılmış sinir ağı kullanıldığında, tam hassasiyetli sinir ağındaki hatanın sadece yaklaşık% 1 olduğunu göstermektedir.Bu boşluk çoğu uygulama senaryosunda ihmal edilebilir düzeydedir.
Algoritma düzeyine ek olarak, birçok bilim insanı, bilgi işlem mimarisi perspektifinden daha enerji verimli AI hesaplamasına nasıl ulaşılacağını araştırıyor. 2014'ten günümüze, akademi ve endüstri birçok AI hesaplama mimarisi çözümü önerdi. Bununla birlikte, gelecekteki IoT senaryosunda, şu anda önerilen bilgi işlem mimarisinin programlanabilirlik, ultra düşük güç tüketimi ve özel ağ modellerinin gereksinimlerini dengelemek hala zordur.
2015'ten başlayarak, yeni bir bilgisayar mimarisi türü olan Coarse-taneli Yeniden Yapılandırılabilir Mimari (CGRA), uluslararası akademik ve endüstriyel çevrelerden büyük ilgi gördü. 2015 "Uluslararası Yarı İletken Teknolojisi Yol Haritası" (ITRS raporu), bunu gelecekte umut verici bir programlanabilir bilgi işlem mimarisi olarak kabul etti. ABD Savunma Bakanlığı İleri Araştırma Projeleri Ajansı (DARPA), Amerika Birleşik Devletleri'nin gelecekte uluslararası elektronik bilgi alanındaki lider konumunu sürdürmesini sağlamak için 2017 yılında, "yazılım tanımlı donanım" adlı bir projeyi güçlü bir şekilde uygulayan "Elektronik Rönesans Programı" nı başlattı. Araştırma planı. Bu proje, yukarıda bahsedilen CGRA mimarisi olan "çalışma zamanında hızlı yeniden yapılandırma" donanım mimarisini incelemektedir.
Sadece birkaç gün önce Wave Computing "açık kaynaklı MIPS komut setini" duyurdu. Lei Feng.com "Wave Computing gelecek yıl ücretsiz MIPS mimarisi sağlayacak. AI çağında MIPS yükselebilir mi?" "Makalede de tanıtıldı ve AI çipinin teknoloji kaynağı CGRA. CGRA'nın yaygın ilgi görmesinin nedeni, tam olarak yeniden yapılandırılabilir mimarinin CPU, GPU, FPGA'dan daha yüksek enerji verimliliği sağlayabilmesi ve ayrıca AIoT'nin ihtiyaçlarını iyi bir şekilde karşılayabilecek iyi bir programlanabilirliğe sahip olmasıdır.
Yeniden yapılandırılabilir çipin gerçekleştirilmesi
Profesör Yin, Tsinghua Üniversitesi'nin yeniden yapılandırılabilir bilgi işlem ekibinin 2006'dan beri yeniden yapılandırılabilir mimariye dikkat ettiğini söyledi. Son on yılda yeniden yapılandırılabilir mimarinin temel teorisi üzerine birçok keşif çalışması yapıldı. 2015'ten beri, yeniden yapılandırılabilir mimari yapay zeka hesaplama ve sinir ağı hesaplama senaryolarına uygulandı ve Thinker serisi yapay zeka çipleri tasarlandı.
Özellikle, Thinker serisi AI yongaları, komut düzeyinde programlanabilirlik kullanan geleneksel işlemcilerden farklıdır ve üç düzeyde donanım yeniden yapılandırılabilirliği elde ederler: çekirdek hesaplama bileşenleri, temel işlem birimleri ve işlem birimi dizileri. Örneğin, temel çarpma ve biriktirme bileşenlerinde, ultra düşük bit genişliği sinir ağını iyi destekleyen farklı bit genişliklerinin adaptasyonu uygulanır; devre düzeyinde yeniden yapılandırma, sinir ağındaki farklı operatörleri desteklemek için temel işlem birimi düzeyinde uygulanır; işlem biriminde Dizi, mimari düzeyinde yeniden yapılandırmayı gerçekleştirir ve farklı türdeki sinir ağlarını destekler.
2006 yılından bu yana, Profesör Yinin ekibi üç Thinker çipi tasarladı. En yüksek enerji verimliliği watt başına on trilyon işleme ulaşabilir ve en düşük güç tüketimi mikro dalgalara kadar çıkabilir. AI hesaplamaları gerektiren herhangi birine yerleştirilebilir ancak pil sınırlıdır. IoT cihazlarının.
İşlemcinin son 30 yıldaki geliştirme geçmişine bakıldığında, işlemcinin performans iyileştirmesi, yarı iletken teknolojisindeki ilerlemenin ve bilgi işlem mimarisi inovasyonunun iki tekerlekten çekişinden yararlandı. Ancak Moore Yasası yavaşladıkça, yarı iletken teknolojisinin gelişimi giderek daha sınırlı hale geliyor. Geçen yıl Turing Ödülü'nü kazananların iki bilgisayar mimarisi ustası John Hennessy ve David Patterson olduğunu söyleyen Profesör Yin, Turing Ödülü'nün kabul konuşmasında bugünün bilgisayar mimarisinin yeni bir altın çağı olduğunu belirttiler. Bu cümle, teknolojik inovasyonumuzun ve endüstriyel gelişimimizin gelecekte nerede olması gerektiğine dair iyi bir yorumdur.
AIoT + Akıllı Şehir Zirvesi konuşma videolarının tamamı daha sonra Leifeng.com üyelerinde [AI Yatırım Araştırma Eyaleti] yayınlanacak ve herkes zamanında bilgilendirilecektir. [AI Yatırım Araştırma Durumu] 'nu takip etmek için QR kodunu tarayabilirsiniz.
