Tsinghua ekibi başka bir atılım gerçekleştirdi! Dünyanın ilk çok dizili memristor depolama ve hesaplama entegre sistemini geliştirdi
Birden fazla memristor dizisine dayanan depolama-hesaplama entegre sistemi, kıvrımlı sinir ağlarını işlerken grafik işlemci yongalarından iki kat daha yüksek enerji verimliliğine sahiptir.
Yazar | Liu Lin
Editör | Jia Wei
Çoğu çocuk ayakkabısı, memristörün ne olduğunu bilmiyor olabilir mi? Bugünkü konuya başlamadan önce, ilk olarak bir memristorun ne olduğunu popüler hale getireceğim.
Memristor'un (Memristor) tam adı olan memristör, direnç, kapasitans ve endüktanstan sonra dördüncü temel devre elemanıdır.Manyetik akı ve elektrik yükü arasındaki ilişkiyi temsil eder.Bu bileşenin direnci devam edecektir. Akımın miktarı değişir ve akım dursa bile direnci önceki değerde kalır, ters akımı alana kadar geri itilmeyecektir, bu da önceki akım miktarını "hatırlayabildiğini" söylemekle eşdeğerdir.
Kısacası memristör, elektrik kesildikten sonra geçen elektrik yükünü hala "ezberleyebilmektedir" Bu özellik ile sinirin sinapsı arasındaki benzerlik, otonom öğrenme fonksiyonu elde etme yeteneğine sahip olmasını sağlar. potansiyel. Bu nedenle, memristor tabanlı nöromorfik hesaplama sistemi, sinir ağı eğitimi için hızlı ve enerji tasarrufu sağlayan bir yöntem sağlayabilir, ancak görüntü tanıma modellerinden biri olan evrişimli sinir ağı, memristor çapraz dizisini kullanan donanımlar tarafından henüz tam olarak uygulanmamıştır.
Ancak yazar kısa bir süre önce, Tsinghua Üniversitesi Mikroelektronik Enstitüsü, Geleceğin Çip Teknolojisinin İleri Yenilik Merkezi'nden Profesör Qian He ve Wu Huaqiang ekibinin ve işbirlikçilerinin Nature'da "Tamamen donanımla uygulanmış memristör evrişimli sinir ağı" başlıklı bir çevrimiçi yayın yayınladığını öğrendi. "Araştırma makalesi, memristor dizisi çipine dayalı evrişimli ağın tam donanım uygulamasını bildirdi.
CNN'yi yüksek enerji verimliliği oranı ve yüksek performansa sahip tek tip bir memristor çapraz dizisiyle uygulamayı önerdiler.Bu uygulama 8 PE'yi entegre eder ve her PE paralel hesaplama verimliliğini artırmak için 2048 birimlik bir memristor dizisi içerir. Ek olarak, araştırmacılar ekipman kusurlarına uyum sağlamak ve tüm sistemin performansını iyileştirmek için verimli bir hibrit eğitim yöntemi de önerdiler. Araştırmacılar, MNIST görüntü tanıma görevini gerçekleştirmek için memristöre dayalı beş katmanlı bir CNN oluşturdular ve tanıma doğruluk oranı% 96'yı aştı.
Memristor dizisi, paylaşılan girdide paralel evrişim gerçekleştirmek için farklı evrişim çekirdeklerini kullanmanın yanı sıra, farklı girdileri paralel olarak işlemek için birden çok özdeş evrişim çekirdeğini de kopyalar. Şu anki en iyi grafik işleme birimi (GPU) ile karşılaştırıldığında, memristor tabanlı CNN nöromorfik sistemin enerji verimliliği daha büyük bir mertebedir ve deneyler, sistemin artık sinir ağları gibi büyük ağlara genişletilebileceğini göstermiştir. Bu sonuç, evrişimli sinir ağlarını (CNN) işlerken grafik işlemci yongalarından daha enerji verimli olan, derin sinir ağları ve uç hesaplama için memristor tabanlı non-von Neumann donanım çözümlerinin sağlanmasını teşvik edebilir. (GPU) iki kat daha yüksektir, bilgi işlem ekipmanının bilgi işlem gücünü büyük ölçüde geliştirir ve daha küçük güç tüketimi ve daha düşük donanım maliyetleriyle karmaşık hesaplamaları başarıyla gerçekleştirir.
1. CNN'nin tamamen memristor'a dayalı ilk donanım uygulaması
Raporlara göre, mevcut uluslararası memristor araştırması, basit bir ağ yapısının veya az miktarda cihaz verisine dayanan simülasyonun doğrulanmasında hala devam ediyor. Memristor dizisine dayalı tam donanım uygulamasında hala birçok zorluk vardır.
Örneğin cihazlar açısından son derece tutarlı ve güvenilir diziler hazırlamak gerekir; sistemler açısından memristörler, çalışma prensiplerinden dolayı (cihazlar arasındaki dalgalanmalar, cihaz iletkenlik durgunluğu, iletkenlik durumu kayması vb.) Hesaplama doğruluğunu azaltacak içsel kusurlara sahiptir. Mimari açıdan, memristor dizisinin evrişim işlevi, tamamen bağlı yapının hesaplama verimliliğiyle eşleşemeyen, sürekli örneklemeyi ve çoklu giriş bloklarının seri kayan şekilde hesaplanmasını gerektirir.
Bu araştırma sonuçlarına dayanarak, Qian He ve Wu Huaqiang ekibi, malzemeleri ve cihaz yapılarını kademeli olarak optimize etti ve yüksek performanslı memristor dizileri üretti.
Cihazlar açısından bu araştırma, MNIST el yazısı dijital görüntü tanıma görevlerini gerçekleştirmek için eksiksiz bir beş katmanlı mCNN'yi başarıyla uyguladı. Optimize edilmiş malzeme yığını (malzeme yığını), 2048 tek transistörlü bir memristör (1T1R) dizilerinde güvenilir ve tek tip analog anahtarlama davranışı sağlayabilir. Bu çalışmada önerilen hibrit eğitim mekanizmasını kullandıktan sonra, deneyin tüm test seti üzerindeki tanınma doğruluğu% 96,19'a ulaştı.
MCNN almak için hibrit eğitim yöntemini kullanın
Ek olarak, çalışma evrişim çekirdeğini üç paralel memristör konvolverinde kopyaladı, böylece mCNN'nin gecikmesini yaklaşık 2/3 azalttı. Bu araştırmada elde edilen son derece entegre nöromorfik sistem, memristor tabanlı evrişim operasyonu ile tam bağlı VMM arasındaki iş hacmi boşluğunu kapatır ve böylelikle CNN'nin verimliliğini büyük ölçüde iyileştirmek için uygun bir çözüm sunar.
Mimari açısından, memristörlere dayanan önceki demolar tek bir diziye dayanıyordu.Bunun ana nedeni, yüksek oranda tekrarlanabilir diziler üretmenin büyük zorluklarla karşı karşıya olmasıdır. Memistör cihazlarının değişkenliği ve kusurlu özellikleri, nöromorfik hesaplama uygulamaları için ana darboğaz olarak kabul edilir. Bu araştırma, sinir ağları için uygun, memristörlere dayalı esnek bir bilgi işlem mimarisi önermektedir.
Depolama ve hesaplama entegre sistem mimarisi
Memristor ünitesi bir TiN / TaO_x / HfO_x / TiN malzeme yığını kullanır ve elektrik alanını ve ısıyı ayarlayarak, her iki geliştirme (SET) ve bastırma (RESET) durumunda sürekli iletkenlik ayarlama yetenekleri sergiler. Malzemeler ve üretim süreci, geleneksel CMOS işlemiyle uyumludur, böylece memristor dizisi, işlem değişikliklerini azaltmak ve yüksek yeniden üretilebilirlik elde etmek için gofretin arka uç işlemine kolayca yerleştirilebilir. Elde edilen çapraz dizi, aynı programlama koşulları altında tek tip analog anahtarlama davranışına sahiptir. Bu nedenle, çoklu memristör dizisi donanım sistemi, özel bir baskılı devre kartına (PCB) ve FPGA değerlendirme kartına (ZC706, Xilinx) dayanmaktadır.
Sistem açısından, sistem esas olarak sekiz memistöre dayalı işleme elemanı (PE) içerir. Her PE, 2048 birimlik bir memristor dizisini entegre eder. Her memistör, 1T1R konfigürasyonu olan transistörün boşaltma terminaline bağlanır. Çekirdek PCB alt sistemi sekiz memristor dizisi yongasına sahiptir ve her memristor dizisi 128 × 161T1R birimine sahiptir. Yatay yönde 128 paralel kelime satırı ve 128 kaynak satırı ve dikey yönde 16 bit satırı vardır.
Memristor tabanlı donanım sistemi güvenilir çok seviyeli iletkenlik durumuna sahiptir
Dizi, oldukça tekrarlanabilir bir çok seviyeli iletkenlik durumu sergiledi ve depolama-bilgi işlem entegre mimarisinin tam bir donanım uygulamasının fizibilitesini başarıyla kanıtladı.
2. Avantajları nelerdir?
Hepimizin bildiği gibi, CNN en önemli derin sinir ağlarından biridir ve görüntü tanıma, görüntü bölümleme ve hedef algılama gibi görüntü işleme ile ilgili görevlerde önemli bir rol oynar.
CNN'nin tipik hesaplama adımları, çok sayıda kayan evrişim işlemi gerektirir. Bu perspektiften bakıldığında, CNN, paralel çoklu biriktirme (MAC) işlemlerini destekleyen bir bilgi işlem birimine ihtiyaç duyar. Bu, CNN'yi daha yüksek performans ve daha düşük enerji tüketimiyle çalıştırmak için geleneksel bilgi işlem sistemlerinin yeniden tasarlanmasını gerektirir.Bu bilgi işlem sistemleri, genel uygulama platformlarını (GPU gibi) ve uygulamaya özel hızlandırıcıları içerir.
Bununla birlikte, bilgi işlem verimliliğinin daha da iyileştirilmesi, nihayetinde sistemin von Neumann mimarisi ile sınırlıdır.Bu mimarideki bellek ve işlem birimleri fiziksel olarak ayrılmıştır, bu da büyük miktarda enerji tüketimi ve farklı birimler arasında yüksek veri aktarımı gecikmesi ile sonuçlanır.
Bunun aksine, memristörlere dayalı nöromorfik hesaplama, von Neumann olmayan bir hesaplama paradigması sağlayabilir, yani verileri depolayabilir ve böylece veri geçişinin tüketimini ortadan kaldırabilir. Memristor dizisi, doğrudan Ohm'un toplama yasasını ve Kirchhoffs'un çarpma yasasını kullanır, böylece paralel bellek içi MAC işlemlerini uygulayabilir ve böylece bellek içi hesaplamayı simüle edebilir ) ve hız ve enerji verimliliğinde önemli bir artış sağlayarak hataları azaltır.
referans:
Doğa: Tamamen donanım uygulamalı mermrist veya evrişimli ağ ağı
