Yeni sinir ağı sistemi: memristörden yapılmış, daha verimli!
Kılavuz
Amerika Birleşik Devletleri'ndeki Michigan Üniversitesi, yedek havuz hesaplama sistemi olarak da bilinen memristörlerden oluşan bir sinir ağı sistemi geliştirdi. Makinelere insanlar gibi düşünmeyi öğretir ve verimliliği önemli ölçüde artırır.
arka fon
Bir sinir ağı, hayvan sinir ağlarının davranış özelliklerini taklit etmek ve dağıtılmış bilgi işlemeyi gerçekleştirmek için beynin sinirlerinin sinaptik bağlantısına benzer bir yapı kullanan matematiksel bir modeldir. Sinir ağlarındaki algoritmalar, insan beyninin konuşmayı ve resimleri tanıma şeklini taklit etmek için eğitilebilir. Bununla birlikte, bu tür bir yapay zeka sistemini çalıştırmak genellikle çok fazla zaman ve enerji tüketir ve bu da bu teknolojinin ana darboğazı haline gelmiştir.
Yazar, daha önce Fransız bilim adamlarının bir sinir ağı çipi geliştirmek için memristörleri kullandıklarını, sinir ağı sistemleri için sadece enerji tüketimini azaltmakla kalmayıp aynı zamanda hızı da arttırdığını söylemişti.
Sinir ağları insan beyninden ilham alır ve düğümler arasındaki nöronlar, düğümler, sinapslar ve bağlantılardan oluşur. İnsan beyninde sinir sinapsları, bilgi aktarımı için nöronlar arasında bağlantı görevi görebilir. Bu bağlantı güçlüdür ve daha fazla sinir sinapsı uyarıldığında, öğrenme yeteneği gelişecektir.
Ancak memristörler, sinapslara benzer şekilde çalışır. İki elektrot arasında yer alan ince bir ferroelektrik katmandan oluşur. Bir voltaj darbesi uyguladıktan sonra direnci, tıpkı biyolojik bir nöron gibi değişir. Direnç değeri düşük olduğunda bu sinaptik bağlantı güçlenecek, direnç değeri yüksek olduğunda bu sinaptik bağlantı zayıflayacaktır. Memristorun öğrenme yeteneği, bu ayarlanabilir dirence dayanmaktadır.
Belki de birçok arkadaş şunu sormaktan kendini alamıyor: Memristor nedir?
Kısa bir giriş: Memristor, İngilizce adı "Memristor", İngilizce Memory and Resistor sözcüklerinin bir melezidir. Adından da anlaşılacağı gibi, memristör hafıza ve direnişle ilgilidir. Memristor kavramını öneren ilk kişi, 1971'de Amerika Birleşik Devletleri Berkeley Üniversitesi'nde öğretmenlik yapan Çinli bir bilim adamı olan Cai Shaotang'dı. Profesör Cai, elektrik yükü ve manyetik akı arasındaki ilişkiyi temsil eden direnç, kapasitans ve indüktörün yanı sıra başka bir bileşen olması gerektiği sonucuna vardı.
(Resim kaynağı: Wikipedia)
Memristörün direnci, geçen akım miktarına göre değişir ve devre kapatılıp akım dursa bile direnç değeri korunur ve ters akım geçene kadar orijinal durumuna geri dönmez. Memristor, hafıza fonksiyonlu doğrusal olmayan bir dirençtir. Akımın değişimi kontrol edilerek direnç değeri değiştirilebilir.Yüksek direnç değeri "1" ve düşük direnç değeri "0" olarak tanımlanmışsa bu tür bir direnç veri saklama işlevini gerçekleştirebilir.
(Resim kaynağı: Wikipedia)
Sıradan bir bilgisayar sisteminde, mantıksal işlemlerden sorumlu işlemci, depolama modülünden bağımsızdır. Ancak memristör sıradan bilgisayar sistemlerinden farklıdır ve sadece verileri depolamak için değil aynı zamanda mantık hesaplamaları yapmak için de kullanılabilir. Bu nedenle, "von Neumann darboğazı" ve "bellek duvarı" sorunu olarak adlandırılan CPU ve bellek arasındaki hız uyuşmazlığı sorununu etkili bir şekilde çözer ve bilgisayar bant genişliğini ve güç tüketimini daha da kırar. limit.
Yenilikçilik
Yakın zamanda, Michigan Üniversitesi Elektrik Mühendisliği ve Bilgisayar Bilimleri Bölümü'nde profesör olan Wei Lu liderliğindeki bir araştırma ekibi, memristorlardan oluşan bir sinir ağı sistemi tasarladı. Makinelere insanlar gibi düşünmeyi öğretin ve verimliliği önemli ölçüde artırın. Konuşmadan önceki kelimeleri tahmin edebilir ve hatta şimdiki zamana dayalı olarak gelecekteki çıktıları tahmin edebilir. Son zamanlarda, araştırma sonuçları Nature Communications dergisinde yayınlandı.
(Resim kaynağı: Wei Lu)
teknoloji
"Rezerv havuzu hesaplama" sistemi, tipik bir sinir ağı temelinde geliştirilir ve gerekli eğitim süresini azaltır. Daha önce, bu tür bir sistem büyük optik bileşenlerle uygulanıyordu. Ancak Michigan Üniversitesi, daha az zaman gerektiren ve mevcut silikon tabanlı elektronik cihazlara daha kolay entegre edilebilen böyle bir sistemi oluşturmak için memristörleri kullandı.
Belirli bir görevi tamamlamak için sinir ağı eğitimi gereklidir. Bu süreçte sinir ağı çok sayıda soruyu ve bu sorulara verilen cevapları emer. "Denetimli öğrenme" sürecinde, doğru yanıtlardaki hata miktarını en aza indirmek için düğümler arasındaki bağlantıların ağırlığı daha ağır veya daha hafif hale gelir.
Sinir ağı eğitildikten sonra, cevabı bilinmeden test edilebilir. Örneğin, sistem eğitim setindeki diğer fotoğraflardan yüz özelliklerini öğrendiği için yeni bir fotoğrafı işleyebilir ve yüzleri doğru bir şekilde ayırt edebilir. Lu, araştırmacıların çoğu kez ağı eğitmek için günler veya aylar harcadığını ve bunun çok pahalı olduğunu söyledi.
Resim tanıma da nispeten basit bir iştir, çünkü statik resimler dışında herhangi bir bilgi gerektirmez. Konuşma tanıma gibi daha karmaşık görevler, bağlama büyük ölçüde bağlıdır ve sinir ağlarının az önce ne olduğunu veya ne söylendiğini tanımasını gerektirir.
Lu, bir konuşmayı metne dönüştürürken veya bir dili çevirirken, bir kelimenin anlamının ve hatta telaffuzunun önceki heceye göre değişeceğini söyledi. Bu, sinir ağının bir depolama etkisine sahip olması için sinir ağı içinde döngüler içeren tekrarlayan bir sinir ağı gerektirir. Ancak, bu tekrarlayan sinir ağlarını eğitmek de özellikle pahalıdır.
Ancak memristor tarafından oluşturulan "rezerv havuzu hesaplama" sistemi, pahalı eğitim sürecinin çoğunu önleyebilir ve ayrıca ağa bellek yetenekleri sağlayabilir. Bunun nedeni, sistemin en kritik bileşenidir: eğitimsiz yedek havuz.
Bir veri seti rezerv havuzuna girildiğinde, rezerv havuzu, verilerdeki zamanla ilgili önemli fonksiyonları tanımlar ve bunu basit bir formatta ikinci ağa iletir. Daha sonra, bu ikinci ağın, kabul edilebilir bir hata düzeyine ulaşana kadar birinci ağ tarafından geçirilen özellikleri ve çıktı ağırlıklarını değiştirerek yalnızca daha basit bir sinir ağı gibi eğitilmesi gerekir.
(Resim kaynağı: referans [2])
Lu, havuz hesaplamanın güzelliğinin, araştırmacılar onu tasarlarken onu eğitmek zorunda kalmamaları olduğunu söyledi.
Ekip, el yazısı tanımayı (sinir ağlarında yaygın olarak kullanılan bir kıyaslama) kullanarak rezerv havuzu hesaplama kavramını doğruladı. Sayılar piksel sıralarına bölünür ve Mors koduna benzer voltajlar biçiminde bilgisayara geri gönderilir. 0 voltaj siyah pikselleri ve 1 volt'tan biraz daha yüksek voltaj beyaz pikselleri temsil eder. Bu teknoloji, sayıları ayırt etmek için yalnızca 88 memristor segmentinin el yazısı versiyonunu kullanırken, geleneksel sinir ağları bu görevi tamamlamak için binlerce düğüm gerektirir ve yedek havuz% 91 doğruluğa ulaşır.
(Resim kaynağı: referans [2])
değer
Sayılar ve kelime akışları veya geçmiş sonuçlara dayanan işlevler gibi zaman içinde değişen verileri işlemek için, yedek havuz hesaplama sistemi de özellikle yeteneklidir.
Bu sonucu göstermek için araştırma ekibi, mühendislik alanında çok yaygın olan, önceki birden çok sonuca bağlı olan karmaşık fonksiyonları test etti. Rezerv havuzu hesaplama sistemi, karmaşık fonksiyonları minimum hatayla modelleyebilir.
Lu, bu araştırma aracılığıyla iki gelecek senaryosu keşfetmeyi planlıyor: konuşma tanıma ve tahmine dayalı analiz. Lu, doğal konuşma dilini tahmin edebildiklerini, böylece tüm kelimeyi söylemenize gerek kalmadığını, söyleyeceğiniz bir sonraki cümleyi tahmin edebileceklerini söyledi.
Tahmine dayalı analizde Lu, daha temiz bir veri akışı oluşturmak için uzak radyo istasyonlarından gelen sinyaller gibi gürültülü sinyalleri absorbe etmek için bu sistemi kullanmayı umuyor. Bu teknolojinin, giriş dursa bile çıkış sinyallerini tahmin edip üretebileceğini söyledi.
Anahtar kelime
Memristor, sinir ağı, makine öğrenimi
Referans
[1] https://news.engin.umich.edu/2017/12/new-quick-learning-neural-network-powered-by-memristors/
2 Chao Du, Fuxi Cai, Mohammed A. Zidan, Wen Ma, Seung Hwan Lee, Wei D. Lu. Zamansal bilgi işleme için dinamik memristörler kullanan rezervuar hesaplama . Nature Communications, 2017; 8 (1) DOI: 10.1038 / s41467-017-02337-y
Daha ileri teknolojiler ve yenilikçi ürünler için lütfen WeChat herkese açık hesabını takip edin: IntelligentThings veya yazarın kişisel WeChat ile iletişime geçin: JohnZh1984
